
GraFT: 3D 장면 그래프를 활용한 다중모달 대형 언어 모델의 훈련 없는 공간 추론 프레임워크
GraFT: A Training-Free Framework for Spatial Reasoning in Multimodal Large Language Models via 3D Scene Graphs
Junqing Du, Fernando Ropero, Erkin Turkoz, Yanfeng Zhang, Lu Liu
현재 다중모달 대형 언어 모델(MLLM)은 정밀한 기하 측정, 자기중심(egocentric)과 타자중심(allocentric) 시점 변환, 세밀한 외관 파악에서 일관된 성능을 내지 못한다. GraFT는 추가 학습 없이 3D 장면 그래프(3DSG)를 통해 이 한계를 보완하는 프레임워크로, 기존 모델 가중치나 특정 백본에 종속되지 않는다. GraFT는 기호적 도구를 이용한 결정론적 기하 계산, 조감도(BEV) 렌더링을 통한 타자중심 레이아웃 파악, 자기중심 프레임 기반 시각 속성 추론 세 가지 공간 추론 기능을 제공한다. ScanQA 벤치마크에서 동일 백본 기준선 대비 CIDEr 점수를 27% 향상시켰으며, VSI-Bench에서는 동결(frozen) MLLM 성능을 최대 65% 끌어올려 독점 모델 및 다수의 파인튜닝 기반 공간 추론 모델을 상회하는 결과를 보였다.






