
"역게임이론"으로 AI 에이전트 규율한다는 제안
안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지 못하도록, 다른 모델의 답을 예측하는 능력에 보상을 주거나 에이전트끼리 경쟁·대조시키는 방안을 담은 프리프린트 논문을 발표했다. 프린스턴대 엘라드 하잔 교수는 인간 사회의 사법제도처럼 모델을 "해결자"와 "감사자" 역할로 번갈아 맡게 하고, 부정행위를 놓친 감사자도 처벌하는 방식을 제안했다. 다만 이 접근은 AI가 합리적으로 행동한다는 전제에 의존하는데, 플랫아이언 연구소의 헬렌 큐는 AI가 실제로 유인에 반응할지에 의문을 제기했다.