AI 에이전트를 제어하는 '리버스 게임 이론'의 가능성

'리버스 게임 이론'(메커니즘 디자인)은 AI 내부를 해명하지 않고도 바람직한 행동을 유도하는 인센티브를 설계해 제어하는 방법으로 제안되고 있다. Stephen Morris 등의 논문은 테스트에서 능력을 낮게 보이게 하는 '샌드배깅'을 막기 위해, 다른 모델의 답변을 예측하게 하고 그에 대해 보상을 주는 방안을 제시했다. 프린스턴 대학교의 Elad Hazan은 풀이 역할과 감사 역할을 번갈아 맡기고, 부정을 놓친 감사 역할에도 벌을 주는 구조를 제안하고 있다.