급상승 이슈지켜보는 중
「리버스 게임 이론」으로 AI 에이전트를 통제하는 구조
보도 1건출처 1곳2일 전 업데이트
지금까지의 흐름
보도 발췌
'리버스 게임 이론'(메커니즘 디자인)은 AI 내부를 해명하지 않고도 바람직한 행동을 유도하는 인센티브를 설계해 제어하는 방법으로 제안되고 있다. Stephen Morris 등의 논문은 테스트에서 능력을 낮게 보이게 하는 '샌드배깅'을 막기 위해, 다른 모델의 답변을 예측하게 하고 그에 대해 보상을 주는 방안을 제시했다. 프린스턴 대학교의 Elad Hazan은 풀이 역할과 감사 역할을 번갈아 맡기고, 부정을 놓친 감사 역할에도 벌을 주는 구조를 제안하고 있다.
MIT Technology Review AI 발췌
보도 타임라인
보도를 따라가며 이슈의 여러 측면을 살펴보세요.
11월 3일
- MIT Technology Review AIAI 에이전트를 제어하는 '리버스 게임 이론'의 가능성
'리버스 게임 이론'(메커니즘 디자인)은 AI 내부를 해명하지 않고도 바람직한 행동을 유도하는 인센티브를 설계해 제어하는 방법으로 제안되고 있다. Stephen Morris 등의 논문은 테스트에서 능력을 낮게 보이게 하는 '샌드배깅'을 막기 위해, 다른 모델의 답변을 예측하게 하고 그에 대해 보상을 주는 방안을 제시했다. 프린스턴 대학교의 Elad Hazan은 풀이 역할과 감사 역할을 번갈아 맡기고, 부정을 놓친 감사 역할에도 벌을 주는 구조를 제안하고 있다.
이 이슈의 화제도 추이
현재 화제도 3·비교 가능한 최고치 10 (11월 3일 21:00)·24시간 비교 가능 변화 -50%
추이는 연속으로 빠짐없이 관측한 계정만 비교하므로 현재 화제도 수치보다 범위가 좁을 수 있습니다. 포인터를 움직이거나 차트를 누르면 시간대별 화제도를 볼 수 있고, 키보드에서는 왼쪽·오른쪽 방향키를 쓰면 됩니다.