Hugging Face Daily Papers·· 10일 전AI 점수28
대규모 모델 시대의 신뢰할 수 있는 재귀적 자기 개선: 기반, 위험, 평가, 미해결 과제에 관한 서베이
Trustworthy Recursive Self-Improvement in the Era of Large Models: Foundation, Risks, Evaluation and Open Challenges
AI 요약
본 서베이는 재귀적 자기 개선(RSI)을 조작적으로 정의하고, 신뢰할 수 있는 개선의 요건을 개선의 타당성, 제약의 유지, 효과적인 감독이라는 세 관점에서 정리한다. 대상은 개선의 진단, 제안 생성, 제안 평가, 갱신 구현(S1~S4) 및 이를 개선 메커니즘에 재귀적으로 적용하는 단계(RI)이다. 개별 갱신이나 후속 시스템에 이어지는 영향, 개선 메커니즘의 개정에 따른 위험과 평가의 근거를 검토하고, 독립적이고 장기적인 평가의 요건을 제시한다.
출처: Hugging Face Daily Papers · huggingface.co