Hugging Face Blog·· 2026년 9월 29일AI 점수47
MCP 에이전트 답변의 출처를 검증하는 ProvenanceGuard
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 요약
Hugging Face는 MCP 에이전트의 답변을 출처 단위로 검증하는 후처리 레이어 ProvenanceGuard를 제안했다. 근거 전체로는 뒷받침되지만 답변이 지목한 출처가 아닌 다른 출처에만 존재하는 주장, 이른바 출처 오인을 탐지한다. 의료 에이전트의 281건 트레이스로 평가한 결과, 전문가가 통과시키면 안 된다고 본 139건 중 138건을 탐지했으며, 뒷받침된다고 판단된 67건은 재확인이나 수정 대상으로 넘겼다.
출처: Hugging Face Blog · huggingface.co