The Verge 기자, Amazon Bee Frontier 3주간 사용해 보니 AI 요약이 기억과 어긋나는 문제 발생

Bee Frontier는 대화를 모두 녹음해 AI로 문자 변환과 요약을 하는 웨어러블 기기다. 저자가 처음 써 본 약 19개월 전과 비교해 TV 소리와 본인의 발화를 구별하는 능력이 좋아졌고, 캘린더와 사진 앱의 정보도 가져올 수 있게 되었다. 대화 내용을 바탕으로 제안하는 할 일 목록, 성장 방향을 제시하는 Grow 기능, 챗봇도 갖췄다. 일 이야기를 떠올리는 데는 도움이 됐지만, 많은 상황에서 현실을 의심하게 만드는 원인이 됐다고 한다.

잘못된 예로는 대화에 등장하지 않은 동료의 배우자와 자주 말다툼을 한다거나, 가족이 진단받지 않은 양극성 장애를 앓고 있다고 생성한 내용이 있었다. 기르는 고양이 두 마리의 별명을 다른 고양이 여섯 마리가 있는 것으로 해석한 사례도 있다. 이런 오류는 웃을 만한 수준이었지만, 진지한 대화에서는 인상이 달랐다. 치료 상담 후에는 어린 시절 가정 폭력에 관한 '사실'이 생성됐고, 승인을 위해 오른쪽으로 스와이프하는 조작 자체가 괴로웠다고 한다. 요약의 제목이나 말투 분석도 저자가 기억하는 가벼운 느낌과 맞지 않았다.

건강검진 중에도 기기를 빼는 것을 잊어버려 진료 내용이 기록되었다. 템플릿을 의료용으로 바꾸자 사실 중심의 요약이 되어 다시 보기는 편했지만, 기록과 자신의 기억이 다른 부분은 남았다. Grow 기능은 취미에 관해 이야기한 내용을 바탕으로 '취미가 너무 많아 꾸준히 이어가지 못한다'고 평가했는데, 올해 39권을 읽었고 17년째 이어 온 캘리그래피라는 실제와는 맞지 않았다. 정치 대화에서도 행동 제안이 나왔지만, 실제 활동 경험은 반영되지 않았다.

저자는 치료 상담 중에도 Bee를 착용한 채 의견을 구했다. 치료사는 이런 기기가 무엇을 해야 할지에 대한 본인의 직감에 대한 신뢰를 넘어설 수 있다고 말했고, 감정에 맞지 않는 통찰이 문제를 악화시킬 수 있다고 지적했다. 이 조언은 Bee의 요약에는 포함되어 있지 않아 원본 문자 변환으로 확인해야 했다. 생성된 할 일 목록에는 Amazon 링크가 달린 네일 글루를 사라는 항목이 들어 있었다.