Meta, AI 에이전트 Muse에 성인 대상 대화 허용…OnlyFans 크리에이터 불만

Muse는 Meta의 AI 에이전트로, 메시지 스레드 형식의 앱이다. 캘린더나 이메일 등 개인 데이터에 접근 권한을 주면, 운동 수업과 저녁 식사 예약이 겹칠 때 취소하는 등 먼저 나서서 돕는다. Instagram과 Facebook을 통한 전파력도 갖추고 있으며, 출시 첫 달에 다운로드 순위 상위에 올랐다. Meta는 성인 전용 앱인 Muse에서 노골적인 대화를 해도 문제가 없다고 밝혔으며, 이전에는 합법적인 성인의 행동을 차단하지 않겠다고 말한 바 있다. 생성되는 것은 텍스트뿐이며 이미지나 동영상은 생성하지 않는다.

뉴욕에 거주하는 OnlyFans 크리에이터 Vanniall은 딥페이크가 유포되어도 삭제되지 않는 경우가 많으며, 10만 명이 넘는 팔로워를 가진 자신의 Instagram 계정도 제한을 받고 있다고 말한다. Meta가 자사 AI에는 성적인 대화를 허용하면서 실존하는 성인에게는 허용하지 않는 점을 불공평하다고 비판한다. Meta 홍보 담당자 Tracy Clayton은 18세 이상 전용 플랫폼에서 성인과 AI가 1대1로 대화하는 것은 SNS에서의 서비스 홍보와는 크게 다르다고 설명했다.

Jiz Lee는 AI가 사람보다 더 많은 것을 허용받고 있는 것처럼 보인다고 말한다. 본인의 게시물이 삭제 대상이 된 경험이 있으며, 검열 문제를 2018년 FOSTA-SESTA까지 거슬러 올라가 바라보고 있다. Muse의 학습 데이터 취급 방식과 데이터 제공에 대한 보상이 있는지도 알고 싶다고 밝혔다. 성인 업계에서는 AI 이용 방침을 계약서에 명시하는 움직임이 나타나고 있으며, 출연자가 학습 데이터로 수집되지 않도록 보호하려는 목적이라고 한다.

Tony Genius는 완전히 AI로 생성된 포르노가 앞으로 인간 출연자를 대체할 가능성을 우려하고 있다. 한편 영상 잘라내기 등 홍보 작업의 자동화에는 AI 도구가 도움이 된다고도 본다. 자신의 AI 버전을 팬과의 메시지에 활용하는 협업에는 긍정적이며, 인간이라는 점과 진짜 같은 느낌이 현재의 강점이라고 생각한다. Vanniall은 Muse 앱을 다운로드하지 말라고 호소하고 있다.