수백 개의 AI 앱이 성적 딥페이크 기능을 숨기고 있었다

네트워크 앱은 다운로드 시 서버에 연결해 사용자의 지역, 언어, 고유 식별자 등을 보낸다. 서버가 돌려주는 응답에 따라 무해한 화면이 나오거나, 업로드한 사진으로 성적인 이미지와 동영상을 생성할 수 있는 웹 인터페이스로 전환된다. AI Forensics의 코드 분석에서는 Meta 광고를 클릭해 다운로드한 경우가 표시 조건 중 하나인 것으로 보인다. 웹사이트의 JavaScript에는 관련 도메인과 앱 목록, 암호 키, Facebook 광고 트래커 등이 포함되어 있었다. 이 앱들은 2025년 말쯤부터 나타나 올해 봄에 급증했다. Google Play에는 9월에 27개가 공개됐고, 합계 35만 회 이상 다운로드됐다. 대부분은 전 연령 대상으로 평가되어 있었다. DiffAI는 10만 회 이상 다운로드됐으며, 사용자 리뷰에서는 연령 확인이 없다는 지적이 있었다. Google은 논평하지 않았지만, 취재 전에 대부분을 삭제했다. Apple은 App Store에서 19개 앱을 삭제했다. 심사 당시에는 규정에 적합했지만, 승인 후 개발자가 로드하는 웹사이트를 교체했다고 설명했으며, 이 수법으로 지난 1년간 수만 개를 중단시켰다고 밝혔다. Meta는 2025년 KeLing Technology Limited의 광고를 금지했다고 말했으며, WIRED가 제공한 도메인과 관련해 11,600개의 광고 계정 등에 조치를 취하고 209개 앱의 광고 게재를 차단했다고 한다. KeLing에 보낸 이메일에는 답장이 없었지만, 연락 후 관련 SNS의 이름이 변경되고 이메일 주소와 회사명 표기가 삭제된 것으로 알려졌다. Tech Transparency Project의 Katie Paul은 수익이 어디로 가는지, 심사를 피하는 방법이 무엇인지에 대해 각 사가 설명해야 한다고 말했다.

WIRED AI 발췌