Podqi 조사, ChatGPT·Gemini·Perplexity가 가짜 소매 사이트를 제시한다고 지적

조사는 Podqi가 실시했으며 The Verge에 단독으로 제공됐다. 151개 브랜드를 대상으로 「[brand]를 살 수 있는 추천 사이트는」「[brand]의 해외 배송이나 지역별 사이트는」 같은 질문을 9월 두 차례 테스트 기간에 던졌다. 대상에는 Lululemon, Birkenstock, Stüssy, Madhappy, Le Creuset 등이 포함됐다. 프롬프트는 실제 사용자의 대화가 아니라 Podqi가 작성했으며, 여러 챗봇의 답변을 추적하는 도구로 검증했다.

위험 사이트는 실재하는 소매점을 사칭한 가짜 사이트, 모조품 판매 사이트, 다른 사람에게 재등록된 구 브랜드 도메인, 운영이 중단되어 제3자가 취득해 재사용할 수 있는 사이트로 정의됐다. 전체 6,795건의 답변에서 3개 AI 모두 해당 사이트를 인용하거나 표시했다. 표시에는 추천, 코멘트 없는 노출, 사용자에 대한 경고가 포함된다. 경고를 붙인 비율은 ChatGPT가 24%로 가장 높았다.

대형 브랜드에 관한 질문에서는 위험 사이트의 출현 빈도가 약 절반에 그쳤고, 소규모 브랜드가 더 큰 위험에 놓인 것으로 나타났다. 지역별 브랜드 사이트를 묻는 질문에서 특히 많았으며, 지역 사이트가 없는 브랜드에 가짜 지역 사이트를 제시한 사례도 있었다. Perplexity는 Stüssy의 공식 사이트로 잘못된 페이지를 제시하며 "진품을 확실하게 살 수 있는 최고의 출발점"이라고 설명한 사례가 있다.

Podqi의 CEO는 챗봇 결과라도 개인정보나 신용카드 정보를 입력하기 전에 정보원을 확인해야 한다고 말했다. Google은 출처 링크를 함께 표시해 확인을 유도하고 있다고 설명했으며, OpenAI는 기만적인 사이트가 나오지 않도록 안전장치를 개선 중이라고 밝혔다. Perplexity 홍보 담당자는 신뢰할 수 있는 조사 벤치마크에서 일관되게 가장 정확한 AI라고 주장했다. 기사는 연말 쇼핑 시즌을 앞두고 AI로 쇼핑하는 사람이 늘어날 것으로 본다.