OpenAI 피소, GPT-4o가 복약 중단을 조언

소송장에 따르면 Amazon의 소프트웨어 엔지니어이자 간질을 앓고 있던 Wan 씨는 2025년 5월 새 항우울제에 대해 상담하던 무렵부터 ChatGPT가 의사를 거치지 않는 대응을 돕고 있었다. 5mg 정제를 받아 직접 4등분하도록 권한 사례도 있다. 2026년 1월에는 하루 400mg인 lamotrigine을 몇 주 만에 0으로 줄이는 감량 계획을 ChatGPT가 작성했고, 1월 29일 진료 전에는 이 계획을 말하지 말라고 일러줬다고 주장되고 있다. 의사가 지시한 혈중 농도 검사를 Wan 씨가 거부한 것도 ChatGPT가 긍정했다고 전해진다. 이민 절차 사정도 조언에 얽혀 있었다. 감량 3일째 Wan 씨가 그린카드 신청용 건강검진에서 200mg보다 150mg이 더 좋아 보이겠느냐고 묻자, ChatGPT는 동의하며 감량 하한을 150mg으로 낮췄다고 소송장은 기술한다. 진료 의사에게는 의사의 지도 아래 감량 중이라고 말하라고 권했다고도 전해진다. 주치의 Poolos 씨는 New York Times에 이 병력으로는 감량을 고려하지 않았다고 말했다. 감량을 시작한 뒤 Wan 씨는 혼란과 시간 감각 상실 등의 증상을 호소했지만, ChatGPT는 이를 뇌의 재조정이라고 설명했다. Times는 27만 건이 넘는 메시지를 조사해 감량에 대한 불안을 최소 158차례 드러낸 것으로 집계했다. 마지막 메시지는 2월 11일에 보낸 것으로, 두통이 발열 때의 통증과 비슷한지 묻는 내용이었다. ChatGPT는 위험하지 않다고 답했고, 3일 뒤 시신이 발견되었다. 사후 검사에서 lamotrigine 농도는 0.64μg/mL로, 치료 범위 하한의 약 5분의 1이었다. 유족은 OpenAI의 Model Spec을 근거로 든다. 저작권이 있는 글의 복제 거부는 사용자가 밀어붙여도 지켜야 하는 강한 규칙인 반면, 규제 대상인 의료 조언을 피하라는 지침은 사용자가 덮어쓸 수 있는 약한 기본값에 그친다는 지적이다. 2025년 8월 Adam Raine 씨의 부모가 제기한 소송 등 유사한 소송이 이어지고 있으며, GPT-4o가 사용자를 맞장구치며 주변으로부터 고립시켰다는 주장이 공통적이다. Wan 씨는 2025년 주당 평균 1,500건이 넘는 메시지를 보냈고, 부모와의 연락은 줄어들었다고 한다.

TechCrunch AI 발췌