싱가포르 정부, 사기 탐지 AI 앱 공개 베타 출시

AntiScam Pango는 WhatsApp, Telegram, SMS 알림을 기기 안에서 분석해 사기 가능성이 있으면 화면에 팝업으로 경고한다. 사용자는 앱에서 신고할 수 있으며, 오탐이라면 "mark as safe"를 선택할 수 있다. 신고 시에는 의심스러운 메시지, 발신자, 메시지 앱, 수신 시각이 자동으로 정리되어 전송 전에 확인할 수 있다. 분석 대상은 각 앱의 최근 10개 메시지이며, 사용자 본인의 답장은 분석하지 않는다. 모델은 10만 건이 넘는 합성 메시지와 집행기관과의 사기 대응 업무에서 수집한 데이터로 학습한 소형 AI 모델이며, 학습 개선을 위해 Google DeepMind와도 협력하고 있다. 기기 안의 모델은 스스로 학습하지 않는다. 며칠마다 수신 건수와 안전 또는 의심으로 판정된 건수의 집계값만 전송되며, 팀이 탐지가 지나치게 많지 않은지 확인해 필요하면 미세 조정을 한다. 클라우드 기반 대규모 모델은 정확도가 높은 경향이 있지만, 메시지가 비공개로 유지되지 않는다는 점을 고려해 기기 안에서 작동하는 소형 모델을 선택했다고 한다. 30명이 넘는 테스트에서 고령 사용자들로부터 팝업이 잘 보이지 않는다는 의견이 나와, 다음에 화면을 열었을 때 전체 화면 빨간 경고를 표시하는 기능을 추가했다. 이 기능은 다른 앱 위에 표시하는 권한을 허용한 경우에만 작동한다. ScamShield가 통화와 SMS를 대상으로 하는 반면, 새 앱은 WhatsApp, Telegram, SMS 메시지에 대한 조기 경고를 더한다. 이 앱은 사내 해커톤에서 시작되었으며, 엔지니어 2명, 데이터 사이언티스트 1명, 프로덕트 매니저 1명으로 구성된 팀이 개발했다. 제약으로는 주로 영어에서 작동하고 속어에는 약하며, RAM이 6GB 이상인 기기가 필요하고, 이는 싱가포르 Android 기기의 70~80%에 해당할 것으로 추정한다. 모델을 압축해 지원 기기를 넓힐 계획이다. iPhone 버전은 Apple이 다른 앱의 알림 읽기를 허용하지 않아 출시 시기가 미정이며, 개인정보를 희생하지 않는다는 방침이라고 한다. 앞으로 사용자 테스트와 모델 개선을 진행하고, 100만 명이 넘게 사용하는 ScamShield로의 통합도 검토할 예정이다.

Search: AI launches 발췌