OpenAI, Daybreak Blue 사이버보안 관련 세션 데이터를 모델 학습에 활용할 계획

OpenAI plans to train models on Daybreak Blue cybersecurity session data that was previously off-limits

AI 요약

OpenAI는 11월 29일부터 Daybreak Blue의 세션 데이터를 모델 학습에 사용한다고 밝혔다. 지금까지는 「improve the model for everyone」 설정을 끈 사용자를 포함해 학습 대상에서 제외돼 있었다. Trusted Access 프로그램 참가자에게 이메일로 통지됐으나, 반발이 일자 학습 이용을 거부할 수 있는 별도의 옵트아웃을 약속하는 2차 이메일이 발송됐다.

자세히

Trusted Access 프로그램 멤버에게 보낸 이메일에 따르면, OpenAI는 11월 29일 이후 Daybreak Blue의 세션 데이터를 모델 학습에 사용한다. 이전에는 사용자가 「improve the model for everyone」을 껐는지 여부와 관계없이 이 데이터는 학습 대상에서 제외돼 있었다. 안전성 검토에서 탐지된 대화는 계속해서 안전 목적으로 활용할 수 있다고 한다.

통지에 대한 반발이 빠르게 일자, OpenAI는 학습 이용을 거부할 수 있는 별도의 옵트아웃을 마련하겠다는 내용의 2차 이메일을 보냈다.

출처: The Decoder · the-decoder.com