OpenAI는 다음 사내 보안 스프린트를 계획하고 Cathedral Systems와 협력해, 이 회사 연구자들이 OpenAI 모델을 활용해 자사 방어 체계를 검증하도록 한다. 중대한 발견에 대한 버그 포상금은 4배 이상 인상되며, 예외적인 발견에는 보너스를 포함해 최대 17만 2000달러가 지급된다. 회사는 앞으로도 모델을 고도화해 자사 시스템을 강화하고, 신뢰할 수 있는 방어 측에 대한 접근을 넓혀 나갈 방침이라고 밝혔다.
As AI becomes more capable at finding vulnerabilities, defenders need to put it to work before attackers do.
We’re planning our next internal security sprint at OpenAI and partnering with Cathedral Systems, whose researchers will use our models alongside our teams to challenge our defenses. They’ll bring differentiated expertise and approaches to our ongoing work to find and fix weaknesses with AI.
We’re also raising bug bounty rewards, including more than quadrupling rewards for critical findings. Exceptional findings will be eligible for up to $172,000, including bonuses.
We’ll keep advancing our models, using them to strengthen our own systems, and expanding access for trusted defenders.
https://openai.com/index/preparing-our-next-security-sprint-to-harden-openai/
출처: OpenAI · x.com