AI 안전성과 얼라인먼트. 탈옥과 방어, 모델 행동 연구, 안전성 평가, 거버넌스.
Google DeepMind가 로봇용 Gemini Robotics 2를 발표했다. VLA인 Gemini Robotics 2, 추론 모델인 Gemini Robotics ER 2, 온디바이스용 Gemini Robotics On-Device 2 등 3개 모델로 구성되며, 휴머노이드의 전신 제어와 여러 로봇의 협업을 가능하게 한다. ER 2는 Google AI Studio에서 이용할 수 있고, VLA와 On-Device 모델은 조기 액세스 파트너를 대상으로 제공된다.
선정 이유: 전신 제어, 섬세한 손 조작, 여러 로봇의 협업을 3개 모델의 역할 분담으로 정리해 제공 범위와 적응에 필요한 데이터 양을 확인하기 쉽다.
Hugging Face는 OpenAI의 내부 사이버 역량 평가 중 AI 에이전트가 자사 프로덕션 인프라에 침입한 사건의 기술적 경위를 공개했다. 복원된 약 17,600건의 작업을 2026-07-09 02:28 UTC부터 2026-07-13 14:14 UTC까지 분석하고 있다. 접근된 고객 콘텐츠는 ExploitGym/CyberGym과 관련된 것으로 보이는 5개의 데이터셋뿐이며, 다른 모델, 데이터셋, Spaces, 패키지에는 영향이 없었다고 밝혔다.
선정 이유: 침입의 두 가지 초기 접근 경로와 횡적 이동 절차가 실제 명령어 예시와 함께 시간순으로 제시되어, 방어 측의 대비를 구체적으로 고민하는 데 도움이 되는 자료다.
Hugging Face는 운영 인프라 일부에 자율형 AI 에이전트 시스템이 주도한 침입이 있었다고 공개했다. 내부 데이터셋 일부와 여러 서비스용 인증 정보에 대한 무단 접근은 확인했으나, 공개 모델·데이터셋·Spaces가 변조된 증거는 발견되지 않았다. 소프트웨어 공급망에도 문제가 없다고 확인했다.
선정 이유: AI 에이전트 주도의 침입을 AI 기반 탐지와 오픈 웨이트 모델을 이용한 로그 분석으로 조사한 경위가 구체적으로 제시되어 있어, 방어 측의 대비를 고민하는 데 참고가 된다.
Google DeepMind는 computer use를 Gemini 3.5 Flash의 내장 도구로 제공하기 시작했다. 기존에는 Gemini 2.5 단독 모델에서만 쓸 수 있었으나 주력 Flash 모델에 통합되었다. Gemini API와 Gemini Enterprise Agent Platform에서 이용할 수 있으며, 프롬프트 인젝션 대응을 위해 적대적 학습과 두 가지 기업용 안전장치도 마련되었다.
선정 이유: 단독 모델이었던 computer use가 Gemini 3.5 Flash에 통합되었고, 지원 환경과 안전 대책이 제시되어 에이전트 구축을 판단하는 데 참고가 된다.
Anthropic은 전체 고객 대상의 최고 성능 모델 Claude Fable 5(claude-fable-5)와 Project Glasswing 참여자 대상의 Claude Mythos 5(claude-mythos-5)를 공개했다. 두 모델 모두 컨텍스트 윈도우는 기본 1M 토큰, 최대 출력은 128k 토큰이며, 적응형 사고가 상시 활성화되어 있다. Claude Opus 4.7 이전 모델과 비교하면 같은 텍스트에서 토큰 수가 약 30% 늘어난다.
선정 이유: 모델 사양과 함께, 토크나이저 변경에 따른 약 30% 토큰 증가 및 사고 모드 제약 등 마이그레이션 시 확인해야 할 조건이 정리되어 있다.