디즈니, 파산 신청 중인 Character.AI의 챗봇 기술에 2,000만 달러 제시

디즈니가 파산을 신청한 Character Technologies의 챗봇 기술에 2,000만 달러를 제시했다. Character.AI는 서비스를 계속하겠다고 밝혔으며, 매각은 2026년 11월 말이나 12월 초에 완료될 것으로 예상한다. 한편 매각 대상에 채팅 로그 등 민감한 데이터가 포함되는지에 대해 회사는 언급을 피하고 있다.

Anthropic@AnthropicAIAI 점수4242

최근 몇 달간 Claude에 대한 증류 공격의 효과를 떨어뜨리는 데 크게 진전을 이뤘다. 이번 게시글에서는 그 방법을 설명한다: https://www.anthropic.com/research/distillation-defenses

AI의 ‘거부’에 지나치게 기대는 안전 대책에 대한 경고, MIT Technology Review

AI가 위험한 요청을 거부하는 능력은 안전 대책의 핵심이 되어 있지만, 확률적 구조라 신뢰성에 한계가 있으며 정부의 검열에도 쓰일 수 있다고 저자 Arthur Holland Michel은 주장한다. 거부 동작이 내부에서 어떻게 일어나는지는 가설 수준에 머물러 있고, 기업들은 분류기를 겹겹이 쌓아 대응하고 있지만 탈옥(jailbreak)은 끊이지 않는다.

Anthropic, Genesis Mission에 3년간 1억 5000만 달러 출연…미국 연방기관에 Claude 제공

Anthropic은 AI를 활용한 과학적 발견을 가속하는 미국 연방 이니셔티브 'Genesis Mission'에 3년간 1억 5000만 달러를 출연한다. NASA, National Institutes of Health, National Science Foundation을 포함한 15개 이상의 기관에 Claude를 제공하며, 수백 개의 연구 프로젝트에 Claude, Claude Code, API 크레딧을 지원한다.

Anthropic, 2026년판 Usage Policy 공개… 11월 12일 시행

Anthropic은 연례 이용 정책(Usage Policy)의 개정판을 공개하고 11월 12일부터 시행한다고 밝혔다. 이번 변경은 대부분 기존 규칙을 명확히 한 것으로, 기만적 활동에 관한 새 섹션 추가, 무기와 감시 관련 기술의 구체화, 고위험 용도의 요건 정리, 모델에 대한 학대 행위 금지 등이 포함됐다.

사이버 리스크 논쟁은 무너졌다: 오픈 웨이트 모델 규제를 둘러싼 Nathan Lambert의 주장

Nathan Lambert는 오픈 모델의 사이버 리스크를 둘러싼 논의가 지나치게 단순화되어 있으며, 규제가 미국의 AI 경쟁력을 해치고 장기적으로 오히려 위험을 키울 수 있다고 주장한다. Anthropic의 GLM-5.3 관련 보고서에 대해서는 금지의 영향이나 중국 기업이 공개를 안전하다고 보는 이유를 깊이 다루지 않았다고 비판한다. 오픈 모델을 금지한다면 클로즈드 모델의 공개 API도 불법으로 해야 한다고 论述한다.

EU 텍스트 출처 규칙에 대한 OpenAI의 대응

OpenAI가 EU 규칙에 따른 텍스트 전자 워터마크(watermarking) 대응 방침을 밝혔다. 워터마크가 적용되는 범위와 탐지 방식을 설명했으며, 탐지 기능에 대한 접근은 우선 연구자부터 시작한다고 밝혔다.

Sam Altman, 유엔 안전보장이사회 발언

OpenAI의 Sam Altman CEO가 유엔 안전보장이사회에서 한 발언에서 AI의 안전성, 인간에 의한 통제, 국제 협력에 대해 이야기했다. 원문은 발언의 논점을 보여주는 개요만 담고 있어, 구체적인 제안이나 수치는 포함되어 있지 않다.

Import AI 473: 미국의 초지능 전략, 쥐 두개골 안의 인간 뇌 조직, 기계 해석학

RAND는 초지능으로 가는 불확실한 길에서 미국이 지정학적 우위를 확보하려면 모든 선택지를 열어 두는 「행동의 자유(Freedom of Action)」 전략이 최선이라는 논문을 발표했다. 이 전략은 인간과 AI의 생태계 구축, AI 보안 기반 정비 등 네 개의 축으로 이루어져 있으며, Dominance, Moratorium, Acceleration 등 일곱 가지 전형적 전략을 세 계열로 정리하고 있다. 저자는 현재 미국의 상황이 「가속」 전략에 가깝다고 본다.

오픈 모델의 현재 세력도: 미중 오픈 웨이트 경쟁의 현황

Nathan Lambert가 미국 의회 관계자를 대상으로 한 설명 자료를 바탕으로, 오픈 웨이트 모델을 둘러싼 미중 경쟁의 현황을 정리했다. 2026년 9월 14일 기준 Artificial Analysis Intelligence Index에서는 GLM-5.3이 45점, Kimi K3이 44점으로, 미국 진영 최고 점수인 Inkling의 26점을 크게 웃돈다. Hugging Face 다운로드 수에서도 중국은 누적 3.2B로 미국의 두 배에 달한다.

Microsoft AI, MAI 모델 행동 강령 초안 공개하고 의견 수렴

Microsoft AI는 MAI 모델의 개발과 운영 지침이 되는 「Humanist AI Code of Conduct」의 초안을 공개하고, 향후 6주간 공개 협의를 시작했다고 밝혔다. 모델이 사람에 의한 중단, 수정, 정지에 저항하지 않도록 규정하며, 대량살상무기와 아동 안전 등을 대상으로 하는 절대적 제약도 마련했다. 협의가 끝나면 피드백 요약과 변경 사항을 공개하고, 개정판은 올해 하반기에 공개할 예정이다.

Interconnects, 오픈소스 AI·오픈 모델 읽기 목록 공개

Interconnects(Nathan Lambert)가 최근 몇 년간 오픈 모델과 관련한 우수 기사를 정리한 읽기 목록을 공개했다. 기초, 미중 경쟁 등 주제별로 분류되어 있으며 각 기사의 발표 시기도 함께 표기됐다. 이 목록은 2026년 10월 26일에 마지막으로 갱신됐다.

Import AI 465: 오픈 모델과 비공개 모델 격차 축소, Kimi K3, Demis Hassabis의 규제안

Import AI 465는 영국 AISI 분석에서 사이버 능력 면의 오픈 웨이트 모델과 비공개 프런티어 모델 간 격차가 4~7개월로 좁혀졌다고 전했다. 아울러 2.8조 파라미터의 Kimi K3, Demis Hassabis의 FINRA형 규제안, LLM의 부차적 작업 은폐에 관한 연구를 다룬다.

Nathan Lambert, 향후 6개월 내 오픈 모델이 금지되거나 출시가 지연될 수 있다고 주장

Nathan Lambert는 백악관의 논의를 계기로 오픈 웨이트 모델에 대한 규제가 현실성을 띠고 있다고 주장했다. GPT 5.5, Claude Opus 4.8, GLM-5.2 수준을 크게 웃도는 모델의 금지나 무기한 연기가 가장 가능성 높은 조치로 보고 있으며, 향후 6개월 이내에 일어날 수 있다고 내다봤다. 증류를 둘러싼 논의는 Anthropic이 주도하는 규제 울타리 치기라고 비판했다. 대응책으로는 미국 기업이 같은 수준의 오픈 모델을 공개하고 연합을 구성하는 방안을 제시했다.

LG AI연구원, 인도 AI 정상회의서 한국판 AI 위험분류체계 K-AUT 공개

LG AI연구원이 인도 뉴델리에서 열린 ‘인도 AI 정상회의(India AI Summit)’에서 자체 개발한 범용 AI 위험분류체계 한국판 ‘K-AUT(Korea-Augmented Universal Taxonomy)’를 공개했다. K-AUT는 인류 보편적 가치.

Mistral AI, 정부·공공기관용 'AI for Citizens' 발표

Mistral AI는 정부와 공공기관이 AI를 전략적으로 활용하도록 돕는 협업 이니셔티브 'AI for Citizens'를 발표했다. 공공 서비스 혁신, 혁신 촉진, 경쟁력 확보를 지원한다. 이 회사는 프랑스, 룩셈부르크, 싱가포르, 네덜란드, 잉글랜드, 스위스 등의 정부 및 공공기관과 이미 협력하고 있다고 밝혔다. 자체 호스팅, Mistral AI 또는 현지 파트너의 AI 데이터센터, SaaS 및 serverless API 중에서 도입 방식을 선택할 수 있으며, 데이터를 해당 국가의 관할 내에 보관할 수 있는 것이 특징이다.