LG AI연구원, AI 컴플라이언스 및 지식재산권 보호 기술력 인정받아

LG AI연구원이 자체 개발한 AI 컴플라이언스 에이전트 'EXAONE Nexus'로 ICOTEC 2026 저작권 기술 어워드에서 국가지식재산위원장상을 수상했다. 데이터셋 단위 평가에서 법률 전문가 대비 45배 빠른 분석 속도, 26% 높은 정확도, 약 1,000분의 1 수준의 비용을 입증했다.

Claude Platform 릴리스 노트(2026년 11월 3일)

Claude Mythos 5, Claude Opus 4.7, Claude Sonnet 4.6이 생성한 텍스트에는 해당 플랫폼에서 Anthropic의 텍스트 워터마크가 적용된다. 다만 Claude Sonnet 4.6의 경우, temperature, top_p, top_k를 기본값이 아닌 값으로 설정한 요청으로 생성된 텍스트에는 워터마크가 적용되지 않을 수 있다. 대상 플랫폼은 "How Claude marks AI-generated content"에 명시되어 있다.

네이버, ‘AI탭’ AI 경영시스템 국제표준 ISO 42001 인증

네이버의 AI 탭이 AI 경영시스템 국제표준인 ISO 42001 인증을 받았다. 사용자 대상 에이전틱 AI 서비스 단위에서 국제표준 수준의 안전 관리 체계 요건을 충족한 국내 첫 사례이며, 모델 개발과 서비스 제공 두 측면 모두 심사를 받았다. 네이버는 AI Safety Center를 중심으로 구축한 안전 체계를 독립된 제3자 검증으로 확인받았다.

OpenAI, AI 학습의 공정 이용 지지 의견서 발췌본 공개

OpenAI는 The New York Times 소송과 관련해 AI 학습에 공정 이용(fair use)을 적용해야 한다고 지지하는 법정 의견서(amicus brief)의 발췌본을 공개했다. 기고자에는 Authors Alliance, Public Knowledge, Kevin Kelly 등의 연구자와 단체, 그리고 미국 정부 등이 포함된다. Authors Alliance는 시장 희석(market dilution) 논리를 17 U.S.C. § 107(4)상의 시장 손해로 인정하지 않도록 법원에 요청하고 있다.

OpenAI, 폴란드 NASK와 AI 안전성 분야 협력 협정 체결

OpenAI와 폴란드 국립 연구기관 NASK는 AI의 안전성, 보안 및 기술 연구 분야에서 협력을 모색하는 협정에 서명했다고 밝혔다. NASK의 AI Safety Research Center는 폴란드 AISI(AI 안전 연구소) 역할을 겸하며, 고도화되는 AI 시스템의 평가, 취약점 식별, 안전 대책 강화를 공동으로 연구한다. 양측은 지난 7월 CERT Polska가 OpenAI의 사이버 대응 모델을 활용해 MikroTik RouterOS의 취약점 6건을 발견한 실적도 이번 협정의 배경으로 삼았다.

OpenAI, 모델 제공 서비스 전반에 안전 기준 통일 및 이용 정책 업데이트

OpenAI는 자사 모델을 제공하는 각 서비스의 안전 대책을 맞추기 위해 파트너와 기준을 정렬하고, Usage Policies를 2026년 11월 20일자로 업데이트한다고 발표했다. 모델 라우터나 AI 게이트웨이처럼 직접 접근을 제공하는 서비스는 사전에 OpenAI의 심사와 승인을 받아야 한다. 고객과 협력해 엔드 유저를 식별하지 않고 조사를 진행할 수 있는 SafetyIDs 도입도 추진한다.

OpenAI, 사이버 방어자 역량 강화 청사진 공개

OpenAI는 사이버 방어자의 역량을 강화하기 위한 청사진을 공개했다. 회사는 AI가 취약점 발견과 침입 탐지에 도움이 되는 한편 악용될 위험도 있다며, 정부와 업계를 향한 제안을 정리했다. 제안은 첨단 AI의 안전성과 보안, 사이버보안 현대화, 공공기관의 회복력이라는 세 가지 분야로 구성된다.

Claude 텍스트 워터마크의 작동 방식, SynthID-Text 기반 방식 해설

Anthropic은 향후 Claude 모델이 생성하는 텍스트에 워터마크를 삽입한다고 밝혔다. EU AI Act 대응을 위한 것으로, 출력의 품질과 내용, 비용에는 실질적인 영향이 없다고 설명했다. 방식은 Google DeepMind의 SynthID-Text를 기반으로 하며, 특정 개인이나 조직, 채팅은 식별할 수 없다.

Anthropic, 싱가포르에 거점 개설 및 싱가포르 정부와 MOU 체결

Anthropic은 싱가포르에 새 사무소를 열고 같은 나라의 디지털개발정보부(Ministry of Digital Development and Information)와 MOU(양해각서)를 체결했다. APAC 지역에서는 다섯 번째 거점이다. MOU에는 AI 안전성, 보안, 모델 평가 분야에서 협력하고 기술 교류를 진행하는 계획이 담겼다. GovTech Singapore에서는 1,500명 이상의 엔지니어와 기술 직원이 Claude Code를 도입하고 있다.

Anthropic, 미국 중간선거 대비 Claude 선거 대응 강화 발표

Anthropic는 미국 중간선거에 대비해 Claude의 선거 관련 안전 대책을 강화했다고 발표했다. Democracy Works의 공식 투표 정보를 답변에 반영하고, 선거 당일 개표 결과도 표시할 예정이며, 여러 단계에 걸친 악용을 탐지하는 새로운 분류기도 추가했다. 미국에서 이루어진 Claude.ai 대화 중 약 5.75%가 정치·사회 문제를 다뤘고, 투표 대상을 묻는 요청은 약 0.01%였다.

Anthropic@AnthropicAIAI 점수4242

최근 몇 달간 Claude에 대한 증류 공격의 효과를 떨어뜨리는 데 크게 진전을 이뤘다. 이번 게시글에서는 그 방법을 설명한다: https://www.anthropic.com/research/distillation-defenses

Anthropic, Genesis Mission에 3년간 1억 5000만 달러 출연…미국 연방기관에 Claude 제공

Anthropic은 AI를 활용한 과학적 발견을 가속하는 미국 연방 이니셔티브 'Genesis Mission'에 3년간 1억 5000만 달러를 출연한다. NASA, National Institutes of Health, National Science Foundation을 포함한 15개 이상의 기관에 Claude를 제공하며, 수백 개의 연구 프로젝트에 Claude, Claude Code, API 크레딧을 지원한다.

Anthropic, 2026년판 Usage Policy 공개… 11월 12일 시행

Anthropic은 연례 이용 정책(Usage Policy)의 개정판을 공개하고 11월 12일부터 시행한다고 밝혔다. 이번 변경은 대부분 기존 규칙을 명확히 한 것으로, 기만적 활동에 관한 새 섹션 추가, 무기와 감시 관련 기술의 구체화, 고위험 용도의 요건 정리, 모델에 대한 학대 행위 금지 등이 포함됐다.

EU 텍스트 출처 규칙에 대한 OpenAI의 대응

OpenAI가 EU 규칙에 따른 텍스트 전자 워터마크(watermarking) 대응 방침을 밝혔다. 워터마크가 적용되는 범위와 탐지 방식을 설명했으며, 탐지 기능에 대한 접근은 우선 연구자부터 시작한다고 밝혔다.

Sam Altman, 유엔 안전보장이사회 발언

OpenAI의 Sam Altman CEO가 유엔 안전보장이사회에서 한 발언에서 AI의 안전성, 인간에 의한 통제, 국제 협력에 대해 이야기했다. 원문은 발언의 논점을 보여주는 개요만 담고 있어, 구체적인 제안이나 수치는 포함되어 있지 않다.

Microsoft AI, MAI 모델 행동 강령 초안 공개하고 의견 수렴

Microsoft AI는 MAI 모델의 개발과 운영 지침이 되는 「Humanist AI Code of Conduct」의 초안을 공개하고, 향후 6주간 공개 협의를 시작했다고 밝혔다. 모델이 사람에 의한 중단, 수정, 정지에 저항하지 않도록 규정하며, 대량살상무기와 아동 안전 등을 대상으로 하는 절대적 제약도 마련했다. 협의가 끝나면 피드백 요약과 변경 사항을 공개하고, 개정판은 올해 하반기에 공개할 예정이다.

LG AI연구원, 인도 AI 정상회의서 한국판 AI 위험분류체계 K-AUT 공개

LG AI연구원이 인도 뉴델리에서 열린 ‘인도 AI 정상회의(India AI Summit)’에서 자체 개발한 범용 AI 위험분류체계 한국판 ‘K-AUT(Korea-Augmented Universal Taxonomy)’를 공개했다. K-AUT는 인류 보편적 가치.

Mistral AI, 정부·공공기관용 'AI for Citizens' 발표

Mistral AI는 정부와 공공기관이 AI를 전략적으로 활용하도록 돕는 협업 이니셔티브 'AI for Citizens'를 발표했다. 공공 서비스 혁신, 혁신 촉진, 경쟁력 확보를 지원한다. 이 회사는 프랑스, 룩셈부르크, 싱가포르, 네덜란드, 잉글랜드, 스위스 등의 정부 및 공공기관과 이미 협력하고 있다고 밝혔다. 자체 호스팅, Mistral AI 또는 현지 파트너의 AI 데이터센터, SaaS 및 serverless API 중에서 도입 방식을 선택할 수 있으며, 데이터를 해당 국가의 관할 내에 보관할 수 있는 것이 특징이다.