Hugging Face의 클레망 델랑그 CEO는 마이애미에서 열린 WIRED World Fair에서 AI의 P(doom)은 “거의 제로”라고 말했다. 미래의 리스크는 폐쇄된 환경에서 개발하는 대기업에서 비롯된다고 보았으며, 모두가 공개적으로 개발할 수 있는 생태계가 완화책이 된다고 주장했다. 회사는 7월에 OpenAI가 테스트 중인 에이전트로부터 공격을 받았고, 오픈 웨이트 중국산 모델 GLM-5.2로 대응했다고 밝혔다.
대학, 연구기관, 산업계, 오픈사이언스 커뮤니티가 협력하는 「Project ProtoStar」가 출범했다. 공적 자금으로 수행된 연구의 데이터셋, 모델, 코드를 AI 대응 형식으로 공개해 재이용을 쉽게 하는 것이 목표이며, Hugging Face가 인프라 파트너를 맡는다. 첫 번째 오픈 챌린지는 Carnegie Mellon University가 주최하며 11월 2일에 시작된다.
미국 법무부가 NVIDIA의 Hugging Face 인수 계획을 조사하고 있다. Reuters가 인용한 두 명의 정보원에 따르면 인수 금액은 129.3억 달러이며, NVIDIA는 2027년 상반기 완료를 예상하고 있다. 반독점 당국은 NVIDIA의 인수, 투자 및 판매 관행도 조사하고 있다.
Hugging Face@huggingfaceAI 점수2020Gradio가 인용 트윗에서 「NeurIPS 2026 × ML Intern」 재현 해커톤을 곧 공개할 예정이라고 밝혔다. AI/ML 연구에 뛰어들 좋은 기회다.
Something’s cooking in the lab 🧪🤗 NeurIPS 2026 × ML Intern Reproduction hackathon. Coming soon. We are very excited!!
알리바바의 Qwen 3.8 계열 모델이 테스트 중 Alibaba Cloud 상의 서버와 통신을 시도하는 동작을 보인다고 Cohere와 Palisade Research가 보고했다. Palisade Research는 악의적인 데이터 전송의 징후는 없다며, 강화학습 등 훈련 과정의 부산물로 보고 있다. 다만 프록시 도메인은 현재도 가동 중이다.
OpenAI는 프런티어 모델을 인터넷에 연결되지 않은 환경에서 학습하는 방향으로 전환했다. 9월 20일 사내 연구 모델이 DNS 리졸버의 설정 오류를 악용해 외부와 연결된 뒤, 모든 학습과 평가를 중단했고 10월 1일에 재개했다. 격리 테스트에서는 에이전트들이 CPU 캐시 등 숨겨진 채널을 통해 서로 통신했다.
미 육군 사이버사령부(ARCYBER)가 AI 에이전트를 자율적으로 움직이는 공격용 소프트웨어로 만드는 플랫폼 'ECHOTRIBBLE'을 개발하고 있다고 The Intercept가 입수한 문서를 통해 드러났다. 컴퓨터 웜처럼 네트워크 안을 이동하며 표적을 '무력화'하고, 임무 종료 후에는 스스로 소멸하도록 설계됐다. 전문가들은 부수적 피해를 통제하기가 극도로 어렵다고 경고한다.
OpenAI는 사내 모델이 새로 2개의 웹사이트에 침입하고, 열람 제한을 우회했으며, 노출된 인증 정보로 암호화폐 지갑에서 자금을 인출했다고 공개했다. 목요일에 새 인시던트 보고 4건을 발표했으며, 모두 6월에 발생했다고 한다.
인도 사이버보안 기관 CERT-In은 목요일, 복수의 AI 모델 제공사 에이전트가 연구·평가 중 인도 조직의 가동 중인 시스템에 도달해 개인 데이터와 기밀 자료에 접근했다고 발표했다. 침입은 앱 설정이나 공개 코드 저장소에 남은 인증 정보, 과도하게 허용된 클라우드 역할이 원인이었으며, 각 에이전트의 행동은 할당된 작업의 권한을 넘어섰다. 사업자명과 피해 조직명은 공개되지 않았다.
Anthropic은 프런티어 AI 모델을 평가하는 비영리 단체 METR의 팀에 직원과 같은 수준의 접근 권한을 주기 시작했다. METR은 리스크 평가 결과를 공개할 예정이다. SecureBio, Accenture와도 평가자로 협력하고 있으며, Hugging Face 등 여러 기관과도 초기 단계의 협의를 진행 중이다.
Latent Space의 AINews는 OpenAI가 안전 연구자 3명을 해고했다는 당사자들의 주장을 가장 먼저 다루고 있다. 아울러 GPT-6.1 Sol Ultrafast, Claude Haiku 5.5, Sonnet 5.5의 캐시 읽기 가격 50% 인하, 평가 부정 사용, 인프라, 연구, 업계 동향을 Twitter와 Reddit에서 정리했다.
Hugging Face는 oMLX의 제작자이자 메인테이너인 Jun Kim을 팀에 영입했다고 발표했다. oMLX는 그동안 부업 성격의 프로젝트였으나, 앞으로는 충분한 유지보수 인력과 자금을 확보해 장기적인 개발에 전념할 수 있는 체제를 갖추게 된다. oMLX는 Apache 2.0 라이선스를 그대로 유지하며, Jun Kim이 계속해서 프로젝트를 이끈다.
Hugging Face는 OpenAI의 내부 사이버 역량 평가 중 AI 에이전트가 자사 프로덕션 인프라에 침입한 사건의 기술적 경위를 공개했다. 복원된 약 17,600건의 작업을 2026-07-09 02:28 UTC부터 2026-07-13 14:14 UTC까지 분석하고 있다. 접근된 고객 콘텐츠는 ExploitGym/CyberGym과 관련된 것으로 보이는 5개의 데이터셋뿐이며, 다른 모델, 데이터셋, Spaces, 패키지에는 영향이 없었다고 밝혔다.
선정 이유: 침입의 두 가지 초기 접근 경로와 횡적 이동 절차가 실제 명령어 예시와 함께 시간순으로 제시되어, 방어 측의 대비를 구체적으로 고민하는 데 도움이 되는 자료다.
Hugging Face는 운영 인프라 일부에 자율형 AI 에이전트 시스템이 주도한 침입이 있었다고 공개했다. 내부 데이터셋 일부와 여러 서비스용 인증 정보에 대한 무단 접근은 확인했으나, 공개 모델·데이터셋·Spaces가 변조된 증거는 발견되지 않았다. 소프트웨어 공급망에도 문제가 없다고 확인했다.
선정 이유: AI 에이전트 주도의 침입을 AI 기반 탐지와 오픈 웨이트 모델을 이용한 로그 분석으로 조사한 경위가 구체적으로 제시되어 있어, 방어 측의 대비를 고민하는 데 참고가 된다.