Import AI 467, 자기 복제 AI 웜, AI 개발 속도 조절 요청, AI의 창의성을 둘러싼 연구를 다룬다

토론토 대학, Vector Institute, 케임브리지 대학, ServiceNow의 연구자들은 감염시킨 GPU 노드에서 오픈 웨이트 LLM을 구동해, 공격 절차를 스스로 설계하고 다음 표적으로 퍼져 나가는 웜을 시제품으로 만들었다. 벤더 API에 의존하지 않고, 80GB VRAM의 A100 1장으로 작동하는 모델을 사용한다. 네트워크 탐색, 권한 상승, 복제 등의 보조 함수를 갖춘 하네스와 Plan, Judge, Action 등의 노드로 이루어진 추론 그래프를 결합했다. 성공률은 취약점 탐지가 약 80%, 악용이 약 53%, 자기 복제가 88%이며, 전체로는 약 37%이다. Jack Clark는 우려할 만한 일이지만 앞으로 오픈 웨이트 모델을 시험하는 평가에도 쓸 수 있다고 말했다.

같은 호에서는 Dwarkesh Patel의 견해도 소개한다. AI가 똑똑해질수록 같은 연산 자원으로 더 많은 가치를 creating하므로 연산 자원의 가격이 오른다는 주장으로, 사람 수준의 소프트웨어 엔지니어가 H100 상당의 환경에서 작동한다면 연간 25만 달러 이상에 임대할 수 있다고 하며, 현재 스팟 가격의 15배라고 적었다.

OpenAI, Anthropic, Google DeepMind, Meta, Safe Superintelligence Inc 등 약 1337명이 서명한 성명도 다뤄졌다. 미국 정부에 대해 자동화된 AI 개발의 최전선을 의도적으로 속도 조절하기 위한 기술적·거버넌스 수단을 마련하는 국제적 노력을 지원할 것을 요구하는 내용이다. Clark는 이를 집단행동 문제에 대응하기 위한 전제로 보고 있다.

창의성과 관련해서는 Princeton 대학 등의 연구에서, 공개되지 않은 NeurIPS 2026 투고 논문 2편의 연구 과제를 Claude Opus 4.8(OpenClaw 하네스)에 풀게 하고 원저자가 채점하는 섀도 평가를 진행했다. 엔지니어링 부분은 풀었지만 2편 모두 불채택되었고, 점수는 2점과 1점이었다. 한편 OpenAI는 차기 주력 모델 Astra의 사내 버전이 수학과 컴퓨터 과학의 미해결 문제 10개를 풀었다고 발표했다. Clark는 AI가 스스로 문제를 설정할 수 있는지는 아직 확실하지 않다면서도, 강력한 과학 도구가 되어 가고 있다고 보고 있다.