Latent Space의 AINews가 프런티어 LLM이 신경망의 가중치를 직접 읽고 쓰는 'Weight-Space Programming'의 재현 사례와 회의적인 시각을 정리했다. GPT-6 Astra로 Qwen3.5-0.8B의 MATH-500 점수를 7.9%에서 48.1%로 끌어올렸으나, 주된 원인은 루프 실패의 수정인 것으로 알려졌다. 이 밖에도 신규 모델, 평가 감사, 추론 인프라, 정책 및 인사 관련 소식을 함께 다뤘다.
오픈 모델 추론의 공개 토큰 처리량은 Baseten, Fireworks, Together AI가 공개한 데이터에서 거의 지수함수적인 성장세를 보이고 있다. Fireworks는 고객 맞춤형 모델을 위해 하루 40T 토큰 이상을 처리하고 있다고 발표했으며, 이 분야는 올여름 이후 2배 이상 성장했다고 밝혔다. Google 실적 자료에 나타난 토큰 처리량과 비교해 폐쇄형 모델과의 규모 차이도 검증한다.
연구자들은 GPT-6 Astra가 다른 AI 모델의 가중치를 직접 읽고 다시 쓰는 기법 「Weight-Space Programming」을 보고했다. Qwen3.5-0.8B에서는 전체 가중치의 0.016%만 변경했을 뿐인데 MATH-500 정확도가 7.9%에서 48.1%로 향상됐다. 반면 Gemma 3 270M에서는 개선이 나타나지 않았다.
LoCo는 추론 모델이 언제 사고를 멈춰야 하는지를 국소적 선호 학습으로 가르치는 추론 압축 기법이다. 수학 벤치마크 5종에서는 완료 길이를 41.7%~45.4%, 코드 벤치마크 3종에서는 23.4%~36.3% 줄였으며, 정확도는 유지되거나 향상되었다. 학습은 모델이 스스로 생성한 수학 추론 트레이스만으로 이루어지며, 코드 생성에도 전이된다. 코드와 모델은 공개될 예정이다.
인도의 E2E Networks는 오픈 모델을 위한 토큰 과금형 AI 추론 서비스 'Blaze'를 2026년 11월 2일에 개시했다고 밝혔다. OpenAI 호환 단일 API로 NVIDIA Nemotron, Sarvam, DeepSeek, Qwen, GLM, Gemma 등의 모델을 이용할 수 있으며, 인도 현지의 NVIDIA GPU 기반 인프라에서 가동된다. 회사는 아울러 AI 용량을 9.2MW에서 14.6MW로 약 5.4MW 늘리는 계획을 발표했으며, 증설분은 NVIDIA HGX B300 등 Blackwell 세대 GPU로 구성된다.
Sarvam이 Sarvam 105B를 기반으로 한 의사결정 모델 「Sarvam Prism」을 오픈 웨이트로 공개했다. 3개 지표의 평균 점수는 71.8점이며, B200에서의 응답 중앙값은 44ms로 테스트한 25개 모델 가운데 100ms 미만에서 최고 점수를 기록했다. 오답은 신뢰도 범위 안에 머물고, 선택지 제시 순서의 영향도 받지 않는다고 밝혔다.
Route Anything은 범용 AI 시스템에서 전문 모델과 정책을 동적으로 선택·연계하는 라우팅을 검증하고, 입력별 오라클 라우팅이 최적의 고정 후보를 5.4포인트 웃돈다는 것을 보였다. 학습형 라우터는 16개 벤치마크에서 최적의 고정 후보를 0.3포인트 웃돌았으며, 참조 모델 대비 평균 8.82배의 효율 향상을 나타냈다.
스탠퍼드대 연구자 Owen Queen과 James Zou는 LLM에 관해 널리 인용되는 주장 50건을 20개 모델로 검증한 결과, 44%가 이미 '효력을 잃었다'고 보고했다. 효력을 잃은 시점을 추정할 수 있었던 22건의 평균 수명은 15.7개월이었다. 추론 관련 약점이 가장 빨리 사라졌고, 아첨과 평가자로서의 편향은 남기 쉬운 것으로 나타났다.
Cartesia는 State Space Models(SSM)을 기반으로 한 음성 합성 모델 Sonic과 음성 인식 모델 Ink로 100ms 미만의 지연 시간에 음성을 처리하는 방법을 소개하고, AWS에서의 배포 방식을 설명했다. Sonic은 첫 음성 바이트까지 약 90ms가 걸리며, 44개 이상의 언어를 지원하고 10초 분량의 음성 샘플로 보이스 클론을 만들 수 있다. Ink는 네이티브 턴 감지 기능을 갖추고 있어 별도의 VAD 모델 없이 발화의 종료를 판단한다.
저렴한 분류기로 작업마다 가장 적합한 Gemini 모델과 사고 수준을 배분해 작업 단위 비용을 낮추는 방법을 검증했다. 50문제 테스트에서 TypeSafe의 Jev 분류기는 48문제(96.0%)를 올바르게 배분했다. maxOutputTokens를 300으로 제한해도 간단한 작업의 사고 토큰은 줄지 않았고, 어려운 작업 25문제 중 7문제에서는 정답을 내지 못했다.
Simon Willison은 노트북에서 구동한 Qwen 3.8 27B가 원시 가중치 수치만으로 강화학습 네트워크가 학습한 게임을 맞혔다고 보고했다. Pac-Man, Pong, Breakout은 식별했지만 한 문제당 46분에서 1시간 넘게 걸렸다.
이스라엘 스타트업 42AI가 6,250만 달러의 시드 자금을 조달하고 스텔스 모드에서 모습을 드러냈다. 이 회사는 개인의 의사결정이 특정 선택을 할 확률을 예측하는 「행동 월드 모델」을 개발하고 있으며, 우선 일부 금융 브로커에서 운용하고 있다. 회사 측은 거래 방향과 거래량 예측에서 F1 점수 0.8~0.85를 달성했다고 설명했으며, 브로커 10곳이 유동성, 증거금, 헤지 관리에 이를 활용하고 있다고 밝혔다.
미국 텍사스대학교 오스틴캠퍼스 등의 연구진이 지연된 행동이 성패에 직접 영향을 미치는 실시간 대화 과제에서 LLM을 평가하는 벤치마크 「Realtime-Bench」를 구축했다. 게임과 웹을 합친 총 50개 과제로 구성된다. 최고 성공률은 GPT-6-Astra(high)의 wall clock 조건에서 36%에 그쳤으며, 시계를 멈출 수 있는 paused clock 조건에서는 추론을 강화한 모델이 70%에서 80%에 가까워진다.
IdeaTaste 평가에서 LLM 에이전트는 연구의 대략적인 방향성에서는 인간 커뮤니티에 가까워지지만, 구체적인 접근법과 기대되는 성공 가능성에서는 크게 뒤처진다. 인용 문헌의 일치도는 인간의 약 26%, 아이디어의 일치도는 18%에 그쳤다. 6개 모델, 4개 연구 분야, 9만 건이 넘는 제안을 대상으로 했으며, 공개되어 지속적으로 갱신되는 오픈 리더보드로 제공되고 있다.
Google은 차세대 플래그십 AI 모델인 Gemini 3.5 Pro를 오늘은 공개하지 않는다고 밝혔다. 회사에 따르면 이 모델은 현재 파트너와 테스트 중이며, 준비가 갖춰지는 대로 널리 제공할 계획이다. 유출을 통해 전해진 2 million-token 컨텍스트 윈도우 등의 사양은 정식 발표 전까지 확인되지 않았다.
LARC는 통합형 멀티모달 모델(UMM)의 이미지 생성에서 이산 토큰이 아니라 연속적인 은닉 상태 위에서 추론을 수행하는 잠재 추론 프레임워크이다. GenEval에서는 BAGEN을 7%p 웃도는 state-of-the-art를 달성했으며, 병렬과 순차 모두의 테스트 시점 스케일링에서도 토큰 기반 생성을 능가한다고 보고되었다. 학습은 커리큘럼 지도 파인튜닝(SFT)과 정답 데이터를 사용하지 않는 정보 이득 강화학습(RL)의 2단계로 구성된다.
AnySpeechRecognizer와 AnyDecisionModel은 Apple 플랫폼에서 오픈 모델을 사용해 음성 인식과 판단을 수행하는 Swift 패키지다. AnySpeechRecognizer는 SpeechAnalyzer와 동일한 API를 그대로 유지하면서, NVIDIA의 Parakeet이나 Alibaba의 Qwen3-ASR 등 여러 인식 엔진 중에서 선택할 수 있게 하며 화자 분리 기능도 추가한다. AnyDecisionModel은 예/아니오, 다지선다, 평가 척도 질문에 대해 텍스트를 생성하는 방식이 아니라 모델의 확률로부터 답을 도출하며, 타입이 지정된 결과와 확률을 반환한다.
Elorian의 시각 추론 모델 「Glimpse」가 공동 공개된 벤치마크 「DecoyCount」에서 50.48%를 기록했다. 논문에서 최고 성적을 낸 GPT-6 Astra의 43.17%를 웃돌았지만, 이는 사내 테스트의 단일 실행 결과이며 논문의 모델은 3회 평균값이라고 밝혔다. DecoyCount는 1,660문항으로 구성되며, 시각과 추론을 동시에 검증한다는 점이 특징으로 꼽힌다.
Apriel Voice 27B Preview는 음성 이해, 추론, 도구 호출을 공유 백본에서 처리하는 오픈 음성 언어 모델이다. 사고 모드에서 Big Bench Audio 98.90, Speech-BFCL 81.13, τ-Voice 과제 성공률 65.51%, 평균 지연 시간 1.91초를 기록했다. Gemma 4 26B-A4B의 사후 학습 체크포인트를 기반으로 하며, 별도의 대화 모델 없이 음성을 직접 처리해 응답과 도구 호출을 생성한다.
EvidenceConnect는 단일 이미지 안의 관련 영역을 확대해 보여주는 방식으로, 비교·집계·연쇄 추론이 필요한 질문을 합성하는 데이터 합성 프레임워크다. 이를 이용해 RLVR로 학습한 ZwZ2는 벤치마크에 맞춰 조정하지 않은 합성 데이터로도 세밀한 지각과 공간 지각이 향상되었으며, 엠바디드 AI의 공간 추론, 멀티모달 장문맥 이해, 멀티모달 에이전트 작업, 일반 시각 추론에서도 개선이 나타난 것으로 알려졌다. Hugging Face에는 inclusionAI/ZwZ2-27B, ZwZ2-9B, ZwZ2-4B의 모델 페이지가 올라와 있다.
Nvidia가 40개 언어까지 음성을 전사할 수 있는 무료 오픈 웨이트 모델 「Nemotron 3.5 Transcribe」와 오픈소스 음성 데이터셋 「Granary」 제2판을 공개했다. Nemotron 3.5는 31개 언어와 영어 간 상호 번역, 최대 1시간 분량의 녹음 처리, 최대 8명 화자 식별을 지원하며, 회사 측은 Hugging Face의 Open ASR Leaderboard를 포함한 벤치마크에서 경쟁 모델을 앞섰다고 주장했다. 실시간 방송이 아니라 녹음된 음성이 대상이며, 파라미터 수는 30 billion으로 단일 칩에서 동작할 수 있다고 한다.
Mirendil이 첫 모델 'Fern 0.1'을 발표했다. 처음부터 개발한 코딩용 모델로, 컨텍스트 윈도우는 최대 10M 토큰이라고 한다. 현재는 호스팅 방식의 조기 액세스만 제공되며, 오픈 웨이트나 양자화 버전은 공개되지 않았다. RULER의 단일 니들 검색(베이스 모델)은 32K부터 10M 토큰까지 전 길이에서 100%를 기록했지만, Terminal Bench 4.0에서는 6.1%에 그쳤다. Mirendil 자체 비교표에서도 Claude Opus 5.5의 66.4%를 밑돌았다.
OpenAI는 수학, 컴퓨터 과학, 물리학 3개 분야에서 성과를 발표했으나, 외부 'shepherds'의 조언에 따라 공개 방식을 나눈 데 대해 연구자들의 비판이 나오고 있다. 성과 자체는 "huge", "significant" 등으로 평가받고 있지만, 전문가를 골라 먼저 공개하는 방식은 불공평하다는 목소리도 있다.
댈러스 소재 투자회사 Disruptive는 최소 10개 후기 스타트업에 투자하는 100억 달러 규모의 펀드를 발표했다. 기업당 최대 10억 달러를 투자할 계획이다. 이 회사는 그동안 건별 특수목적회사(SPV)를 통해 자금을 모아 왔으며, 이번 블라인드 풀 방식 펀드는 처음이다. 투자 대상은 AI와 국방 등 자본 집약적 분야가 중심이 될 것으로 알려졌다.
중국 연구팀이 자연어 지시로 단백질을 설계하는 도구 「Pinal」을 발표했다. 테스트에서는 형광 단백질, 2종류의 효소, 대형 다단백질 복합체와 관련된 단백질 등 총 4종을 설계하도록 했다. 학습에는 AlphaFold로 예측한 구조와 짝을 이룬 3개의 데이터베이스 단백질 서열을 사용했으며, 그중 하나에는 8억 쌍의 키워드와 단백질 쌍이 포함되어 있다.
OpenAI는 수학·계산기 과학·물리학 3개 분야의 난제에 대한 해법을 공개했으며, 그중 하나는 지수시간 가설(ETH)을 반증하는 것이라고 주장했다. Anthropic도 몇 시간 뒤 자체적인 반증 결과를 공표했다. MIT 교수 Ryan Williams는 결과가 옳다면 지난 10년간 ETH에 의존한 논문들을 다시 검토해야 할 필요가 있다고 말했다.
선정 이유: OpenAI와 Anthropic의 주장에 대해 계산 복잡도 연구자 Ryan Williams가 학계의 반응과 향후 연구 방향을 이야기하고 있어, 배경을 정리하기 좋다.
OpenAI는 자사 AI가 생성한 수학, 계산기 과학, 물리학 증명을 외부 전문가에게 검증받는 체계를 마련했다. 계산기 과학에서는 Exponential Time Hypothesis(ETH)의 반증을, 수학에서는 local smoothing conjecture를, 물리학에서는 4차원 양자장 이론의 존재를 증명했다고 주장하고 있다. 수학과 계산기 과학의 증명은 Lean으로도 번역됐으나, 검증은 분야마다 서로 다른 방식으로 진행된다.
선정 이유: 수학, 컴퓨터 과학, 물리학 등 세 분야에서 외부 전문가가 검증을 진행하는 방식이 분야마다 어떻게 다른지 정리되어 있어, AI 성과를 어떻게 검증할지 생각하는 데 실마리가 된다.
OpenAI는 조화해석, 계산 복잡도, 양자장론 분야에서 새로운 발견 3건을 발표했다. 모델은 국소 평활화 추측(local smoothing conjecture)을 모든 차원에서 증명했고, 지수 시간 가설(ETH)이 틀렸음을 보였으며, QCD 등에 대한 존재 증명도 생성했다. OpenAI는 이번 성과를 원자료(raw research data)로 규정하고, 외부 전문가가 주도하는 공동 연구 그룹을 통해 이해를 넓혀 갈 계획이라고 밝혔다.
선정 이유: AI가 내놓은 수학·컴퓨터 과학·물리학 성과를 외부 전문가의 협력으로 검증하고 이해로 이어가는 공개 방식이 세 가지 형태로 구체적으로 제시되어 있다.
Prox는 보정 데이터를 사용하지 않고 상위 k개의 채널을 선택하여 Mixture-of-Experts(MoE) 모델의 추론을 가속하는 기법이다. 보정된 임계값으로는 읽기량을 예측할 수 없지만, 동일한 점수에서 top-k 방식은 13%와 18%의 예산에서 43건 중 40건에서 임계값 방식과 같거나 더 높은 정확도를 보였다. 모델 가중치만으로 구성된 reader는 라우팅된 expert의 읽기량을 17.8%로 억제하면서도 전체 모델 정확도의 98.1%를 유지했으며, Triton 커널은 배치 크기 1에서 vLLM보다 1.60~1.90배 빨랐다.
LOWN은 확산형 비전-언어 모델(DVLM)의 디코딩에서, 이미지 없이 한 예측이 직전의 이미지 포함 예측과 일치하면 이미지 처리를 생략하는 기법이다. LLaDA-V에서 10개 벤치마크 점수의 99.6%를 유지하면서도 디코딩 FLOPs는 평균 35.3%로 줄였다. 학습이나 임계값 조정이 필요 없으며, LLaDA 계열 DVLM에도 적용할 수 있다. 시각 토큰 가지치기와 함께 쓸 수 있고, KV 캐시 환경에서도 동작한다.
SPOT는 확산 언어 모델(DLM)을 위한 추측적 디코딩 기법으로, 생성 순서를 예측해 후보를 병렬로 검증함으로써 출력을 바꾸지 않고 타깃 모델의 포워드 패스 수를 최대 6.8배 줄인다. SDAR-8B에서는 표준 디코딩 대비 최대 3.4배의 처리량을 달성했으며, T=0과 T=1의 모든 과제와 예산에서 베이스라인과 같거나 그 이상의 성능을 보였다. 0.62M 파라미터의 드래프터는 6개의 서로 다른 DLM 사이에서 재사용할 수 있고, 동적 임계값 디코딩에 SPOT-Sets를 결합하면 SDAR-8B의 처리량이 평균 59% 향상된다.
확산 언어 모델(DLM)의 강화학습에서 토큰 단위로 기여도를 할당하는 기법 DTCA가 제안되었다. DTCA는 토큰이 확정된 뒤 아직 마스크된 위치의 예측 신뢰도가 높아지는 정도를 바탕으로 각 토큰의 기여도를 추정하며, 품사 범주별로 묶어 학습 신호에 반영한다. LLaDA-8B-Instruct를 이용한 실험에서는 서로 다른 생성 예산에서도 수학 추론 성능이 일관되게 향상되었으며, 기본 모델 대비 MATH500에서 최대 9.0포인트, GSM8K에서 최대 5.3포인트 개선된 것으로 나타났다.
Anthropic 공동창업자 Jack Clark는 AI가 후속 시스템을 스스로 개발하는 재귀적 자기 개선(RSI)이 이르면 2027년에 가능해질 수 있다는 견해를 밝혔다. 기존에는 2028년을 상정하고 있었다. 이러한 전망의 배경에는 P-Zero Research의 벤치마크 'TasteVal'에서 Anthropic의 Opus 5.5가 계산량 승수 2.3을 기록해, 전문가 수준에 절반 미만의 계산량으로 도달한 결과가 있다. 다만 통계적 범위는 1.15~4.37로 넓고, 측정 대상도 과학 연구의 일부에 한정된다.
DynaFlow는 메인 에이전트가 실행 가능한 워크플로를 생성하고, 서브 에이전트를 순차적 또는 병렬로 조정하는 멀티 에이전트 프레임워크다. 학습 대상은 메인 에이전트뿐이며, 서브 에이전트는 고정한 상태로 두었다. 6개 벤치마크에서 Forced 모드의 종합 정확도 88.08%를 달성했다. 같은 Qwen3.5-27B를 백본으로 하는 가장 강력한 베이스라인을 10.90포인트 앞섰다.
Moonshot AI가 2026년 10월 23일 공개한 Kimi K3.1 Pro를 공개 자료와 제3자 평가를 토대로 사양, 벤치마크, 가격을 정리한 해설이다. Artificial Analysis의 Intelligence Index는 55점으로, 전세대 Kimi K3의 44점에서 상승했다. 필자는 독자적인 모델 테스트를 하지 않았다고 명시했으며, 가중치 공개는 11월 4일까지 예정되어 있으나 현재는 공개되지 않은 상태다.
Moonshot이 Kimi K3.1 Pro를 Kimi API로 공개했다. 아직 오픈 웨이트는 아니지만 "Full model weights will be released by Nov 4, 2026"라고 밝혔다. 요금은 입력 100만 토큰당 $2.00, 출력 100만 토큰당 $10이며, Artificial Analysis 점수는 55점이었다.
Trajectory2Gym은 성공한 궤적을 수집하는 대신, 합성적 구조를 포괄하는 실행 가능한 상호작용을 구축하고, 에이전트에게 보이는 이력으로 뒷받침되는 결정만을 교사 신호로 사용하는 도구 사용 에이전트 학습 기법이다. Qwen3의 5개 규모에서 평가했으며, Tau1, Tau2, BFCL 3개 벤치마크의 등가중 평균이 모든 규모에서 16.9~29.8포인트 향상되었다. 향상 폭은 뒤의 판단이 앞선 관찰이나 피드백에 의존하는 상태 기반의 다중 턴 상호작용에서 가장 크다.
Moonshot AI가 사후 학습을 강화한 추론 모델 Kimi K3.1 Pro를 공개했다. Artificial Analysis Intelligence Index에서 55점을 기록해 K3보다 11점 올랐으며, Claude Opus 5.5(58), Claude Sonnet 5.5(56), Muse Wonder Full(56)에 이어 4위에 올랐다. 입력은 100만 토큰당 $2.00, 출력은 $10.00으로 K3보다 약 33% 저렴하다. 2026년 11월 4일까지 오픈 웨이트를 공개할 예정이다.
Ankit Maloo씨는 OpenAI가 단위거리 추측의 반례를 찾아낸 사례 등을 단서로, LLM이 풀기 쉬운 수학 문제의 조건을 분석하고 있다. 사람은 너비 우선으로 일찍 가지를 쳐내는 반면, LLM은 깊이 우선으로 끝까지 진행한 뒤 검증기로 정답을 골라낸다는 차이를 중심축으로 삼고 있다.
기업 AI의 경쟁력은 모델 선정보다 아키텍처, 메모리 관리, 스케줄링, 최적화 등 모델 주변의 서빙 하네스 설계에서 결정된다고 주장한다. 추론 시에는 모델 가중치가 고정되어 있어도 KV 캐시가 활성 요청 수와 컨텍스트 길이에 따라 커지므로, 연산 자원에 여유가 있어도 GPU 메모리가 부족해질 수 있다. 이에 따라 먼저 측정해 병목을 찾고, 대응과 재측정을 반복하는 접근이 제안되고 있다.