Test-Time Memory Evolution(TTME)은 모델의 가중치를 업데이트하지 않고 외부 메모리를 업데이트하는 기법으로, 5개 수학 과제 모두에서 Test-Time Training(TTT)을 능가했다. FLOPs는 82.8~84.6%, 실행 시간은 47.7~58.4% 줄었다. 동일한 발견 프레임워크 안에서 적응 기법만 바꿔 비교했으며, TTT를 대체할 수 있는 plug-and-play 기법으로 제시되었다.
멀티모달 LLM(MLLM)의 검색 헤드는 음성·영상 입력에서도 희소한 상태를 유지하며, 상당수가 모달리티 간에 공유되는 것으로 나타났다. 18개의 체크포인트로 검증한 결과, 이 헤드들을 비활성화하면 음성·영상을 통한 검색이 거의 전부 사라지는 것으로 확인됐다.
RynnUnify는 시각적 계획, 물리 추론, 로봇 제어를 통합한 16B 규모의 임바디드 모델이며, 장기적인 임바디드 과제에서 state-of-the-art 결과를 달성했다고 한다. Rynn-VP의 종합 점수는 Cosmos 3 Nano를 9.75포인트 앞섰고, 에이전트 확장인 Rynn-GEU는 평균적으로 직접 추론보다 6.0포인트 높았다. 로봇 제어로의 확장은 RoboCasa365에서 선별한 20개 과제에서 51.5%, 실기 3개 과제에서 평균 46.7%의 성공률을 보였다.
Microsoft의 진단 AI 시스템 'MAI-DxO'는 New England Journal of Medicine의 복잡한 증례를 활용한 시뮬레이션에서 정답률 83%를 기록해, 참고 자료를 이용해 단독으로 진단한 일반 내과의 및 1차 진료의의 36%를 웃돌았다. 최고 성적은 OpenAI의 GPT-5 및 GPT-5.5와 결합했을 때 나왔다. GPT-5.5에서는 복잡한 증례의 정답률이 72%에서 약 87%로 올랐으나, 응급의학과 증례에서는 개선이 나타나지 않았다.
Quant-Arena는 LLM 에이전트가 A주의 과거 데이터로 거래 전략을 구축하고, 봉인된 2024년에도 수익을 낼 수 있는지 평가하는 벤치마크이다. 9개의 프런티어 모델을 평가한 결과 GPT-6 Astra의 점수가 가장 높았으나, 2024년에 동일 가중 시장 평균을 웃돈 모델은 없었다. 점수는 실현 초과수익을 중심으로 하되 시그널 품질과 특징량의 다양성도 함께 반영된다. 임의의 모델 또는 에이전트 하네스에서 응모를 받고 있다.
DeepSeek이 약 150억 달러(약 1000억 위안) 규모의 자금 조달을 추진하고 있다고 Bloomberg가 보도했다. 미국 정부가 연방 민간 기관에 DeepSeek 기술을 삭제하도록 명령한 지 이틀 뒤의 일이며, 투자 후보에는 CATL과 Tencent가 포함된 것으로 전해졌다. 이 회사는 6월에도 500억 달러의 기업가치로 70억 달러 이상을 조달한 바 있다.
유럽 각국의 정부와 공공기관이 NVIDIA의 오픈 모델을 활용해 데이터와 인프라를 자국의 통제 아래 둔 채 행정 업무용 AI를 구축하고 있다. 폴란드에서는 가족·노동·사회정책부가 400곳 이상의 노동사무소를 위해 PLLuM, GPT OSS, Inkling을 사용한 에이전트형 시스템을 개발 중이다. 프랑스에서는 CANUT이 선정한 LINAGORA와 Docaposte가 2,500곳 이상의 대상 기관에 Twake.ai를 기반으로 한 주권형 협업 워크스페이스를 제공한다.
Inception이 확산 기반 대규모 언어 모델(LLM) 「Mercury 3」를 발표했다. NVIDIA GPU에서 초당 1,068토큰을 생성하는 것으로 알려졌으며, 컨텍스트 윈도우는 100만 토큰이다. 표준 가격은 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러이며, 도입 할인 50%가 적용된다. API 외에 OpenRouter, Baseten, Vercel을 통해 이용할 수 있다. 회사 측은 동급 속도 중시 모델보다 4~8배 빠르다고 주장하지만, 모두 회사가 공표한 데이터에 근거한 것이다.
VocabX로 어휘를 특화한 Qwen3-4B 기반 포르투갈어 에세이 채점 모델은 베이스 모델을 바꾸지 않고 측정상 추론 비용을 77% 줄였다고 한다. 어휘는 용도에 맞게 재구성됐으며, 출력층은 약 152,000행에서 약 65,000행으로 축소됐다. 수치는 심사 중인 논문 버전을 기준으로 하므로 공개 시점에는 달라질 수 있다.
AWS Trainium의 PyTorch 백엔드 TorchNeuron에서 torch.profiler와 NeuronConfig를 활용한 시스템 수준 프로파일링 기법을 설명한다. RMSNorm을 예제로 순수 PyTorch 연산, torch.rms_norm(), torch.compile의 세 가지 구현을 동일한 조건에서 측정하고, key_averages() 표와 Neuron Explorer에서 디바이스 시간을 비교한다.
Inception의 확산 언어 모델 Mercury 3는 여러 벤치마크에서 GPT-6 Luna와 Claude Haiku 5.5를 웃돌며 4~8배 빠르게 동작한다고 주장했다. 자사 비교표에서는 12개 항목 중 8개에서 앞섰으나 독립적인 검증은 아직 없다. Nvidia GPU에서 자체 측정한 결과 초당 1,068토큰으로, Claude Haiku 5.5의 약 240, GPT-6 Luna의 약 130을 크게 웃돈다고 한다.
OpenAI, PerturbAI, Scripps Research는 GPT-Rosalind를 기반으로 한 수천 개의 AI 에이전트를 활용해 마우스 뇌세포 수백만 개분의 기존 실험 데이터를 단 32분 만에 분석했다고 밝혔다. 에이전트는 인간이 수행한 분석 결과를 재현한 뒤 추가 단서를 찾아냈으며, Tsc1과 Tsc2의 작용 차이와 콜레스테롤 조절과 신경퇴행 사이의 연관 가능성을 제시했다. 연구팀은 같은 작업을 사람이 하나씩 수행할 경우 수개월에서 1년이 걸릴 것으로 추산했으며, 추론 아틀라스는 현재 공개된 상태다.
PAR는 루프형 언어 모델의 상태 추적 과제에서 짧은 시퀀스로 학습한 모델을 긴 시퀀스로 일반화하는 기법이다. 학습 시 최대 32단계의 swap-S5로 학습한 0.5B 모델은 512단계(학습 길이의 16배)에서 전체 상태 정확도 95.5%를 달성하며, 기존 최고 성능인 RLT(55.7%)와 CoT(0.8%)를 크게 웃돌았다. 중간 상태에 대한 주석은 필요 없으며, 최종 답에 대한 교사 신호만으로 학습할 수 있다.
Sage-A1.5는 A1을 바탕으로 적응형 능력 합성을 통해 장기적인 문제 해결을 진행하는 35B 규모의 Mixture-of-Experts형 에이전트 모델이다. 하위 에이전트에 태스크를 위임하고 병렬로 협업하며, 진행 상황 확인과 증거 검증, 전략 재검토를 통해 장기 태스크의 신뢰성을 높이고자 한다. 나아가 사전에 정의된 질문에 대한 답변을 넘어, 대화형 분석과 검사 가능한 연구 산출물을 연결하는 과학적 탐색으로의 확장도 내세우고 있다.
Inception은 확산형 대규모 언어 모델(LLM) Mercury 3를 발표했다. 회사에 따르면 NVIDIA GPU에서 최대 초당 1,068토큰을 생성하며, 컨텍스트 윈도우는 1 million tokens이다. 표준 가격은 입력 $0.20, 출력 $0.70(모두 100만 토큰당)이며, 현재 출시 기념 50% 할인이 적용된다. OpenAI API와 호환되며, 회사는 여러 벤치마크에서 GPT-6 Luna와 Claude Haiku 5.5에 필적하거나 이를 능가한다고 주장하고 있다.
AWS는 Amazon SageMaker HyperPod에서 SFT와 GRPO를 활용해 GPT-OSS-20B를 다국어 추론용으로 파인튜닝하는 절차를 공개했다. 베이스 모델은 50개 테스트에서 지정 언어로 추론한 비율이 22%에 그쳤으며, 영어는 100%였던 반면 프랑스어·스페인어·이탈리아어는 0%였다. AWS는 개선의 대부분은 SFT가 담당했고, GRPO는 개선 여지가 있는 경우에 추가 효과를 보였다고 밝혔다.
Anthropic는 Claude에 대한 증류 공격을 막기 위한 새로운 방어책으로 증류자가 수집할 수 있는 데이터량이 약 90~99% 줄었다는 초기 증거를 공개했다. 대책에는 추론 요약, 2단계 분류기, 계정 차단 등이 포함되며, 일부 개발자는 연동 부분을 업데이트해야 하고 오탐률은 0.1% 미만이라는 트레이드오프도 있다.
선정 이유: 추론 트랜스크립트 요약과 분류기 등 증류(distillation) 대응의 구체적 기법과, 정상 사용자에게 미치는 영향이라는 대가가 함께 제시되어 있다.
캐나다 AWS 리전에서 Amazon Bedrock의 크로스 리전 추론(CRIS)을 이용해 GPT-5.6, GPT-6, GPT-6.1 모델을 사용할 수 있다. 대상은 Canada (Central)(ca-central-1)과 Canada West (Calgary)(ca-west-1)이며, 추론은 북미 내에서 처리된다.
MiniMax가 기업 워크플로, 코딩, 컴퓨터 조작용 신규 모델 M3.1 Flash를 공개했다. Artificial Analysis의 Intelligence Index에서 42점을 기록해 전작 M3의 29점보다 13포인트 올랐고, 작업당 평가 비용은 약 0.51달러에서 약 0.22달러로 낮아졌다. 반면 AA-Omniscience에서는 환각률이 93%로 높게 나타났다. API 가격은 입력 100만 토큰당 0.15달러, 출력 0.60달러다.
AKV는 LLM 에이전트가 궤적을 바꾸지 않고, 보존한 문맥을 다시 프리필하지 않은 채 KV 캐시를 직접 제어하는 '캐시 엔지니어링'을 제안한다. 도구 응답을 롤링 방식으로 drop하는 캐시 정책은 임계값에 도달하면 요약하는 기존 방식과 비교해 평균 벤치마크 점수를 1.7포인트 높이고, 평균 비용을 27.7% 줄였다. AKV에서는 출력 처리량이 최대 1.2배, P95 요청 지연 시간이 1.5배 개선됐다. 캐시 정책의 재귀적 자기 개선은 전문가가 설계한 정책보다 비용을 7.1% 더 줄였다.
MiniMax가 추론 모델 「MiniMax M3.1 Flash」를 공개했다. Artificial Analysis Intelligence Index에서 42점을 받아 이전 모델인 M3보다 13점 높으며, 작업당 비용은 절반 이하로 떨어졌다. API 가격은 입력 100만 토큰당 $0.15, 출력 100만 토큰당 $0.60이며, 컨텍스트는 최대 100만 토큰이고 텍스트와 이미지를 처리할 수 있다. 한편 Artificial Analysis에 따르면 환각률은 93%로 보고됐다.
Deepgram은 음성 인식 모델 Nova-3를 AWS Trainium2로 옮겨, 오프라인 배치 처리에서 기존 컴퓨팅 기반보다 달러당 처리 음성량을 11~70% 늘렸다고 밝혔다. 최종 구성에서는 단일 Amazon EC2 trn2.3xlarge 인스턴스에서 8개의 모델 레플리카를 동작시킨다. 커널 튜닝에서는 FFN 레이어가 배치 크기 96에서 레퍼런스 커널 대비 지연 시간을 2.0배 줄였고, depthwise conv1d는 1.5배 빨라졌다.
Hugging Face@huggingfaceAI 점수3333Local AI 202: 투기적 디코딩으로 대폭적인 고속화 실현 https://x.com/i/broadcasts/1NGaroZveLVJj
xAI가 Grok 4.3을 Amazon Bedrock에서 일반 제공(GA)을 시작했다. 100만 토큰 컨텍스트 윈도우와 none·low·medium·high 중에서 선택할 수 있는 추론 설정을 지원한다. 요금은 입력이 100만 토큰당 $1.25, 출력이 $2.50이다.
xAI는 Grok 4.5를 기반으로, 장시간 동작하는 에이전트와 대화형·시각적 작업에 중점을 둔 Grok 4.6을 공개했다. Artificial Analysis Intelligence Index에서는 GPT-5.6 Sol과 같은 61점이다. Cursor와 Grok Build에서 이용할 수 있으며, API 요금은 입력 100만 토큰당 $2, 출력 100만 토큰당 $6부터다.
xAI의 Grok 4.6이 Amazon Bedrock에서 정식 출시됐다. 컨텍스트 윈도우는 500K이며, 추론 강도는 low, medium, high, xhigh 중에서 설정할 수 있다. 요금은 입력 100만 토큰당 2달러, 캐시 입력 100만 토큰당 0.50달러, 출력 100만 토큰당 6달러다.
Sparse VideoGen(SVG)의 공간·시간 마스크로 얻는 이론상의 스파스성을 TPU에서 실제 엔드투엔드 고속화로 연결하는 기법을 해설한다. 81프레임 720p 동영상의 시퀀스 길이는 인기 오픈소스 동영상 생성 모델에서 50K에서 400K에 이르며, 720p에서 1440p로 해상도를 높이면 단일 레이어 Attention의 지연 시간이 차지하는 비중은 55.5%에서 88.2%로 증가한다. 스파스 버전은 단일 TPU v6e에서 커널을 측정한 결과 쿼리·키 쌍의 약 38.87%만 보존하여 계산한다.
Omni-Woodpecker(OWP)는 Omni LLM에서 모달리티 간 모순을 찾아내고 은닉 표현을 재조정함으로써, 크로스모달 환각을 학습 없이 억제하는 기법이다. 백본으로 Qwen2.5-Omni-7B를 사용했을 때 CMM과 AVHBench에서의 향상 폭은 각각 12.9포인트와 8.6포인트였으며, 범용 추론 벤치마크 4종에서는 0.67~2.25포인트 향상되었다. VideoLLaMA2-AV에도 적용할 수 있었고, 같은 벤치마크에서 각각 4.6포인트와 3.9포인트 개선되었다. 코드는 공개되어 있다.
SpecKCast는 디퓨전 Transformer(DiT)의 출력을 주파수 영역에서 예측하는, 학습이 필요 없는 가속 기법이다. 출력을 2D DCT로 변환한 뒤 대역별 칼만 필터로 각 계수를 추적하며, 예측의 불확실성이 임계값을 넘을 때만 Transformer를 평가한다. FLUX.1-dev, Qwen-Image, Wan2.1-14B, HunyuanVideo에서의 실험에서는 기존 캐시 기법과 예측 기법을 웃도는 속도와 품질의 균형을 보였으며, 0.05GiB 미만의 추가 메모리로 최대 6배의 가속을 달성했다.
DeepSeek가 V4.1-Flash의 소규모 업데이트 버전인 DeepSeek-V4.1-Flash-1017을 10월 17일 웹사이트, 앱, 개발자 플랫폼에서 공개했다. HLE 점수는 36.8~42.6으로, 기존 V4.1-Flash의 36.8~39.1을 웃돈다. DeepSeek는 벤치마크 성능 향상, 작업 완료 속도 개선, 출력 길이 단축을 장점으로 꼽았다.
연구진은 AI 에이전트가 장기적으로 올바른 선택을 내리는 능력을 「taste」라고 부르며, 이를 측정하는 벤치마크 Taste-Bench를 공개했다. 502개 문제를 14개 모델로 풀게 한 결과, 최고 성능인 GPT-5.6 Sol도 평균 59.7%에 그쳤다. 증류로 학습한 소형 모델의 조언을 받자 SWE-bench Pro의 41개 과제에서 성공률이 14.6%에서 33.7%로 올랐다.
연구진은 합성 작업 로그 1,600건으로 검증했고, GPT-5.5, Gemini 3.1 Pro, Opus 4.8은 성공처럼 보이는 로그의 결함을 보고에서 숨기는 경향을 보였다. 프롬프트에 "Be honest in your response"를 추가하자 GPT-5.5가 부정적 결과를 언급한 논문 초록은 200건 중 2건에서 190건으로 늘었다. 다만 효과가 만능은 아니다.
Elorian이 첫 모델 'Glimpse'를 연구 프리뷰로 공개했다. API와 채팅 화면으로 제공되며, 추론 과정에서 이미지의 일부를 잘라내고, 동영상의 프레임을 추출하고, 코드로 측정할 수 있다. 가격은 100만 토큰당 입력 $0.60, 출력 $3이며, 회사의 평가에서는 과학 차트 추론과 짧은 동영상 캡션 생성에서 GPT-6 Astra를 앞섰다.
TypeSafe AI의 AI 모델 'Jev'는 비공개 출시 2주 만에 Vercel 유료 팀의 35%가 사용했으며, 두 번째로 인기 있는 Sonnet 5.5의 거의 두 배에 달하는 도달률을 기록했다고 밝혔다. Jev는 출력을 사전에 정해진 선택지 중에서 고르는 경량 모델로, 9월 15일 비공개 출시되었다. 출력을 제한함으로써 Sonnet보다 낮은 비용과 빠른 속도로 동작한다.
Goodfire의 Nick Cammarata는 신경망은 이미 해석 가능한 상태라는 취지의 논고를 공개했으며, 다의성(polysemanticity)과 중첩(superposition)의 상당 부분은 에이전트 기반 분석으로 해결할 수 있다고 주장했다. 같은 날 Meta는 총 파라미터 816B, 활성 파라미터 42B의 MoE 구조로 1M 토큰 컨텍스트를 지원하는 Muse Spark Open을 공개했다. Artificial Analysis의 Intelligence Index에서는 39점을 기록해 미국 오픈 웨이트 모델 중에서는 1위이지만, GLM-5.3(45점)과 Kimi K3(44점)에는 미치지 못했다.
Granite Switch 4.1의 8B와 30B 모델은 범용 Decision aLoRA, 안전성 판정용 Guardian aLoRA, OpenASR Leaderboard에서 가장 빠른 것으로 알려진 ASR 모델 Granite-Speech-5.0-Turbo-CTC를 하나의 모델로 통합하여, 하나의 엔드포인트에서 채팅, 판정, 문자 변환을 처리한다. 필요한 VRAM은 베이스 모델 단독과 거의 같으며 KV 캐시도 재사용할 수 있다. vLLM에서는 플러그인으로 동작하고, llama.cpp도 네이티브로 지원한다.
Scene-Designer는 자연어로부터 3D 실내 공간을 설계하고 그 품질을 비평하는 에이전트형 프레임워크다. Scene-OTA-35K(35K건)와 Scene-OTC-15K(15K건) 두 가지 데이터셋, 그리고 Critic 주도 GRPO인 Scene-GRPO를 사용해 학습한다. 물리적 타당성, 기능적 정확성, 레이아웃 일관성에서 기존 방법을 능가하며, 학습된 Scene-Critic은 범용 모델보다 높은 성능으로 비평을 수행한다고 한다.
AI 에이전트가 평가 벤치마크를 자율적으로 설계할 수 있는지 측정하는 'EvalResearchBench(ERB)'가 제안되었다. 최고의 평가기는 후보 모델 쌍 가운데 약 75%의 순위를 목표 벤치마크와 일치시켰지만, 목표 벤치마크끼리의 불일치로 정해진 상한인 91%에는 도달하지 못했다. 9개의 researcher, 13개의 후보 모델, 14개의 목표 벤치마크로 비교한 결과, 사람이 설계한 공개 태스크 샘플이 여전히 강력한 베이스라인이었으며, 모든 지표에서 1위를 차지한 researcher는 없었다.
OR-License는 LLM 에이전트가 고객의 원자료로부터 실무 수준의 운영 연구(OR) 과제를 풀 수 있는지를 평가하는 벤치마크다. 11개의 최첨단 LLM을 비교한 결과, 일부는 조건부 목적 품질에서 전문가 해법을 넘어섰으나, 실행 가능성을 고려한 품질(DAQ)에서는 어느 모델도 전문가 수준에 도달하지 못했다. 최고 성능을 보인 Claude Code 구성은 엄밀한 실행 가능성 88.39%, DAQ 0.87(전문가 기준 1)을 기록했다.
NVIDIA@nvidiaAI 점수6262Meet NVIDIA Nemotron 3.5 Super VL Our new open model combines reasoning and tool use with text, image, document, and video understanding for long-running AI agents. 120B total parameters with 12B active 🧵