Dharma Field Extractor는 문서 이미지에서 지정한 필드를 JSON 형식으로 추출하는 2B 파라미터 모델이다. DharmaOCR-LITE v1.1을 기반으로 하며, 43,384건의 학습 데이터로 만든 LoRA 어댑터를 적용했다. 546개 문서, 1,638건 케이스로 이루어진 벤치마크에서는 테스트한 범용 프론티어 LLM보다 품질이 1.8~9.3포인트 높았고, 비용은 약 6분의 1에서 약 147분의 1 수준인 것으로 알려졌다.
Amazon Quick에서 Amazon S3에 있는 문서(비정형 데이터)를 지식 베이스로 삼고, 강화(enrich)된 데이터셋(정형 데이터)과 함께 하나의 Space에 모아 단일 AI 에이전트가 두 데이터를 가로질러 질문에 답할 수 있도록 하는 구성을 해설한다. 구성은 데이터 계층, 워크스페이스 계층(Space), 에이전트 계층의 3계층으로 이루어진다. Enterprise 구독 등 사전 요건도 함께 제시된다.
Palette는 20B 오픈 웨이트 모델을 IBM Design Language에 맞춘 합성 데이터로 파인튜닝해 슬라이드 덱을 생성하는 시도다. 디자이너 역할이 JSON 설계서를 만들고 코더 역할이 각 슬라이드의 pptxgenjs 코드를 작성하는 2단계 구조이며, 단일 LoRA 어댑터로 구현되었다. PresentBench의 세 가지 평가 영역 중 두 곳에서 1위를 차지했고, 코딩 단계는 약 6~7배 빨라졌다고 한다.
Hugging Face가 장문 문서 안 개체(엔티티)의 상태 변화를 언어 모델이 어디까지 추적할 수 있는지 측정하는 벤치마크 'StateBench'를 공개했다. 난이도는 4단계로 나뉘며, 변수에 값을 대입하는 방식에 따라 갱신 연산의 복잡도가 달라진다. Gemini 3.8 Flash, Claude Opus 5.5, GPT-6 Sol, Luna 같은 프런티어 모델은 입력이 길어지면 까다로운 형식의 상태 추적에서 무너졌다. 반면 순환(recurrent)형과 하이브리드형 모델은 Transformer보다 더 먼 길이까지 일반화할 수 있었다고 한다.
SpaceXSI는 Grok Bot 안의 Team Bot으로 'Data Bot'을 구축했다. 데이터 사이언스 팀의 노하우를 스킬로 학습시켜, 웨어하우스에 대한 쿼리와 분석을 수행하고 결과를 각자 선호하는 형식으로 돌려준다. 이를 통해 PM과 마케팅 팀도 데이터 팀을 기다리지 않고 직접 궁금한 점을 조사할 수 있게 된 것으로 알려졌다.
Amazon SageMaker AI에서 프런티어 모델을 교사로 삼아 시퀀스 수준 지식 증류(SeqKD)로 쇼핑 에이전트를 소형 학생 모델에 파인튜닝하는 방법을 해설한다. 에이전트는 검색과 검증을 반복하므로 한 과제에서 여러 번 호출이 발생하지만, 소형 모델로 대체하면 비용과 응답 속도를 줄일 수 있다. SeqKD는 교사 모델의 텍스트 출력만 사용하기 때문에 API로만 이용할 수 있는 모델에도 적용할 수 있으며, 과제를 해결한 궤적만 학습 데이터로 남긴다.
대학, 연구기관, 산업계, 오픈사이언스 커뮤니티가 협력하는 「Project ProtoStar」가 출범했다. 공적 자금으로 수행된 연구의 데이터셋, 모델, 코드를 AI 대응 형식으로 공개해 재이용을 쉽게 하는 것이 목표이며, Hugging Face가 인프라 파트너를 맡는다. 첫 번째 오픈 챌린지는 Carnegie Mellon University가 주최하며 11월 2일에 시작된다.
카카오가 개인화 AI 에이전트의 기반 기술인 임베딩 모델 'Kanana-2-embedding' 2종을 허깅페이스에 오픈소스로 공개했다. 30억 파라미터의 Kanana-2-3b-embedding과 13억 파라미터의 Kanana-2-1.3b-embedding이며, 유사 규모의 공개 모델과 비교한 평가에서 가장 높은 한국어 성능과 유사한 수준의 영어 성능을 보였다. 두 모델에는 상업적 활용이 가능한 '카나나 오픈 라이선스'가 적용됐다.
Ray Train DLC는 PyTorch, CUDA, NCCL, EFA 네트워크 스택, Ray를 하나로 묶어 검증된 컨테이너 이미지로, 빌드 없이 여러 노드에 걸친 분산 학습에 사용할 수 있다. 본 샘플에서는 이 공개 이미지를 그대로 사용해, g6.12xlarge 인스턴스 2대의 NVIDIA L4 GPU 8기로 Qwen2.5-1.5B를 PyTorch FSDP로 파인튜닝한다. 클러스터 구성은 RayCluster 매니페스트와 변수 파일만으로 정의되며, EFA는 Pod가 요청하면 노드 간 통신에 사용된다.
NVIDIA는 전사, 화자 식별, 번역, 음성 Q&A를 하나의 체크포인트로 처리하는 오픈 웨이트 모델 Nemotron 3.5 Transcribe를 Hugging Face와 ModelScope에 공개했다. 40개 언어의 전사를 지원하며, Hugging Face Open ASR Leaderboard 영어 부문에서 오픈 웨이트 모델 중 1위인 평균 WER 5.33%를 기록했다. 학습 데이터 파이프라인 Granary v2와 파인튜닝 절차도 함께 공개됐다.
Exowatt는 Amazon SageMaker AI의 서버리스 모델 커스터마이징을 활용해, 엣지용 알람 트리아지를 위한 Qwen3-1.7B와 클라우드용 에너지 시장 분석을 위한 Qwen3-14B를 파인튜닝했다. 그 결과 프런티어 모델보다 높은 정확도를 최대 49배 낮은 비용으로 구현했다고 밝혔다.
NVIDIA@nvidiaAI 점수1515
의료 스타트업 Anima는 GPT-Live를 기반으로 한 AI 접수 담당 'Andi'를 도입한 진료소에서 전화 대기 시간이 40~50분에서 10분으로 줄어 75% 이상 감소했다고 밝혔다. 문서 처리에서는 시간당 약 15건이던 처리 건수가 30~45건으로 늘어난 것으로 전해졌으며, 이 업무에는 GPT-6 모델이 사용되고 있다. 환자 조사에서는 86%가 Andi를 다시 이용하고 싶다고 답했다.
Microsoft와 Hugging Face는 ThinkingBox의 데이터베이스 상태 판정을 강화학습 보상으로 쓰는 에이전트 학습 방법 「ThinkingBox-Training」을 GitHub에 공개했다. Qwen3.8-27B를 GRPO로 50스텝 학습한 결과, 507개 과제 벤치마크에서 평균 성공률(pass@1)이 51.70%에서 60.78%로 올랐고, 20회 모두 성공한 과제는 38건에서 107건으로 늘었다.
AWS가 Amazon SageMaker AI의 서버리스 모델 커스터마이징에 training session API를 추가했다. forward_backward(), optim_step(), sample()을 API 호출로 조합해 SFT나 강화학습 학습 루프를 로컬 Python으로 작성할 수 있다. GPU 할당, 분산 실행, 장애 복구는 SageMaker AI가 담당한다.
AWS가 Amazon SageMaker AI의 서버리스 모델 커스터마이징에 학습 세션을 추가해 일반 제공(GA)을 시작했다. 손실 함수와 보상 신호를 포함한 학습 루프는 사용자가 직접 작성하며, GPU 할당, 분산 실행, 장애 복구, 체크포인트 저장은 SageMaker AI가 담당한다. 지원 모델은 gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B, Qwen3.8-27B이다.
Google DeepMind와 Google Research는 World Resources Institute(WRI), IIASA와 공동으로 10미터 사방마다 숲과 토지 이용을 6가지 유형으로 분류한 세계 지도 Forest Typology(ForTy) 2020을 공개했다. 2017년부터 2025년까지의 연간 시계열 데이터도 초기 버전으로 공유하여, 자연림이 플랜테이션이나 농지로 대체된 곳도 추적할 수 있다. 두 데이터는 Google Earth Engine에서 오픈 라이선스에 따라 무료로 이용할 수 있다.
유럽 각국의 정부와 공공기관이 NVIDIA의 오픈 모델을 활용해 데이터와 인프라를 자국의 통제 아래 둔 채 행정 업무용 AI를 구축하고 있다. 폴란드에서는 가족·노동·사회정책부가 400곳 이상의 노동사무소를 위해 PLLuM, GPT OSS, Inkling을 사용한 에이전트형 시스템을 개발 중이다. 프랑스에서는 CANUT이 선정한 LINAGORA와 Docaposte가 2,500곳 이상의 대상 기관에 Twake.ai를 기반으로 한 주권형 협업 워크스페이스를 제공한다.
NVIDIA는 Cosmos 플랫폼에 새로운 학습 도구, 시뮬레이션용 체크포인트, Cosmos Data Factory 블루프린트를 추가했다. Data Factory는 자율주행 데이터셋 생성과 비디오 데이터 증강 등 5종의 클라우드 네이티브 블루프린트를 제공하며, GitHub, Microsoft Azure, Nebius, CoreWeave에서 이용할 수 있다. Cosmos 3 NIM 마이크로서비스는 검증된 구성에서 추론을 최대 2배 빠르게 한다고 한다.
Revolut는 단일 기반 모델 PRAGMA를 중심으로 기술 스택을 재구성해 NVIDIA의 가속 컴퓨팅 위에서 실서비스에 활용하고 있다. 초기 단계에서 8,000만 명의 고객에게 서비스를 제공하고 있으며, 3배 확장을 가정해 설계됐다. 또한 네오뱅크 bunq는 에이전트형 어시스턴트 Finn을 오픈 웨이트 모델로 구동하고 있다. Nebius에서 배포해 답변 1건당 비용을 60%로 낮추면서도 주요 클로즈드 모델과 동등한 품질을 확보했다.
단일 trn2.48xlarge 인스턴스에서 torchtitan을 사용해 Qwen3를 학습하는 세 가지 구성이 제시됐다. 첫째는 Transformers v5를 모델링 백엔드로 사용하는 방법, 둘째는 torchtitan 네이티브 Qwen3로 전환하는 방법, 셋째는 NKI MoE 커널과 override registry를 결합하는 방법이다. Qwen3-4B-Instruct-2507의 경우 공개 가중치에서 시작하면 1스텝 손실이 6.54, 랜덤 초기화에서는 12.43으로 보고됐다.
NVIDIA는 기업 데이터베이스에서 추가 학습 없이 예측할 수 있는 사전 학습된 관계형 기반 모델 Kumo Relational을 공개했다. 최대 10,000건의 과거 사례를 컨텍스트로 읽어 들여, 한 번의 포워드 패스로 이탈, 수요, 부정 거래 등을 예측한다. 15개 데이터베이스에 걸친 41개 과제에서 지도 학습 모델과 전문가가 설계한 그래디언트 부스팅 트리 파이프라인을 능가했다고 밝혔다.
선정 이유: 관계형 데이터를 위한 기반 모델의 구조, 벤치마크 결과, 한계, 활용 방법이 한 흐름으로 정리되어 있어 기존 예측 파이프라인과 비교하는 자료로 쓸 만하다.
OpenAI@OpenAIAI 점수3838Mistral과 NVIDIA는 Mistral의 모델을 NVIDIA의 가속 컴퓨팅 및 물리 모델링 도구에 통합해, 시뮬레이션과 AI 설계를 폐루프로 연결하는 엔지니어링 워크플로를 개발하고 있다고 밝혔다. 두 회사는 CAE 및 EDA 분야에서 물리 AI와 에이전트형 AI를 평가하기 위한 공개 벤치마크와 오픈 데이터셋도 마련한다. Mistral은 총 파라미터 약 1조 개, 활성 파라미터 490억 개의 멀티모달 모델 'Mistral Large 4'의 공개 프리뷰를 발표했으며, 가중치는 10월 말 공개될 예정이라고 전했다.
Mistral AI@MistralAIAI 점수3535
Hugging Face의 SimReady Central Library는 로보틱스와 AI 팩토리 시뮬레이션에 활용할 수 있는 OpenUSD 형식 3D 에셋 2,000종 이상을 모은 무료 이용 라이브러리다. 로봇 암, 그리퍼, 창고 설비, 랙, 냉각 설비 등이 포함되며, 개발자는 각 에셋의 지원 기능을 확인해 서로 다른 공급업체의 에셋을 조합할 수 있다. 장비 제조사(OEM)는 자사 에셋을 SimReady 요건에 따라 검증하고 이 라이브러리를 통해 제공할 수 있다.
NVIDIA는 오픈소스 NVIDIA Agent Toolkit에 새 도구를 추가해 확충하고, 기업 데이터를 활용해 에이전트를 구축·관리할 수 있도록 했다고 밝혔다. 새로운 Agent Knowledge Foundation에는 CUDA-X 라이브러리, Auto-Ontology 라이브러리, Nemotron Retriever, Kumo의 오픈 모델이 포함된다. OpenShell은 에이전트의 접근과 동작을 제어하는 안전한 런타임을 제공하며, SAP의 리랭커는 거의 3배 빨라졌다.
i14는 선형 어텐션 모델 Laplace 3B를 AWS Trainium2에서 네이티브 PyTorch를 사용해 학습하고 서비스했다. 재귀 상태는 컨텍스트 길이와 관계없이 시퀀스당 29.5 MB로 고정된다. trn2.48xlarge 인스턴스 1대에서의 학습 처리량은 약 120,000 토큰/초였으며, 1,280개의 동시 시퀀스에서의 추론 출력은 11,544 토큰/초였다.
Octave Reliance는 Amazon Bedrock 위에 테넌트별로 데이터를 분리하는 AI 플랫폼을 3계층으로 구축했다고 밝혔다. 데이터 준비 단계에서는 Cohere Embed v4로 문서를 임베딩하고, 테넌트 단위의 Amazon OpenSearch Service 벡터 스토어에 저장한다. 여기에 AgentCore Gateway를 통한 인증 및 정책 적용과 Amazon Bedrock Guardrails를 이용한 입출력 필터링을 결합했으며, 이를 통해 유스케이스별 배포 시간을 50% 단축했다고 한다.
Ai2가 LLM 의사결정에서 속성별 공정성을 최종 선택뿐 아니라 판단의 흔들림 정도까지 측정하는 벤치마크 FairStress를 공개했다. 300개 시나리오와 속성·설득문 조합으로 1300만 건이 넘는 테스트 케이스를 갖추고 있으며, Olmo-eval에도 포함한다. Olmo, Llama, Qwen, Gemma, Claude, GPT 등에서 같은 설득문이라도 유리해지는 속성에 따라 판단이 바뀌는 정도가 다른 경향을 확인했다.
구글은 Meta의 TorchTitan을 포크한 TorchTitan TPU를 공개했다. TorchTPU의 네이티브 백엔드(torch.device("tpu")) 위에서 PyTorch 모델 정의를 그대로 유지한 채 Cloud TPU에서 대규모 학습을 수행할 수 있다. Llama 3 405B는 128~1,024칩에서 약 57% MFU를, Qwen3 235B는 1,024칩 단일 슬라이스에서 32.42% MFU를 기록했다.
Google은 AI 에이전트가 LLM의 사후 학습을 자율적으로 반복 실행하는 「autofinetune」을 개발했다고 밝혔다. Tunix, Gemma, Cloud TPU를 Antigravity CLI 및 Gemini Flash 3.7과 통합한 구성이다. SFT의 FunctionGemma 실험에서는 TPU v5e-1에서 약 2시간 동안 20회의 자동 실험을 수행해 함수 호출 생성의 정확도를 높였다. GRPO로 Gemma 3 1B를 학습시킨 실험에서는 40회의 실험을 2~3일에 걸쳐 진행했고, 총 보상이 약 10% 향상됐다.
Google 팀이 Ai2의 Olmo 3 7B를 MaxText 기반 Google Cloud TPU에서 1단계 사전학습과 2단계 mid-training annealing까지 재현했다. 홀드아웃 C4 손실과 8개 태스크 정확도는 Ai2의 참조 실행과 거의 동등했으며, 실행 간 노이즈 범위 내라고 보고했다. Ironwood에서는 44.5% MFU, v5p에서는 57.4% MFU를 기록했다.
NVIDIA와 IIT 마드라스의 AI4Bharat은 인도 헌법이 정한 22개 언어에 걸친 약 2.8조 토큰 규모의 Nemotron-pretraining-Indic-v1을 근일 공개한다고 발표했다. 데이터 생성에 사용한 GPU 가속 파이프라인과 함께 공개하며, 프롬프트, LLM 워크플로, 품질 검사까지 포함한 생성 레시피를 개방한다. Nemotron 3.5 Super VL의 Indic 지속 사전 학습에서는 보고된 5개 Indic 벤치마크 모두에서 점수가 상승했다.
Mistral AI가 시계열 기반 모델 패밀리 「Timestral」을 공개했다. 가장 큰 209M 파라미터 모델은 GIFT-Eval, TIME, fev-bench 등 3대 주요 벤치마크에서 1위를 차지했으며, 기존 최첨단 모델보다 파라미터 수를 3분의 2 적게 쓰고도 성능에서 앞섰다. 5M부터 209M까지 4가지 크기로 제공되며, 추론에 GPU는 필요하지 않다. 표준 서버 CPU(8스레드) 기준으로 하루 뒤 예측에 5M 모델은 10ms, 209M 모델은 140ms가 소요되는 것으로 알려졌다.
Mistral AI@MistralAIAI 점수3232
NVIDIA는 유럽연합 집행위원회가 더블린에서 시작한 AI in Science Enablers Initiative에 참여해 유럽 연구자들을 위한 오픈 모델, 학습 자료, 컴퓨팅 자원 접근을 넓힌다고 발표했다. 현재 250개 이상의 오픈 모델과 250개의 오픈 데이터셋을 공개하고 있으며, NVIDIA Deep Learning Institute는 무료 오픈소스 교육 자료 허브를 열었다. 유럽에서는 35대의 슈퍼컴퓨터가 개발 중이며, 300만 명이 넘는 연구자가 이를 이용할 수 있게 된다.
연구팀은 사전 학습된 음성 인코더의 언어 선택적 은닉 상태 차원을 활용해, 음성에서 직접 코드스위칭(발화 중 언어가 전환되는 현상)을 검출하는 경량 기법을 제안했다. CS-FLEURS의 14개 언어 쌍 실험에서 Whisper-small 인코더는 평균 F1 0.798을 기록해, CNN의 0.776과 단일 언어 식별용으로 학습한 HuBERT 선형 베이스라인의 0.751을 웃돌았다. 이 결과는 사전 학습된 음성 인코더가 코드스위칭 발화를 식별하는 데 필요한 정보를 이미 부호화하고 있음을 시사한다.
Apple 연구진이 텍스트, 이미지-텍스트 쌍, 음성-텍스트 쌍으로 사전 학습한 최초의 세 모달리티 Masked Diffusion Models(MDM)를 발표하고 그 설계 공간을 체계적으로 분석했다고 밝혔다. 예비 모델은 3B 규모에 6.4T 토큰으로 학습했으며, 텍스트 생성, T2I, T2S 각 과제에서 강력한 결과를 얻었다고 한다. 또한 물리적 배치 크기와 논리적 배치 크기를 분리하는 SDE 기반 재매개변수화를 적용해 최적 배치 크기를 조정할 필요를 없앴다고 보고했다.
GitHub는 secret scanning을 위해 정규표현식으로 후보를 추출한 뒤, 파인튜닝한 ModernBERT 분류기로 문맥을 보고 실제 시크릿인지 판정하는 2단계 파이프라인을 도입했다. 기존 LLM 기반 파이프라인과 비교하면 post-push 스캔의 실행 시간 중앙값은 86% 단축되었고, 제공 비용은 98% 이상 절감되었으며, 오너 가중 알림 정밀도 기준 수락률은 11.5% 향상되었다. 처리 속도가 빨라지면서 범용 시크릿 탐지를 push protection에도 확대 적용할 수 있게 되었다.