본문 바로가기

#오픈소스

오늘 4건
10월 13일화
  1. Apple Machine Learning Research39

    Apple 연구, 데이터 제약 하의 사전학습에서는 하이퍼파라미터 조정보다 이중언어 혼합이 효과적

    연구에서는 데이터가 제한된 저자원 언어의 사전학습에서 고자원 언어의 데이터를 섞는 방법이 하이퍼파라미터 조정보다 성능을 크게 개선한다는 결과가 나왔다고 밝혔다. 150M에서 1.43B 파라미터까지 4개 규모에서 아랍어에 영어 데이터를 섞은 약 1000회의 사전학습을 비교했으며, 검증 손실과 하위 작업 정확도 모두에서 혼합 방식이 우위를 보였다. 혼합의 효과는 목적 언어 고유 데이터 2~3배분(검증 손실), 2~13배분(하위 작업 정확도)에 해당하며, 검증 손실만으로는 혼합의 가치가 과소평가된다.

10월 8일목
  1. Google Research Blog50

    Google Research, 특허 작성에 AI 지원이 전문성을 높이는가 해치는가를 3개월 현장 실험으로 검증

    지적재산권법 변호사 133명을 대상으로 미공개 Google Labs 개발 AI 특허 작성 지원 도구를 3개월간 사용하게 하는 현장 실험을 진행하고, NBER에 논문을 공개했다. AI를 사용한 경우 작성 점수는 10일 후 0.34SD, 90일 후 0.38SD 향상되었으나, AI 없이 수행한 첨삭 과제에서 개선이 확인된 것은 시니어 변호사뿐이었고 주니어 변호사에게는 뚜렷한 개선이 없었다.

10월 7일수
  1. Google Research Blog46

    「Earth AI」 지리공간 기반 모델, 전 세계 공중보건 활용 검증

    Google Research는 Google Earth AI의 인구동태 기반 모델(PDFM)이 생성하는 장소 임베딩 표현을 다섯 가지 공중보건 과제로 평가했다. PDFM은 검색 동향, 사람의 이동, 건물 밀도, 기상·대기질 등을 통합한 임베딩으로, 과제별 미세조정 없이도 기존 입력과 같거나 그 이상의 결과를 보였다. 미국·캐나다 국경의 146개 카운티에서는 MMR 백신 접종의 설명 분산이 상대적으로 36% 향상됐고, 콜레라 발생 예측에서는 4주 앞의 AUPRC가 9.7% 개선됐다.

10월 6일화
  1. Mistral AI News62

    Mistral, Mistral Large 4 공개 프리뷰 시작… 가중치는 월말 공개 예정

    Mistral은 총 파라미터 1조, 활성 파라미터 520억의 네이티브 멀티모달 모델 Mistral Large 4(ML4)의 공개 프리뷰를 시작했다. 프리뷰 API는 Mistral Studio에서 체험할 수 있으며, 가중치는 이번 달 말 공개될 예정이다. 코딩, 에이전트형 워크플로, 멀티모달 이해에서 높은 성능을 보인다고 밝혔으며, Artificial Analysis Cyber Index에서는 세계 상위 5개 모델에 든다고 밝혔다.

    선정 이유: 사이버보안, 금융, 법무 분야의 평가 결과와 함께 학습 인프라 및 RL 운영 규모까지 공개되어, 오픈 웨이트 대형 모델의 위치를 비교하기 쉽다.

9월 28일월
  1. Hugging Face Blog37

    Holo4, 범용 컴퓨터 조작 에이전트를 위한 신규 모델 시리즈

    Holo4는 GUI, 코드, MCP, API를 상황에 맞게 골라 쓰며 컴퓨터를 조작하는 에이전트형 모델 시리즈로, 27B 덴스(dense) 버전과 35B-A3B(Mixture of Experts) 버전 두 가지 크기로 제공된다. OSWorld 2.0에서 Holo4 27B는 61.7%를 기록했으며, Opus 5.5의 81.8%에는 미치지 못하지만 파라미터 수와 비용은 크게 적은 것으로 알려졌다. 두 모델은 H Models API를 통해 이용할 수 있으며, Holotron4 Nano도 함께 공개되었다.

9월 25일금
  1. GitHub Blog: AI & ML52

    GitHub Security Lab, C/C++용 자율형 퍼징 Fuzzing Taskflow 공개

    GitHub Security Lab의 Antonio Morales가 C/C++ 프로젝트용 자율형 퍼징 파이프라인 Fuzzing Taskflow를 공개했다. GitHub 리포지토리만 지정하면 하네스 작성, AFL++ 실행, 커버리지 분석, 크래시 트리아지, 취약점 보고서 작성까지 LLM 에이전트가 수행한다. 소스 코드는 오픈소스로 제공된다.

9월 23일수
9월 22일화
  1. Hugging Face Blog43

    Hugging Face, oMLX 개발자 Jun Kim 영입…MLX 커뮤니티 지원 강화

    Hugging Face는 oMLX의 제작자이자 메인테이너인 Jun Kim을 팀에 영입했다고 발표했다. oMLX는 그동안 부업 성격의 프로젝트였으나, 앞으로는 충분한 유지보수 인력과 자금을 확보해 장기적인 개발에 전념할 수 있는 체제를 갖추게 된다. oMLX는 Apache 2.0 라이선스를 그대로 유지하며, Jun Kim이 계속해서 프로젝트를 이끈다.

9월 21일월
9월 10일목
  1. Hugging Face Blog36

    HF Jobs에서 LoRA 기반 Async GRPO를 실행하는 구성, Storage Bucket과 프록시로 NCCL 없이 동기화

    TRL v1.14의 AsyncGRPOTrainer는 LoRA 어댑터만 학습해 vLLM에 동기화할 수 있게 되었으며, 학습과 추론을 서로 다른 Hugging Face Jobs로 나누어 실행하는 구성을 보여준다. 랭크 1 어댑터는 크기가 수 MB에 불과해 1.5B 모델 전체(약 3GB)보다 훨씬 작으므로, Storage Bucket을 공유 파일 시스템으로 사용하면 NCCL 없이 동기화할 수 있다. 5회 실행 결과, 동일한 레시피로 500스텝을 학습하는 시간이 3시간 27분에서 53분으로 줄었다.

9월 3일목
9월 2일수
  1. Hugging Face Blog44

    BenchMIRT로 보는 LLM 벤치마크의 실제 측정 대상

    Hugging Face가 LLM 벤치마크를 개별 프롬프트 단위로 분석하는 기법 「BenchMIRT」를 발표했다. 100개의 LLM, 16개의 벤치마크, 34K개가 넘는 질문의 결과로부터 사전 지정 없이 「안전성」과 「범용 추론」이라는 두 가지 주요 차원을 추출했다. 예를 들어 BBQ는 안전성 벤치마크로 분류되지만 범용 추론과의 상관이 강했고, WMDP도 안전성보다 범용 추론과 강하게 연관되어 있었다.

9월 1일화
  1. Hugging Face Blog50

    Hugging Face, 브라우저 추론용 WebGPU 커널 207개와 @huggingface/kernels 공개

    Hugging Face가 WebGPU 커널 207개와, Hub에서 커널을 불러와 실행하는 JavaScript 라이브러리 @huggingface/kernels를 공개했다. 각 커널은 webgpu-kernels 조직 아래 개별 리포지토리로 배포되며, 라이선스는 Apache-2.0이다. 아울러 브라우저에서 커널의 성능과 정확성을 측정하는 벤치마크 도구 Fleet도 함께 공개했으며, 사용자의 동의를 얻은 뒤 실제 기기에서 얻은 결과를 수집해 개선에 활용할 계획이다.

8월 21일금
  1. Hugging Face Blog42

    Hugging Face Inference Endpoints, Jobs, Buckets로 Papers with Code 검색을 뒷받침하는 방법

    Papers with Code 검색은 PostgreSQL 전문 검색과 pgvector 벡터 검색을 RRF로 통합한 하이브리드 검색으로 구축되었다. 논문 임베딩은 Hugging Face Jobs의 L4 GPU에서 오프라인으로 생성하며, arXiv와 Daily Papers의 11만 건이 넘는 현행 논문을 대상으로 한다. 온라인에서는 쿼리 임베딩만 Inference Endpoints에서 처리하고, 엔드포인트가 중지되거나 혼잡할 경우 전문 검색으로 전환한다.

8월 13일목
  1. Hugging Face Blog42

    OlmoEarth Studio, 다운스트림 분석을 위한 맞춤형 임베딩 내보내기 제공 시작

    OlmoEarth Studio에서 오픈소스 OlmoEarth 기반 모델의 임베딩 벡터를 원하는 범위에 대해 계산하고, Cloud-Optimized GeoTIFF(COG)로 내보낼 수 있게 되었다. 맞춤 계산 임베딩은 Studio 사용자를 대상으로 제공되며, 이용은 문의를 통해 이루어진다. 베트남 Ca Mau의 맹그로브 지역에서는 60개 픽셀에 불과한 레이블만으로 학습한 선형 분류기가 가중 F1=0.84의 토지 피복 지도를 만들어냈다.

8월 7일금
  1. Google DeepMind Blog63

    Google DeepMind, 사이클론 예측 WeatherNext를 Nature 논문과 함께 오픈소스로 공개

    Google DeepMind는 사이클론의 진로, 강도, 바람 구조를 단일 모델로 예측하는 WeatherNext를 Nature 논문으로 발표하고, WeatherNext 2와 WeatherNext Cyclones의 코드 및 모델 가중치를 공개했다고 밝혔다. 3일 앞의 예측이 기존 모델의 2일 앞 예측 정확도에 해당하며, 평균적으로 하루치 예측 정확도가 더해진다고 한다. 소형 버전인 WeatherNext 2-mini도 함께 공개됐으며, 무료 Colab 노트북에서 단일 TPU로 실행된다.

    선정 이유: 단일 모델로 진로, 강도, 바람 구조를 예측하는 방식과 가중치 및 코드의 공개 범위가 구체적으로 제시되어, 기상 분야에서의 재활용을 검토할 자료가 된다.

7월 31일금
  1. LG AI연구원 뉴스62

    LG AI연구원, 750B 파라미터 'K-EXAONE 2.0' Hugging Face에 공개

    LG AI연구원이 31일 독자 AI 파운데이션 모델 프로젝트 2차수 모델인 K-EXAONE 2.0을 Hugging Face에 공개했다. 파라미터는 750B로 1차수 모델(236B)의 3배 이상이며, 라이선스는 상업적 이용이 가능한 Apache 2.0으로 전환했다. 24개 벤치마크 평균은 70.1점으로 1차수 모델의 63.3점을 웃돌았다.

    선정 이유: 1차수 모델 236B와 비교한 규모 확대와 24개 벤치마크 결과, 라이선스 전환이 함께 정리돼 있어 모델의 위치를 가늠하기 좋다.

7월 21일화
  1. Hugging Face Blog52

    Hugging Face, 로봇 조작 데이터 기록 시스템 'Grabette' 오픈소스로 공개

    Hugging Face는 Pollen Robotics가 개발한 손에 쥐는 그리퍼형 조작 데이터 기록 시스템 Grabette를 공개했다. 로봇 없이 사람의 손 시연을 기록할 수 있으며, 브라우저에서 처리되어 LeRobot 형식의 데이터셋으로 변환된다. 하드웨어 CAD 및 제작 파일, 소프트웨어, 처리 파이프라인은 모두 오픈소스다.

7월 16일목
  1. Google Research Blog38

    Google Research, 확산 모델 창의성의 기원 해설

    확산 모델의 '창의성'은 신경망 학습 과정에서 생기는 '스코어 평활화(score smoothing)'에서 비롯된다고 Google Research가 설명했다. 학습 데이터 사이를 잇는 보간 영역에서 새로운 데이터가 생성되는 구조로, 가중치 감쇠(weight decay)가 강할수록 학습된 스코어 함수가 중간 영역에서 더 매끄러워진다는 것을 1차원 실험으로 보였다. 연구 성과는 ICLR 2026에서 발표된 논문 「On the Interpolation Effect of Score Smoothing in Diffusion Models」에 정리되어 있다.

7월 15일수
  1. Hugging Face Blog72

    Thinking Machines Lab, 이미지·음성·텍스트 지원 오픈 모델 Inkling과 Inkling-Small 공개

    Thinking Machines Lab이 이미지, 텍스트, 음성을 입력할 수 있는 약 1T 파라미터 오픈 모델 Inkling을 Hugging Face에 공개했다. 총 파라미터 975B, 활성 파라미터 41B의 MoE 구조이며 1M 컨텍스트를 지원한다. 총 276B, 활성 12B인 Inkling-Small도 추가되었으며, Inference Endpoints에서 원클릭으로 배포할 수 있다.

    선정 이유: 아키텍처 세부 사항, 필요 VRAM, 각 추론 엔진별 실행 절차, 벤치마크 표가 한데 정리되어 있어 도입 여부를 판단하는 자료로 활용할 수 있다.

6월 30일화
  1. Google Research Blog62

    Google Research, 표 형식 데이터용 제로샷 기반 모델 TabFM 발표

    Google Research는 표 형식 데이터의 분류와 회귀를 제로샷으로 수행하는 기반 모델 TabFM을 발표했다. 문맥 내 학습을 통해 모델 학습, 하이퍼파라미터 조정, 특성 엔지니어링 없이 한 번의 순전파로 예측할 수 있다. Hugging Face와 GitHub에서 공개되었으며, Google Cloud BigQuery에서도 이용할 수 있다.

    선정 이유: 표 형식 데이터의 예측을 문맥 내 학습(in-context learning)으로 다루는 설계와, 합성 데이터만으로 사전 학습한 점이 정리되어 있어 기존 트리 계열 기법과의 차이를 파악하기 쉽다.

6월 11일목
  1. Google DeepMind Blog60

    Google DeepMind, 실험적 텍스트 확산 오픈 모델 DiffusionGemma 공개

    Google DeepMind가 텍스트 확산(diffusion) 방식을 채택한 26B MoE 오픈 모델 DiffusionGemma를 Apache 2.0 라이선스로 공개했다. 전용 GPU에서 최대 4배 빠른 추론을 구현하며, 단일 NVIDIA H100에서 초당 1000개 이상의 토큰, NVIDIA GeForce RTX 5090에서 초당 700개 이상의 토큰을 출력한다. 다만 출력 품질은 표준 Gemma 4보다 낮아, 높은 품질이 필요한 용도에는 Gemma 4를 권장하고 있다.

    선정 이유: 자기회귀 모델과의 속도 차이가 발생하는 원리, 로컬 추론에 적합한 조건, 클라우드 배포에서는 장점이 줄어드는 지점이 정리되어 있어 용도를 가늠하기에 유용하다.

6월 9일화
  1. Google DeepMind Blog60

    Google DeepMind, 인코더 없는 멀티모달 모델 Gemma 4 12B 발표

    Google DeepMind가 노트북용 멀티모달 모델 Gemma 4 12B를 발표했다. 이미지와 음성 입력을 인코더 없이 LLM 본체에 직접 전달하는 구조이며, 16GB VRAM 또는 통합 메모리에서 동작한다. Apache 2.0 라이선스로 공개되었으며, Hugging Face와 Kaggle에서 가중치를 내려받을 수 있다.

    선정 이유: 이미지와 음성을 인코더 없이 LLM 본체에 직접 입력하는 구조와 16GB에서 동작하는 메모리 요건이 제시되어 있어, 로컬 운용을 판단하는 데 참고가 된다.

6월 4일목
  1. Google Research Blog46

    Google, 홍수 예측용 수문 모델 프레임워크 오픈소스 공개

    Google은 AI 기반 홍수 예측을 위한 수문 모델 프레임워크를 GitHub에 오픈소스로 공개했다. Google Flood Hub의 하천 예측과 같은 아키텍처와 유사한 학습 데이터를 사용하며, 각국의 기상·수문 기관과 예보 담당자가 모델을 학습시킬 수 있다. 새 모델은 기존 버전에 비해 관측 지점이 있는 유역에서는 예측 가능 기간이 6일, 관측이 없는 유역에서는 1일 늘어난 것으로 알려졌다.

5월 2일토
  1. Google Research Blog35

    Google Research, 국제 협력과 오픈 리소스로 과학적 영향력 확대

    Google Research는 오픈소스 도구와 오픈 액세스 데이터셋을 공개하고, 전 세계 과학 커뮤니티와 협력해 연구의 재현과 발전을 지원하고 있다. 게놈 분석 도구 DeepVariant 등은 25만 명이 넘는 연구자와 개발자로 이루어진 생태계에서 활용되고 있다. 의료 분야에서는 HAI-DEF의 다운로드 건수가 480만 건을 넘었으며, OHS는 10개국 이상에 도입되어 6,500만 명이 넘는 수혜자에게 도달했다.

4월 9일목
  1. Google Research Blog37

    Google Research, 논문 도표 제작과 심사를 지원하는 AI 에이전트 2종 발표

    Google Research가 논문용 도표를 생성하는 에이전트 'PaperVizAgent'와 논문을 자동으로 심사하는 에이전트 'ScholarPeer'를 발표했다. PaperVizAgent는 0~100점 평가에서 종합 60.2점을 기록해 GPT-Image-1.5, Nano-Banana-Pro, Paper2Any를 웃돌았다. 인간 기준치인 50.0점을 넘은 것은 이 프레임워크뿐이라고 한다. ScholarPeer는 웹 검색으로 문헌을 참조하며 비판적인 리뷰를 생성하고, 기존 자동 심사 방법과의 비교에서 높은 승률을 보였다.

3월 24일화
3월 17일화
  1. Mistral AI News60

    Mistral AI, 통합형 오픈 모델 「Mistral Small 4」 발표

    Mistral AI가 Mistral Small 4를 발표했다. Magistral의 추론, Pixtral의 멀티모달, Devstral의 에이전트형 코딩을 하나의 모델로 통합했으며, Apache 2.0 라이선스로 공개했다. 총 파라미터 119B의 MoE 구조로 256k 컨텍스트 윈도우를 지원하고, Mistral Small 3와 비교해 지연 시간 중시 설정에서 엔드 투 엔드 완료 시간을 40% 줄였으며, 처리량 중시 설정에서는 초당 요청 수를 3배로 늘렸다.

    선정 이유: 추론, 멀티모달, 에이전트형 코딩을 하나의 모델로 통합한 구성과 출력 길이를 줄인 비교 결과가 제시되어 있어, 모델 선택 기준을 정리하기 좋다.

  2. Mistral AI News52

    Mistral AI, Lean 4용 오픈소스 코드 에이전트 Leanstral 공개

    Mistral AI가 Lean 4용 오픈소스 코드 에이전트 Leanstral(120B-A6B, 활성 파라미터 6B)을 Apache 2.0 라이선스로 공개했다. Mistral Vibe의 에이전트 모드와 무료 API 엔드포인트에서도 이용할 수 있다. FLTEval에서 pass@2 기준 26.3을 기록했으며, 비용 36달러로 Sonnet의 23.7(549달러)을 웃돌았다고 밝혔다.

3월 11일수
2월 5일목
  1. Mistral AI News62

    Mistral AI, 음성 인식 모델 Voxtral Transcribe 2 공개… Realtime은 Apache 2.0 오픈 웨이트

    Mistral AI가 음성 인식 모델 패밀리 Voxtral Transcribe 2를 공개했다. 배치용 Voxtral Mini Transcribe V2와 지연 시간을 200ms 미만까지 설정할 수 있는 실시간용 Voxtral Realtime으로 구성된다. Realtime은 4B 파라미터 규모로 Apache 2.0 오픈 웨이트 형태이며 Hugging Face Hub에서 배포된다. Mini Transcribe V2의 API 요금은 1분당 $0.003이다.

    선정 이유: 배치용과 실시간용 두 모델에 대해 지연 시간 설정, 요금, 지원 언어가 나란히 제시되어 용도별 선택을 판단하기 쉽다.

1월 22일목
  1. Mistral AI News36

    힙은 거짓말을 한다: vLLM 메모리 누수 디버깅

    Mistral AI의 엔지니어링 팀이 vLLM에서 발생한 메모리 누수의 원인을 추적한 과정을 해설한다. Mistral Medium 3.1을 사용하고 그래프 컴파일을 활성화한 조건에서 시스템 메모리가 분당 400MB씩 선형으로 증가했다. Prefill/Decode 분리 구성의 decode 측에서만 재현됐으며, Heaptrack에서는 힙 메모리가 안정적이었지만 힙 외부의 피크 RSS에서 차이가 나타났다.

12월 9일화
  1. Mistral AI News70

    Mistral AI, 코딩 모델 Devstral 2와 Mistral Vibe CLI 공개

    Mistral AI가 코딩 모델 Devstral 2(123B)와 Devstral Small 2(24B), 그리고 터미널용 CLI Mistral Vibe를 공개했다. Devstral 2는 SWE-bench Verified에서 72.2%, Devstral Small 2는 68.0%를 기록했다. Devstral 2는 API를 당분간 무료로 제공하며, 무료 기간이 끝나면 입력/출력 기준 100만 토큰당 $0.40/$2.00이 된다.

    선정 이유: SWE-bench Verified 점수와 함께 인간 평가에서도 Claude Sonnet 4.5와의 격차가 남아 있다고 명시하고 있어, 오픈 모델의 현재 위치를 비교하기 쉽다.

12월 3일수
  1. Mistral AI News71

    Mistral AI, Mistral 3 발표… Mistral Large 3·Ministral 3를 Apache 2.0으로 공개

    Mistral AI가 차세대 모델 Mistral 3를 발표했다. 14B·8B·3B의 소형 dense 모델과, 활성 파라미터 41B·총 675B 규모의 MoE인 Mistral Large 3로 구성되며, 전 모델을 Apache 2.0 라이선스로 공개한다. Mistral Large 3는 LMArena에서 OSS 비추론 모델 부문 2위를 기록했고, Ministral 3 14B의 추론 버전은 AIME '25에서 85%를 달성했다.

    선정 이유: 3B·8B·14B 소형 모델과 675B 규모 MoE를 동일한 Apache 2.0으로 공개해, 용도별 선택지와 배포처를 비교하기 쉽다.

7월 15일화
  1. Mistral AI News64

    Mistral AI, 음성 이해 모델 Voxtral 공개… 24B·3B를 Apache 2.0으로 제공

    Mistral AI는 음성 이해 모델 Voxtral을 공개했다. 프로덕션용 24B와 로컬·엣지용 3B, 두 가지 크기로 제공되며 모두 Apache 2.0 라이선스다. API는 $0.001 per minute부터 이용할 수 있으며, Voxtral Mini Transcribe는 OpenAI Whisper를 웃도는 성능을 절반 미만의 가격으로 제공한다고 밝혔다.

    선정 이유: 음성 인식과 음성 이해를 하나의 모델로 처리하도록 설계되어 있으며, Whisper 등 타사 API와의 비교와 가격이 제시되어 있어 도입 판단의 근거로 활용하기 좋다.

7월 11일금
6월 10일화
  1. Mistral AI News75

    Mistral AI, 첫 추론 모델 Magistral 발표… 오픈소스 Small과 기업용 Medium 2종

    Mistral AI가 자사 첫 추론 모델 Magistral을 발표했다. 24B 파라미터의 오픈소스 모델 Magistral Small과 기업용 Magistral Medium 2종으로 제공한다. AIME2024에서 Medium은 73.6%(majority voting @64 시 90%), Small은 70.7%(동일 조건 83.3%)를 기록했다. Small은 Apache 2.0 라이선스로 Hugging Face에서 내려받을 수 있으며, Medium은 Le Chat과 La Plateforme API를 통해 프리뷰로 제공된다.

    선정 이유: 24B 버전의 오픈 모델과 기업용 Medium 버전이라는 두 갈래로 나온 첫 추론 모델이다. AIME2024 수치와 제공처도 함께 공개돼 위치를 파악하기 쉽다.