본문 바로가기

#데이터·학습

오늘 1건
오늘11월 5일목
  1. Hugging Face Blog24

    Dharma Field Extractor, 임의의 문서에서 구조화된 필드를 JSON으로 추출

    Dharma Field Extractor는 문서 이미지에서 지정한 필드를 JSON 형식으로 추출하는 2B 파라미터 모델이다. DharmaOCR-LITE v1.1을 기반으로 하며, 43,384건의 학습 데이터로 만든 LoRA 어댑터를 적용했다. 546개 문서, 1,638건 케이스로 이루어진 벤치마크에서는 테스트한 범용 프론티어 LLM보다 품질이 1.8~9.3포인트 높았고, 비용은 약 6분의 1에서 약 147분의 1 수준인 것으로 알려졌다.

11월 4일수
  1. Hugging Face Blog39

    Palette, 20B 오픈 웨이트 모델이 IBM Design Language에 맞는 슬라이드를 만들도록 하다

    Palette는 20B 오픈 웨이트 모델을 IBM Design Language에 맞춘 합성 데이터로 파인튜닝해 슬라이드 덱을 생성하는 시도다. 디자이너 역할이 JSON 설계서를 만들고 코더 역할이 각 슬라이드의 pptxgenjs 코드를 작성하는 2단계 구조이며, 단일 LoRA 어댑터로 구현되었다. PresentBench의 세 가지 평가 영역 중 두 곳에서 1위를 차지했고, 코딩 단계는 약 6~7배 빨라졌다고 한다.

10월 29일목
  1. 카카오 보도자료38

    카카오, 개인화 AI 에이전트 기반 기술 'Kanana-2-embedding' 모델 2종 오픈소스 공개

    카카오가 개인화 AI 에이전트의 기반 기술인 임베딩 모델 'Kanana-2-embedding' 2종을 허깅페이스에 오픈소스로 공개했다. 30억 파라미터의 Kanana-2-3b-embedding과 13억 파라미터의 Kanana-2-1.3b-embedding이며, 유사 규모의 공개 모델과 비교한 평가에서 가장 높은 한국어 성능과 유사한 수준의 영어 성능을 보였다. 두 모델에는 상업적 활용이 가능한 '카나나 오픈 라이선스'가 적용됐다.

  2. Hugging Face Blog53

    NVIDIA, 프롬프트로 제어하는 다국어 음성 전사 모델 Nemotron 3.5 Transcribe와 Granary v2 공개

    NVIDIA는 전사, 화자 식별, 번역, 음성 Q&A를 하나의 체크포인트로 처리하는 오픈 웨이트 모델 Nemotron 3.5 Transcribe를 Hugging Face와 ModelScope에 공개했다. 40개 언어의 전사를 지원하며, Hugging Face Open ASR Leaderboard 영어 부문에서 오픈 웨이트 모델 중 1위인 평균 WER 5.33%를 기록했다. 학습 데이터 파이프라인 Granary v2와 파인튜닝 절차도 함께 공개됐다.

10월 22일목
  1. Hugging Face Blog62

    NVIDIA, 사전 학습된 관계형 기반 모델 Kumo Relational 공개

    NVIDIA는 기업 데이터베이스에서 추가 학습 없이 예측할 수 있는 사전 학습된 관계형 기반 모델 Kumo Relational을 공개했다. 최대 10,000건의 과거 사례를 컨텍스트로 읽어 들여, 한 번의 포워드 패스로 이탈, 수요, 부정 거래 등을 예측한다. 15개 데이터베이스에 걸친 41개 과제에서 지도 학습 모델과 전문가가 설계한 그래디언트 부스팅 트리 파이프라인을 능가했다고 밝혔다.

    선정 이유: 관계형 데이터를 위한 기반 모델의 구조, 벤치마크 결과, 한계, 활용 방법이 한 흐름으로 정리되어 있어 기존 예측 파이프라인과 비교하는 자료로 쓸 만하다.

10월 16일금
  1. Hugging Face Blog54

    NVIDIA·AI4Bharat, 인도 22개 언어 약 2.8조 토큰 규모의 사전학습 데이터와 생성 파이프라인 공개 예정

    NVIDIA와 IIT 마드라스의 AI4Bharat은 인도 헌법이 정한 22개 언어에 걸친 약 2.8조 토큰 규모의 Nemotron-pretraining-Indic-v1을 근일 공개한다고 발표했다. 데이터 생성에 사용한 GPU 가속 파이프라인과 함께 공개하며, 프롬프트, LLM 워크플로, 품질 검사까지 포함한 생성 레시피를 개방한다. Nemotron 3.5 Super VL의 Indic 지속 사전 학습에서는 보고된 5개 Indic 벤치마크 모두에서 점수가 상승했다.

10월 15일목
  1. Mistral AI News47

    Mistral AI, 시계열 기반 모델 'Timestral' 공개

    Mistral AI가 시계열 기반 모델 패밀리 「Timestral」을 공개했다. 가장 큰 209M 파라미터 모델은 GIFT-Eval, TIME, fev-bench 등 3대 주요 벤치마크에서 1위를 차지했으며, 기존 최첨단 모델보다 파라미터 수를 3분의 2 적게 쓰고도 성능에서 앞섰다. 5M부터 209M까지 4가지 크기로 제공되며, 추론에 GPU는 필요하지 않다. 표준 서버 CPU(8스레드) 기준으로 하루 뒤 예측에 5M 모델은 10ms, 209M 모델은 140ms가 소요되는 것으로 알려졌다.