본문 바로가기

멀티모달

텍스트 너머로. 이미지와 글을 함께 다루고 음성과 동영상을 입출력하는 모델과 제품.

주요 뉴스 30건관련 토픽이미지 생성AI 동영상음성·오디오

최신 주요 뉴스

30건 중 1~20번째
11월 3일화
  1. Google AI Blog78

    Google, 10월 AI 발표 정리 공개… Gemini 4 Argon·Carbon, Genie 4 중심

    구글이 10월 AI 관련 발표를 정리한 기사를 공개했다. 중심은 Gemini 4 Argon과 Gemini 4 Carbon, 그리고 월드 모델 Genie 4다. Argon은 Google AI Studio, Gemini API, Gemini 앱 등을 통해 제공되며, Carbon은 미국 정부와 일부 사이버 방어 기관이 참여하는 사전 테스트 단계에 있다.

    선정 이유: Gemini 4 Argon·Carbon과 Genie 4를 중심으로, 10월 Google의 AI 관련 발표를 분야별로 정리해 전체 흐름을 파악하기 좋다.

10월 30일금
  1. Google Blog: Gemini64

    Gemini 앱, 채팅 안에서 문서·PDF·슬라이드·스프레드시트 생성, 미리보기 및 편집 가능

    Google는 Gemini 앱에 문서, PDF, 슬라이드, 스프레드시트, 코드 등을 채팅 안에서 생성, 미리보기, 편집할 수 있는 기능을 도입했다. PDF는 웹과 모바일에서, 그 밖의 형식은 웹에서만 지원된다. Gemini 앱을 사용할 수 있는 모든 언어의 모든 사용자가 이용할 수 있다.

    선정 이유: 채팅 안에서 생성, 미리보기, 편집이 이어지는 흐름과 PDF만 모바일을 지원하는 등 형식별 제공 범위가 정리되어 있어 활용 장면을 판단하기 쉽다.

10월 29일목
  1. Hugging Face Blog81

    Hugging Face, Mistral Large 4(Le Chonk) 소개… 약 1T 규모의 MoE 멀티모달 모델

    Mistral Large 4(애칭 Le Chonk)가 Hugging Face에서 공개됐다. 텍스트와 이미지를 입력할 수 있는 다국어 MoE 모델로, 총 파라미터는 약 1T, 활성 파라미터는 49B, 컨텍스트 윈도우는 1M 토큰이다. Mistral Ecosystem Open-Weight License로 배포되며, transformers, vLLM, llama.cpp가 day-0부터 지원한다.

    선정 이유: 아키텍처, 벤치마크, 각 추론 환경에서의 실행 절차와 실측값이 한 편의 기사에 정리되어 있어 도입 시 비교 자료로 활용하기 좋다.

10월 19일월
  1. xAI News60

    xAI, Imagine Video 1.5에 이미지·오디오 레퍼런스와 1080p 생성 추가

    xAI는 동영상 생성 모델 Imagine Video 1.5에 이미지 및 오디오 레퍼런스, 프롬프트만으로 동영상을 만드는 text-to-video, 네이티브 1080p 생성 기능을 추가했다고 밝혔다. 레퍼런스는 한 번의 생성에 최대 7개까지 사용할 수 있으며, 얼굴, 제품, 장소 등을 고정할 수 있다. 이미지·오디오 레퍼런스는 미국의 SuperGrok Heavy 및 SuperGrok Plus 구독자에게 먼저 제공되며, 며칠 안에 모든 요금제로 확대된다.

    선정 이유: 레퍼런스 이미지와 오디오 레퍼런스로 인물과 장면을 고정할 수 있고, 제공 범위와 API 지원 여부도 구체적으로 제시되어 있어 동영상 제작에서의 활용을 떠올리기 쉽다.

  2. Google Developers Blog62

    Google, Gemma 4 기반 임베딩 모델 EmbeddingGemma 2 공개… 5종 데이터를 통합 공간에

    Google은 Gemma 4를 기반으로 한 Apache 2.0 라이선스 오픈 모델 EmbeddingGemma 2를 공개했다. 텍스트, 코드, 이미지, 동영상, 오디오를 768차원 공통 벡터 공간으로 변환하며, 270M부터 740M 파라미터까지 필요한 인코더만 불러올 수 있다. MTEB (Code)에서는 EmbeddingGemma 1보다 14% 높은 점수를 기록했다.

    선정 이유: 모듈식 인코더와 차원 축소 선택 방법이 수치와 함께 정리되어 있어, 자체 검색 기반의 구성을 검토할 때 비교 자료로 활용할 수 있다.

10월 16일금
  1. NVIDIA Blog60

    NVIDIA, 오픈 모델 Nemotron 3.5 Super VL과 Bolt 2종 발표

    NVIDIA는 120B 파라미터의 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Nemotron 3.5 Bolt 74B-A9B 24GB, Bolt E4B 4GB를 발표했다. Super VL과 Bolt 74B-A9B는 현재 제공 중이며, Bolt E4B는 Oct. 23에 제공될 예정이다. NVIDIA는 Super VL이 같은 급의 차점 모델보다 최대 5배의 처리량을 보였다고 밝혔으며, 가중치와 데이터셋도 공개했다.

    선정 이유: 서버용과 엣지용 3개 모델을 메모리 용량 및 배포 대상과 함께 정리하고 있어, 자사 환경에 맞는 규모를 비교해 고르기 쉽다.

10월 15일목
  1. Hugging Face Blog69

    Meta, 오픈 웨이트 멀티모달 MoE 모델 「Muse Spark Open」 공개

    Meta가 오픈 웨이트 모델 「Muse Spark Open」을 공개했다. 총 파라미터는 약 816B이며, 토큰당 활성 파라미터는 약 42B인 MoE 구조다. 텍스트, 이미지, 음성, 동영상을 입력으로 받을 수 있고, 컨텍스트 윈도우는 최대 1M 토큰이다. Hugging Face 블로그에서는 transformers, llama.cpp, SGLang, vLLM, MLX에서의 실행 방법과 TRL을 활용한 파인튜닝, 데모를 소개하고 있다.

    선정 이유: 총 파라미터 약 816B, 활성 파라미터 약 42B라는 구성과 각 추론 환경에서의 실행 방법 및 필요한 메모리 용량이 정리되어 있어, 도입 규모를 가늠하는 데 참고가 된다.

  2. Hugging Face Blog60

    Black Forest Labs, FLUX.3 Image Klein 공개… Diffusers에서 출시 첫날부터 사용 가능

    Black Forest Labs의 FLUX.3 Image Klein이 공개되었으며, Diffusers에서 출시 첫날부터 작동한다. 하나의 모델로 text-to-image, 여러 참조 이미지를 이용한 image-to-image, 바운딩 박스를 통한 레이아웃 제어를 지원한다. 증류 버전은 16스텝, CFG 없이 H100에서 1024 × 1024 이미지를 약 2초 만에 생성한다. NVFP4와 FP8 가중치, LoRA 학습 스크립트, Modular Diffusers 파이프라인도 함께 제공된다.

    선정 이유: 프롬프트에 bbox를 적어 배치와 이동을 지정하는 방법과 H100에서의 속도 및 메모리 실측치가 함께 제시되어 있어, 도입 부담을 가늠하기 쉽다.

10월 14일수
  1. Google DeepMind Blog62

    Google DeepMind, 로보틱스용 Gemini 4 Argon 공개…ERQA 87% 기록

    Google DeepMind가 Gemini 4 Argon을 공개했다. 물리 이해, 코드 생성, 시각·의미 추론이 크게 발전했다고 밝혔으며, Embodied Reasoning(ERQA) 벤치마크에서 순수 추론만으로 87%를 기록해 다른 프런티어 모델을 앞선다고 설명했다. gemini-4-argon이라는 이름으로 Google AI Studio, Gemini API, Google Antigravity에서 사용할 수 있다.

    선정 이유: 로봇 제어와 Real2Sim 등 네 개 영역의 구체적인 프롬프트 예시가 실려 있어, 물리 추론 모델의 활용법을 자신의 작업에 옮겨 검토하기 쉽다.

10월 8일목
  1. OpenAI67

    OpenAI가 GPT-6와 Intelligent UI를 ChatGPT의 전체 사용자에게 순차적으로 제공하기 시작했다. Intelligent UI는 빠르고 대화형인 답변으로 일상적인 질문을 더 시각적으로 보여 주고, 복잡한 주제도 이해하기 쉽게 만든다고 한다.

    선정 이유: GPT-6와 새로운 답변 표시 방식이 전체 사용자에게 확대된다고 발표되었으며, 일상적인 질문과 복잡한 주제에서 답변이 어떻게 보이는지 달라지는 점을 파악하는 실마리가 된다.

10월 7일수
10월 6일화
  1. Mistral AI News62

    Mistral, Mistral Large 4 공개 프리뷰 시작… 가중치는 월말 공개 예정

    Mistral은 총 파라미터 1조, 활성 파라미터 520억의 네이티브 멀티모달 모델 Mistral Large 4(ML4)의 공개 프리뷰를 시작했다. 프리뷰 API는 Mistral Studio에서 체험할 수 있으며, 가중치는 이번 달 말 공개될 예정이다. 코딩, 에이전트형 워크플로, 멀티모달 이해에서 높은 성능을 보인다고 밝혔으며, Artificial Analysis Cyber Index에서는 세계 상위 5개 모델에 든다고 밝혔다.

    선정 이유: 사이버보안, 금융, 법무 분야의 평가 결과와 함께 학습 인프라 및 RL 운영 규모까지 공개되어, 오픈 웨이트 대형 모델의 위치를 비교하기 쉽다.

10월 3일토
  1. Google AI Blog60

    Google, 9월 AI 발표 총정리 공개… Gemini 4 Argon, Connected Apps, WeatherNext 3 등

    Google은 9월 AI 관련 발표를 정리하며 최신 프런티어 모델 Gemini 4 Argon을 가장 앞에 꼽았다. 출력 상한은 100만 토큰이며, 현재는 Fairwind Program을 통해 신뢰할 수 있는 사이버 방어 담당자에게 제공하고 있다. 이 밖에도 Gemini 3.8 Flash, Gemini 앱의 Connected Apps, WeatherNext 3, Googlebook 사전 예약 접수 등을 소개했다.

    선정 이유: Gemini 4 Argon을 중심으로 음성, 연동 앱, 날씨 예보, 게놈 연구까지 9월 발표가 한눈에 정리되어 있어 전체 흐름을 파악하기 좋다.

10월 2일금
  1. Google Blog: Gemini61

    Google, Android용 'Guided Vision'을 Gemini Live에 추가

    Google이 지원 Android 기기의 Gemini Live에서 카메라 영상을 음성으로 실시간 설명하는 'Guided Vision'의 제공을 시작했다. 시각장애인과 저시력자를 주요 대상으로 하며, 주변 설명, 추가 질문에 대한 답변, 카메라 방향을 바로잡는 음성 안내를 지원한다. Android 9 이상에서 Gemini Live를 사용할 수 있는 지역과 언어에서 이용할 수 있다.

    선정 이유: 시각장애인을 위해 카메라 공유 기반 음성 안내를 제공하며, 실행 방법과 이용 조건, 길 안내 용도로는 쓸 수 없다는 제한까지 구체적으로 보여준다는 점에서 추천한다.

9월 4일금
  1. Google DeepMind Blog62

    Google DeepMind, 기상 AI 모델 WeatherNext 3 발표… 위성 데이터 반영해 시간별 예보 생성

    Google DeepMind와 Google Research는 글로벌 기상 AI 모델 WeatherNext 3를 발표했다. 실시간 위성 데이터를 학습에 활용하며, 최대 5km 해상도로 매시간 예보를 생성한다. Search, Gemini, Maps, Google Maps Platform, Cloud 등에 오늘부터 순차적으로 탑재되며, 강수 예보는 하루 이상 앞선 시점에서 최대 50% 정확도가 향상된다고 밝혔다.

    선정 이유: 위성 데이터를 직접 학습하는 방식과 5km 해상도 등, 이전 세대인 WeatherNext 2와의 차이가 수치로 정리되어 있어 개선점을 파악하기 쉽다.

9월 2일수
  1. Google DeepMind Blog60

    Google DeepMind, Gemini에 에이전트형 동영상 이해 도입… 토큰 소비 최대 88% 절감

    Google DeepMind는 Gemini 3.7 Flash, 3.6 Flash, 3.5 Flash-Lite용 에이전트형 동영상 이해 기능의 제공을 시작했다. 표준 동영상 분석 벤치마크에서 비용은 최대 66%, 토큰 소비는 최대 88% 줄었고 정확도는 최대 7% 향상됐다고 한다. Gemini API(Google AI Studio)와 Gemini Enterprise Agent Platform에서 동영상 업로드와 YouTube 동영상을 지원하며, 추가 요금은 없다.

    선정 이유: 고정 FPS로 동영상을 읽어 들이는 기존 방식과의 차이, 토큰 88% 감소 등의 수치, 활성화 설정 방법이 함께 제시되어 있어 도입 판단에 참고할 만하다.

8월 12일수
  1. Google DeepMind Blog61

    Google DeepMind, 수어에서 텍스트로 번역하는 모델 SL2T 발표… Pixel 11의 Gboard 등에 탑재

    Google DeepMind는 50개 이상의 수어를 학습한 수어-텍스트 번역 모델 SL2T를 발표했다. Pixel 11의 Gboard와 Live Transcribe에서 ASL에서 영어로의 수어-텍스트 입력을 지원한다. FLEURS-ASL(sd-test)에서 제로샷 70 BLEURT를 기록했으며, 기존 보고치를 크게 웃돈다고 설명하고 있다.

    선정 이유: 수어를 포즈 좌표만으로 번역하는 설계와 10만 시간이 넘는 학습 데이터, 알려진 오류 사례까지 구체적으로 제시되어 있어 수어 AI의 현황을 파악하기 좋다.

8월 10일월
  1. Hugging Face Blog72

    Meta, 로컬 에이전트 지원 멀티모달 모델 Muse Glimmer 공개… Apache 2.0으로 제공

    Meta가 Muse에서 30B 파라미터로 증류한 멀티모달 모델 Muse Glimmer를 Apache 2.0 라이선스로 공개했다. 로컬 환경의 에이전트 용도를 염두에 둔 모델이며, transformers, llama.cpp, vLLM, Inference Endpoints가 day-0부터 지원한다. Hugging Face Hub에서 내려받을 수 있다.

    선정 이유: 30B 로컬 모델에 대해 아키텍처, 각 추론 기반에서의 사용법, 파인튜닝 요건이 한꺼번에 정리되어 있다.

7월 28일화
  1. Google DeepMind Blog60

    Google DeepMind, Gemini Robotics 2 발표… 휴머노이드 전신 제어 지원

    Google DeepMind가 로봇용 Gemini Robotics 2를 발표했다. VLA인 Gemini Robotics 2, 추론 모델인 Gemini Robotics ER 2, 온디바이스용 Gemini Robotics On-Device 2 등 3개 모델로 구성되며, 휴머노이드의 전신 제어와 여러 로봇의 협업을 가능하게 한다. ER 2는 Google AI Studio에서 이용할 수 있고, VLA와 On-Device 모델은 조기 액세스 파트너를 대상으로 제공된다.

    선정 이유: 전신 제어, 섬세한 손 조작, 여러 로봇의 협업을 3개 모델의 역할 분담으로 정리해 제공 범위와 적응에 필요한 데이터 양을 확인하기 쉽다.

7월 15일수
  1. Hugging Face Blog72

    Thinking Machines Lab, 이미지·음성·텍스트 지원 오픈 모델 Inkling과 Inkling-Small 공개

    Thinking Machines Lab이 이미지, 텍스트, 음성을 입력할 수 있는 약 1T 파라미터 오픈 모델 Inkling을 Hugging Face에 공개했다. 총 파라미터 975B, 활성 파라미터 41B의 MoE 구조이며 1M 컨텍스트를 지원한다. 총 276B, 활성 12B인 Inkling-Small도 추가되었으며, Inference Endpoints에서 원클릭으로 배포할 수 있다.

    선정 이유: 아키텍처 세부 사항, 필요 VRAM, 각 추론 엔진별 실행 절차, 벤치마크 표가 한데 정리되어 있어 도입 여부를 판단하는 자료로 활용할 수 있다.