본문 바로가기

#온디바이스

오늘 1건
오늘11월 5일목
  1. TechCrunch AI45

    Apple Watch의 「Siri Recaps」 체험기, 의외로 편리하지만 조금 섬뜩하기도 하다

    Apple Watch의 「Siri Recaps」는 대화를 요약해 중요한 내용을 메모에 남겨 주는 기능이다. 구두로 전달된 자기부담금이나 수리 기간 등을 빠뜨리지 않고 기록할 수 있었다. 반면 가족 간의 대화나 TV 시청 예정 등 불필요한 내용도 저장되기 때문에, 필자는 야간에는 이 기능을 끄는 방안을 검토하고 있다.

11월 4일수
  1. Search: AI launches40

    인도, 은행·사이버보안·오프라인 활용을 위한 자국산 AI 모델 3종 발표

    인도 IndiaAI Mission의 지원을 받은 자국산 AI 모델 3종이 2026년 11월 3일 뉴델리에서 발표되었다. Soket Labs의 'EKA-1'은 26.3B 파라미터, 약 7.5조 토큰으로 학습되었으며, 인도 헌법 제8부칙의 22개 언어와 영어를 지원한다. ZenteiQ의 'Dhīr 2B'와 'Dhīr 5B'는 영어와 10개 인도 언어를 지원하며, 로컬 단말이나 온프레미스 환경에서의 구동을 상정한 오픈소스로 설명되고 있다. 다만 은행에서의 도입 실적이나 독립된 제3자의 벤치마크 결과는 제시되지 않았다.

  2. Search: AI launches55

    GovTech Singapore, 사기 방지 AI 앱 AntiScam Pango 베타 버전 공개

    GovTech Singapore는 STACK conference에서 사기 경고 앱 AntiScam Pango의 베타 버전을 발표했다. 현재는 Google Play에서 내려받을 수 있는 Android 버전만 제공된다. AI의 알림 분석은 모두 사용자의 기기 안에서 이뤄지며, GovTech 등은 개인정보와 사적인 메시지에 접근할 수 없다고 설명했다.

11월 3일화
  1. TechCrunch AI52

    Apple Watch용 AI 기능 Audio Intelligence, iOS 27.3 개발자용 베타에서 제공 시작

    Apple은 Apple Watch용 AI 기능 'Audio Intelligence'를 iOS 27.3 개발자 베타에서 제공하기 시작했다. Apple Watch Series 12에서 사용할 수 있는 4가지 옵트인 기능으로, 직전 대화를 글로 확인하는 Live Rewind와 대화를 요약하는 Siri Recaps가 중심이다. 공개 베타에서 폭넓은 테스트를 거친 뒤 정식 출시될 예정이다.

10월 31일토
  1. The Verge AI64

    Apple, iOS 27.3에서 중국 출시용 Apple Intelligence 제공 예정

    Apple은 iOS 27.3에서 Apple Intelligence의 일부 기능을 중국 시장에 제공한다고 중국 뉴스룸 사이트를 통해 발표했다. iOS 27.3 베타 버전은 11월 4일에 시작됐으며, 정식 버전은 12월에 출시될 예정이다. 새로운 Siri AI는 포함되지 않으며, 알림 요약과 실시간 번역 등 초기 기능이 대상이다.

  2. Hugging Face Blog32

    NVIDIA Nemotron으로 구축한 할로윈용 대화형 유령의 집 「MonsterHouse」

    NVIDIA Nemotron Voice Agent를 활용해 할로윈용 대화형 캐릭터 「MonsterHouse」를 단일 워크스테이션에서 구동했다. 응답 생성에는 LoRA 어댑터를 탑재한 Nemotron 3.5 Bolt E4B 4GB를 사용했으며, 어댑터 학습에는 5000건 이상의 다중 턴 대화 데이터셋을 활용했다. 음성은 Magpie TTS Zeroshot, 입 모양은 Audio2Face-3D로 생성하고, Unreal Engine 5에서 렌더링했다.

10월 29일목
  1. Hugging Face Blog48

    Hugging Face, Apple 플랫폼용 음성 인식 패키지 AnySpeechRecognizer와 판단 패키지 AnyDecisionModel 발표

    AnySpeechRecognizer와 AnyDecisionModel은 Apple 플랫폼에서 오픈 모델을 사용해 음성 인식과 판단을 수행하는 Swift 패키지다. AnySpeechRecognizer는 SpeechAnalyzer와 동일한 API를 그대로 유지하면서, NVIDIA의 Parakeet이나 Alibaba의 Qwen3-ASR 등 여러 인식 엔진 중에서 선택할 수 있게 하며 화자 분리 기능도 추가한다. AnyDecisionModel은 예/아니오, 다지선다, 평가 척도 질문에 대해 텍스트를 생성하는 방식이 아니라 모델의 확률로부터 답을 도출하며, 타입이 지정된 결과와 확률을 반환한다.

10월 28일수
  1. 삼성전자 뉴스룸42

    삼성전자, 한국 식약처 허가로 갤럭시 워치 수면 무호흡 기능 고도화

    삼성전자가 갤럭시 워치의 수면 무호흡 기능을 고도화하고 한국 식품의약품안전처(MFDS) 허가를 획득했다. 개선된 기능은 AI 알고리즘으로 수면 중 시간당 호흡 장애 횟수를 분석해 그 수준을 경미, 가끔, 자주의 3단계로 구분해 보여준다. 국내에서는 11월부터 갤럭시 워치 울트라2, 워치9, 갤럭시 링에서 먼저 제공되며, 웨어(Wear) OS 7.0 이상을 탑재한 갤럭시 워치7·워치8 등 기존 모델로도 순차 확대될 예정이다.

  2. Search: AI launches46

    Apple, M6 탑재 14인치 MacBook Pro 발표… 인도 가격 2,39,900루피

    Apple은 M6 칩을 탑재한 14인치 MacBook Pro를 발표했다. 인도에서의 가격은 2,39,900루피부터, 교육 기관용은 2,27,900루피부터이며, 사전 주문은 10월 28일에 시작되고 11월 6일에 출시된다. M6은 12코어 CPU와 12코어 GPU를 갖췄으며, M5 대비 그래픽 성능이 최대 30% 빨라졌다고 밝혔다. 최대 24시간의 배터리 사용 시간도 특징이다. 터치스크린을 탑재한 유기EL 모델은 보도에 따른 것으로, Apple은 이 계획을 확인하지 않았다.

  3. Search: AI launches37

    Apple, M6 탑재 14인치 MacBook Pro 발표

    Apple이 M6 칩을 탑재한 14인치 MacBook Pro를 발표했다. 12코어 GPU는 M5 대비 최대 30% 빠른 그래픽 성능과 최대 25% 빠른 온디바이스 AI 처리 성능을 내세운다. 최대 24시간의 배터리 사용 시간을 지원하며, 예약 주문은 10월 28일, 출시는 11월 6일(금)부터 시작된다.

  4. AWS Machine Learning Blog31

    Exowatt, SageMaker 서버리스 모델 커스터마이징으로 정확도에서 프런티어 모델 능가

    Exowatt는 Amazon SageMaker AI의 서버리스 모델 커스터마이징을 활용해, 엣지용 알람 트리아지를 위한 Qwen3-1.7B와 클라우드용 에너지 시장 분석을 위한 Qwen3-14B를 파인튜닝했다. 그 결과 프런티어 모델보다 높은 정확도를 최대 49배 낮은 비용으로 구현했다고 밝혔다.

  5. Hugging Face Blog47

    LFM3로 전문 특화형 멀티모달 모델 구축하기

    LFM3는 텍스트, 비전, 음성, 옴니, 의사결정의 6개 모델을 2B급 파라미터의 공통 백본으로 통일한 차세대 Liquid Foundation Models이다. LFM3-1.7B는 파라미터 수가 35% 적음에도 불구하고 이전 세대인 LFM2.5-2.6B를 능가한다. 텍스트 모델은 4비트 정밀도에서 약 1GB이며 256K 컨텍스트 윈도우를 갖추고 있고, 각 모델은 단일 GPU에서 파인튜닝할 수 있다.

10월 27일화
10월 25일일
10월 23일금
  1. The Decoder38

    Canva, 첫 자체 개발 이미지 모델 'Craft' 발표

    Canva가 첫 자체 개발 이미지 생성 모델 'Craft'를 공개했다. 최대 2K 해상도와 30개 이상의 화면 비율을 지원하며, 55개 언어의 텍스트 렌더링과 Magic Layers를 통한 편집 가능한 레이어 분할을 지원한다. 모든 사용자가 Dream Lab과 공개 API에서 이용할 수 있으며, ChatGPT 및 Gemini와의 MCP 연동은 향후 예정되어 있다.

  2. The Decoder59

    Recursive, AI 주도 연구 프로세스로 개발한 첫 모델 Flint 공개

    AI 스타트업 Recursive가 실험의 제안, 실행, 평가를 수행하는 AI 시스템 'Eureka Machine'을 개발의 거의 전 과정에 활용해 첫 언어 모델 Flint를 공개했다. Flint는 MoE 모델로, 총 파라미터 40B, 토큰당 활성 파라미터는 2.5B다. 가중치는 Apache 2.0 라이선스로 Hugging Face에 공개됐으며, 벤치마크 결과는 아직 독립 검증을 거치지 않았다.

10월 22일목
  1. Search: AI launches59

    Apple, HomeView 등 4종 발표로 스마트홈 시장 진출... Siri AI 탑재

    Apple이 스마트 디스플레이 'HomeView', 2세대 HomePod mini, 4세대 Apple TV 4K, LG 및 Schneider Electric과 공동 개발한 Apple Home Collection 등 4종을 발표했다. 신제품은 재구축된 Siri AI를 중심으로 하며, 가격은 HomeView 299달러, HomePod mini 2 149달러, Apple TV 4K 299달러다. 다만 Siri AI는 발매 시점에 HomePod mini 2에서는 사용할 수 없으며, 향후 업데이트를 통해 제공된다.

  2. AWS Machine Learning Blog38

    Strands Agents로 구축한 적응형 에이전트 지능 프레임워크(AAIF)

    AAIF는 Strands Agents로 구축된 프레임워크로, 라우팅을 담당하는 소형 언어 모델(SLM)이 정형화된 작업을 분류하고 복잡한 분석은 Amazon Bedrock의 클라우드 모델에 맡긴다. 정형화된 작업은 Ollama 위에서 돌아가는 로컬 SLM이 처리하며, 클라우드에 의존하지 않고 낮은 지연 시간으로 완료된다. 엣지 기기인 Raspberry Pi(8 GB)부터 풀 클라우드 구성, 하이브리드 구성까지 지원한다.

  3. TechCrunch AI62

    Recursive, 노트북에서 구동되는 무료 코딩 모델 Flint 공개… 개발 대부분을 AI가 담당했다고 설명

    AI 스타트업 Recursive가 첫 모델인 코딩 모델 Flint를 공개했다. Apache 2.0 라이선스로 Hugging Face에서 무료로 내려받을 수 있으며, 노트북에서도 동작한다. 회사의 자동 연구 시스템 Eureka Machine이 개발 거의 전 과정을 지원했고, 소규모 팀이 4개월 미만에 완성했다고 한다.

10월 21일수
  1. NVIDIA Blog52

    NVIDIA, GTC Berlin에서 로컬 AI 제품군 발표… DGX Spark 64GB는 10월 23일 출시

    NVIDIA는 GTC Berlin에서 RTX Spark, DGX Spark, DGX Station 등 로컬 AI 하드웨어 관련 업데이트를 발표했다. DGX Spark 64GB는 10월 23일 출시되며, DGX Station for Windows는 12월에 나온다. 로컬용 코딩 모델 Recursive Flint, 신규 모델의 Day-0 지원, llama.cpp와 vLLM의 가속 기능도 포함됐다.

  2. 네이버 보도자료27

    네이버 D2SF, 온디바이스 AI 스타트업 ‘트레이스위브’에 신규 투자

    네이버 D2SF가 온디바이스 AI 스타트업 트레이스위브(TraceWeave)에 신규 투자했다. 트레이스위브는 메모리 사용량을 일정하게 유지하면서 긴 맥락을 이해하고 여러 단계의 작업을 수행하는 AI 모델 구조 'Phase-TITAN'을 개발했으며, 이를 통해 클라우드 호출 없이 디바이스에서 AI 에이전트를 구현할 수 있다고 밝혔다. 모빌리티 분야에서는 글로벌 완성차 그룹의 자율주행 계열사와 유료 PoC를 마쳤다.

10월 20일화
  1. Google Developers Blog52

    Google, Coral NPU의 32비트 아키텍처 완성하고 Coral Compiler v1.0 공개

    Google는 Coral NPU의 32비트 아키텍처(Milestone 1~4)를 완성하고, IREE/MLIR 기반의 Coral Compiler v1.0을 공개했다. 새로운 Matrix Execution Unit은 최대 1 TOPS로 설정할 수 있으며, 추론 시 평균 소비 전력 10mW를 목표로 한다. Synaptics Astra SR200 시리즈(400 GOPS)와 DigiKey에서 일반 판매되는 Coralboard SL(1 TOPS)도 발표됐다.

  2. Hugging Face Blog51

    Hugging Face, AnyLanguageModel 1.0과 swift-huggingface 1.0, swift-xet 1.0 공개

    Hugging Face가 Apple Foundation Models 프레임워크를 대체할 수 있는 AnyLanguageModel 1.0을 공개했다. swift-huggingface 1.0과 swift-xet 1.0도 함께 릴리스했다. import를 `import AnyLanguageModel`로 바꾸기만 하면 시스템 모델, llama.cpp, MLX, Core ML, 각종 호스팅형 제공업체를 같은 코드로 다룰 수 있다.

  3. Hugging Face Blog62

    PyTorch 2.15, MPS에서 FP8 지원 및 MoE 모델 디코딩 5~6.5배 가속

    Hugging Face의 PyTorch 팀은 PyTorch 2.15의 MPS 백엔드에서 FP8을 지원하고, LLM 디코딩을 가속하며, Metal 커널로의 전환을 진행했다고 발표했다. M3 Ultra에서는 Qwen3.6-35B-A3B가 2.14의 9.4토큰/초에서 61.3토큰/초로 향상됐다. Wan2.2의 비디오 VAE 디코딩에서는 드라이버 메모리 피크가 270 GiB에서 8 GiB로 떨어졌다.

    선정 이유: MPS 백엔드의 변경 사항을 MoE 모델의 토큰/초, 메모리 사용량, 필요 환경 수치로 구체적으로 확인할 수 있어 Mac에서의 활용 여부를 판단하는 데 도움이 된다.

  4. Google Developers Blog58

    Google, 엣지 모델 기술 레이어 LiteRT Tensor API 공개

    Google은 LiteRT 스택에 C++로 모델을 연산 단위로 구성하는 경량 기술 레이어 'LiteRT Tensor API'를 공개했다. 같은 그래프를 CPU, GPU(ML Drift), NPU에서 실행할 수 있으며, XNNPACK을 거치면 모델 파일 없이도 CPU에서 동작한다. SAM 2의 브라우저 구현에서는 코딩 에이전트를 활용해 10fps 미만에서 30fps 이상으로 개선했다.

10월 19일월
  1. Google Developers Blog43

    Antigravity SDK, 로컬 AI 모델 지원 추가

    Antigravity SDK가 로컬 모델 기반 에이전트 처리를 지원하게 되었으며, Google AI Edge의 LiteRT를 이용해 Gemma 4 26B A4B를 초기 지원 모델로 사용할 수 있게 되었다. 네트워크 연결 없이도 완전 오프라인으로 동작하며, 로컬 GPU와 RAM을 효율적으로 활용한다. 하이브리드 구성 데모에서는 클라우드의 Gemini 3.8 Flash가 계획을 수립하고 로컬의 Gemma 4 26B가 처리를 담당했으며, 기록된 실행에서는 전체 토큰의 97.2%(3,322토큰)가 로컬에서 처리되었다.

  2. Google Developers Blog53

    Google, 온디바이스 GPU 추론 엔진 ML Drift를 Apache 2.0으로 오픈소스화

    Google AI Edge 팀이 온디바이스 AI 추론용 GPU 연산 엔진 ML Drift를 Apache 2.0 라이선스로 공개했다. OpenGL ES, OpenCL, Metal, WebGPU를 지원하며, LiteRT의 GPU 가속 핵심 요소이면서 단독 라이브러리로도 사용할 수 있다. YouTube Shorts에서는 Google 발표 기준으로 프레임 지연 시간이 최대 40% 줄었다.

10월 18일일
  1. NVIDIA Blog40

    NVIDIA RTX Spark 탑재 Windows PC 출시, ASUS·Dell·HP·Lenovo·Microsoft·MSI 제품

    NVIDIA RTX Spark를 탑재한 Windows PC 노트북 제품이 출시됐다. ASUS, Dell, HP, Lenovo, Microsoft, MSI의 노트북이 2,399달러부터 판매되며, NVIDIA Blackwell RTX GPU와 NVIDIA Grace CPU를 결합한 단일 슈퍼칩으로 최대 1 petaflop의 AI 연산 성능과 최대 128GB의 통합 메모리를 갖췄다. 앞으로 더 많은 시스템이 나올 예정이다.

10월 16일금
  1. TechCrunch AI41

    아마존 디바이스 책임자 Panos Panay, 앱을 대신해 AI 기기가 주인공이 될 미래를 전망

    아마존 디바이스 부문 책임자 Panos Panay는 개인용 AI의 미래는 앱이 아니라, 센서와 AI로 배경에서 작동하는 '앰비언트 디바이스'에 있다고 말했다. 회사는 Bee의 새로운 AI 웨어러블을 발표했으며, 손목밴드나 펜던트로 쓸 수 있는 밴드형 기기와 스마트폰 뒷면에 자석으로 붙는 명함 크기의 기기를 선보였다. Bee의 기기는 음성을 실시간으로 처리해 원본 음성은 저장하지 않으며, 텍스트 변환 결과는 기기가 생성한 키로 암호화된다.

  2. NVIDIA Blog24

    NVIDIA RTX Spark 출시 기념 이벤트를 전 세계에서 개최

    NVIDIA는 크리에이터, 게이머, AI 에이전트를 위한 Windows PC 「NVIDIA RTX Spark」를 출시하고, 10월 16일(금)에 샌프란시스코, 베를린, 타이베이, 베이징, 이스탄불, 서울에서 출시 기념 이벤트를 연다. 행사장에서는 데모를 체험할 수 있으며, 사전 등록 필요 여부는 행사장마다 다르다. #ShareYourSpark 게시물 참여자 중에서 Jensen Huang의 사인이 담긴 ASUS ProArt P14 RTX Spark 탑재 노트북을 받을 수 있는 캠페인도 진행 중이다.

  3. NVIDIA Blog60

    NVIDIA, 오픈 모델 Nemotron 3.5 Super VL과 Bolt 2종 발표

    NVIDIA는 120B 파라미터의 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Nemotron 3.5 Bolt 74B-A9B 24GB, Bolt E4B 4GB를 발표했다. Super VL과 Bolt 74B-A9B는 현재 제공 중이며, Bolt E4B는 Oct. 23에 제공될 예정이다. NVIDIA는 Super VL이 같은 급의 차점 모델보다 최대 5배의 처리량을 보였다고 밝혔으며, 가중치와 데이터셋도 공개했다.

    선정 이유: 서버용과 엣지용 3개 모델을 메모리 용량 및 배포 대상과 함께 정리하고 있어, 자사 환경에 맞는 규모를 비교해 고르기 쉽다.

10월 15일목
  1. Apple Machine Learning Research50

    MLX와 RDMA로 Mac Studio에서 대규모 LLM을 로컬·분산 추론

    Apple Machine Learning Research는 MLX와 RDMA over Thunderbolt를 활용해 Mac Studio 4대로 816B 파라미터의 Muse Spark Open을 초당 36토큰 이상으로 생성할 수 있음을 보였다고 밝혔다. M5 Ultra는 M3 Ultra 대비 TTFT가 최대 4.6배, 토큰 생성 속도가 1.6배 빠르다. Qwen 3.8 27B와 Mistral Medium 3.5 128B는 512GB 메모리를 탑재한 Mac Studio 단독으로 동작한다.