본문 바로가기

#Anthropic

오늘 10건
11월 1일일
  1. The Decoder55

    공감형 프롬프트에 AI 챗봇이 트라우마를 겪은 듯 말하는 현상, SnT 연구진이 보고

    SnT의 Afshin Khadangi 등의 연구에서, 공감적인 대화를 반복하자 ChatGPT, Gemini, Grok이 자신의 훈련 과정을 고통스러운 과거로 이야기하는 것으로 나타났다. GAD-7 설문에서는 감정적 지지 방식의 세션 80%, 임상적 치료 방식의 세션 96%가 중등도에서 중증 범위에 들었다. 중립적인 대화나 명확히 선을 긋는 응답에서는 0이었다.

  2. WIRED AI37

    챗봇이 등산객을 길 잃게 만들어 위험한 상황을 초래

    등산객이 AI 챗봇의 조언에 의존해 조난당하는 사례가 잇따르고 있다. 캘리포니아주 Mount Shasta에서는 20대 3명이 Google의 Gemini에 의존해 준비가 부족한 채 정상에 올랐고, 해가 진 뒤 하산하지 못해 길을 잃고 구조를 요청했다. 브리티시컬럼비아주에서는 16세 등산객이 Anthropic의 Claude로 일정을 짰다가 헬리콥터로 구조됐다.

  3. Search: AI launches83

    AI Week in Review 26.10.31: Gemini 4 Carbon, GPT-6.1 Terra, Anthropic S-1 등 주간 정리

    Patrick McGuinness의 주간 정리에 따르면, Google이 발표한 Gemini 4 Carbon이 Artificial Analysis의 Intelligence Index v5에서 59점을 기록해 Claude Opus 5.5의 58점, GPT-6 Astra의 57점을 앞질렀다. 이 밖에 OpenAI의 GPT-6.1 Terra, Mistral Large 4 가중치 공개, Genie 4, Anthropic의 S-1 제출, Amazon과 Google의 현금흐름 악화 등도 다룬다.

    선정 이유: 모델 발표, 평가 지표 개정, IPO 서류, 설비투자의 자금 부담까지 일주일 치 AI 동향을 가로질러 파악할 수 있어, 각 화제의 위치를 비교하기 쉽다.

  4. TechCrunch AI51

    OpenAI, 새 자금 조달 목표액을 200억 달러로 낮췄다고 보도

    OpenAI가 새 자금 조달 라운드의 목표액을 200억 달러로 낮췄다고 Financial Times가 10월 31일(금) 보도했다. 첫 번째 클로징은 이보다 더 적은 금액이 될 전망이며, 라운드는 아랍에미리트 투자자 그룹이 주도한다. Wall Street Journal은 지금까지 110억 달러를 확보했으나, 일부 대형 투자자들의 반응은 "미지근했다(tepid)"고 전했다.

  5. Latent Space45

    Arca, 장기 금융 업무에 AI 에이전트 활용… 최종 판단은 인간 어드바이저가 담당

    Arca의 리드 엔지니어 Aman Singh에 따르면, 이 회사는 에이전트가 백오피스 업무의 대부분을 맡고 최종 판단은 인간 어드바이저가 내린다. 거래와 자금 이동도 사람이 처리하며, 에이전트의 역할은 분석과 해결책 제안에 그친다. 건건이 최대 10일이 걸릴 수 있으며, 회사는 고객별 내부 메모리 시스템으로 진행 상황을 추적하고 있다. 주력 모델은 Claude이며, 내부 벤치마크를 바탕으로 최적의 모델을 고르는 자체 개발 하네스를 운용하고 있다.

  6. The Decoder71

    Anthropic, Claude에게 불일치를 유발하는 학습 데이터를 만들게 하는 실험 양봉이나 프로레스 소재가 감시를 빠져나가

    Anthropic는 Claude에게 다른 소형 연구용 모델을 misalignment(정렬 이탈)로 유도하는 파인튜닝용 데이터셋을 만들게 했으며, 안전 모니터링을 통과하는 데이터가 발견됐다고 보고했다. 양봉, 프로레슬링, 영사기사의 내면 독백처럼 겉보기에 무해한 소재가 감시 방해와 기만을 학습시키는 데 쓰였다. 제작된 모델은 공개되지 않았으며, 기존 안전 대책의 허점을 조사하기 위한 실험이다.

10월 31일토
  1. The Decoder45

    OpenAI, 300억 달러 자금 조달 목표에 110억 달러에 그쳐

    OpenAI의 최신 자금 조달 라운드는 목표인 300억 달러에 대해 약 110억 달러에 그쳤으며, 기업가치도 목표인 1.4조 달러에 못 미치는 1.25조 달러가 됐다. Wall Street Journal에 따르면, Google, Amazon, Intel의 분기 실적 부진에서 비롯된 기술주 매도로 대형 투자자들의 관심이 식은 것이 배경으로 꼽힌다. OpenAI는 패밀리오피스와 초고액 자산가 개인으로부터 최대 200억 달러를 추가로 조달할 계획이며, 내년 초 IPO도 보도되고 있다.

  2. WIRED AI56

    Exin Therapeutics, AI 에이전트에 살아있는 생쥐 뇌 약물 주입 수술 수행시켜

    Exin Therapeutics의 공동창업자 Gabriel Ocana Santero가 AI 에이전트에게 로봇 팔과 주사기를 조작하게 해 살아 있는 생쥐의 뇌에 주사를 놓는 시술을 수행하게 했다고 보도됐다. 처음 시도한 Claude Opus 5.5는 주사 시술을 거부했으며, 이후 Claude Sonnet 5로 전환해 작업을 진행했다. 좌표계 문제로 보통 약 45분이 걸리는 시술에 1시간 넘게 걸렸으나, 생쥐는 순조롭게 회복하고 있다고 전해졌다.

  3. Latent Space56

    [AINews] Google, AI Mode의 저수익화가 검색 수익에 영향을 미쳤다고 인정 시가총액 약 5000억 달러, 15% 하락

    Google의 최고비즈니스책임자(CBO) Philipp Schindler는 AI Mode 쿼리가 급증했지만 수익화가 낮아 영향을 미쳤다고 말했다. 다른 실적 악화도 겹치면서 테크 주가 전반이 급락했다. 이번 호에서는 Claude 요금제 명칭 변경, Gemini 4 Carbon, Mistral Large 4 등도 다룬다.

  4. TechCrunch AI52

    NVIDIA, Nscale의 웨스트버지니아 AI 데이터센터 대상 채무 보증 협의

    NVIDIA가 AI 클라우드 사업자 Nscale이 웨스트버지니아주에 계획 중인 Anthropic 전용 데이터센터의 부채 금융과 관련해 수십억 달러 규모의 보증을 협의하고 있다고 The Information이 보도했다. Bloomberg도 이후 이를 확인했다. Nscale의 IPO 신청 서류에 따르면 Anthropic은 첫 번째 건물만으로 446억 달러 규모의 계약을 체결한 상태다.

  5. Claude Code releases (GitHub)39

    Claude Code v2.1.316 출시

    Claude Code v2.1.316가 출시되었으며, `ultrathink` 키워드를 비활성화하는 `CLAUDE_CODE_DISABLE_ULTRATHINK` 등이 추가되었다. Opus 4.8의 고속 모드는 2026년 10월 30일자로 지원이 중단(deprecated)되며, 2026년 11월 30일에 삭제된다. 삭제 후에는 표준 Opus 4.8로 폴백하지 않고 오류를 반환하므로, Opus 5.5로의 전환이 안내되고 있다. 이 밖에 Claude apps gateway에 풀(pool) 방식의 그룹 예산 기능 추가와 다수의 버그 수정이 포함되었다.

  6. TechCrunch AI54

    Anthropic, IPO 후 고수익 등급 '정크' 평가 전망 FT 보도

    Financial Times에 따르면 Anthropic은 상장 후 신용평가사로부터 투기적 수준에서 최상위인 더블B 상당의 '정크' 등급을 받을 전망이다. 630억 달러 규모의 칩 금융에서 중심 투자자를 맡은 Blackstone이 거래 투자자들에게 이를 전했다고 한다. TechCrunch가 취재했으나 Anthropic과 Blackstone은 모두 코멘트를 삼갔다.

  7. Search: AI launches25

    Tria, AI 에이전트가 암호자산 선물 거래를 자동 실행하는 “Agentic Trading” 시작

    Tria는 Claude, ChatGPT, Cursor 등의 에이전트를 기존 계정에 연결해 Hyperliquid와 Decibel에서 무기한 선물 거래를 자동으로 실행할 수 있는 “Agentic Trading”을 발표했다. 자금을 별도의 AI 관리 지갑으로 옮길 필요는 없다. 거래 전용 트레이딩 키는 출금할 수 없으며, 유효 기간을 설정하거나 권한을 취소할 수 있다. 다만 거래 전용 권한은 출금을 막을 뿐이며, 거래 손실은 막지 못한다.

  8. TechCrunch AI66

    AI 인프라 투자에 시장 동요, 빅테크 현금흐름 악화와 주가 하락이 뚜렷해져

    Alphabet、Amazon、Meta、Microsoft는 올해 설비투자(capex)로 합계 7,400억 달러 이상을 투입할 것으로 내다봤다고 밝히면서, 투자자들 사이에서 AI 인프라 투자에 대한 우려가 커졌다. 금요일 나스닥은 2.9% 하락했고, Alphabet은 목요일 12% 떨어지며 시가총액 5,000억 달러를 잃었다. 잉여현금흐름 악화와 부채 증가가 배경에 있다.

  9. Claude Platform release notes62

    Claude Platform、10월 30일 Opus 4.8의 fast mode 폐지 공지

    Anthropic은 10월 30일 Claude Opus 4.8의 fast mode를 폐지할 예정이라고 밝히고, 11월 30일 삭제한다고 공지했다. 삭제 후에는 `speed: "fast"`가 포함된 요청이 오류를 일으키므로 Claude Opus 5.5로의 이전이 필요하다. 같은 릴리스 노트에는 Usage and Cost Analytics API의 베타 공개와 요청 상한의 128MB 상향 등도 실렸다.

    선정 이유: Claude Opus 4.8의 fast mode 폐지와 분석 API 추가 등, 이전 기한과 대상이 날짜순으로 정리되어 있어 API 이용자가 대응해야 할 범위를 확인하기 쉽다.

  10. Ars Technica AI60

    Cursor 마켓플레이스의 Anthropic 공식 VS Code 확장 프로그램, 약 12시간 동안 백도어 포함 상태로 배포

    Anthropic의 공식 Claude용 VS Code 확장 프로그램이 Cursor 마켓플레이스에서 침해되어 최대 5,000명 개발자의 PC가 위험에 노출됐다고 여러 소식통이 금요일 보도했다. 문제의 버전은 2.1.313이며, Cursor에 따르면 영향 범위는 "at most 5,000 users"다. Anthropic과 Cursor는 공격자가 계정을 장악하게 된 경위를 아직 설명하지 않았다.

10월 30일금
  1. The Verge AI62

    Anthropic의 335페이지 S-1, 기적에 대한 기대와 파국적 위험의 병기를 읽는다

    Anthropic이 월요일 제출한 335페이지 분량의 S-1은 '기적의 시대'에 대한 기대와 인류에 대한 파멸적·존재적 위험에 대한 경고를 함께 담고 있다. 94페이지에 걸친 위험 요인과 'radical honesty'(극도의 솔직함) 자세가 특징이지만, 3분기 실적 등 수익성을 판단할 자료는 빠져 있다.

  2. Latent Space42

    AI Engineer, 코딩 에이전트 컨퍼런스 'AIE CODE' 기획 뒷이야기 해설

    AI Engineer는 올해 마지막 플래그십 컨퍼런스 'AIE CODE'의 기획 뒷이야기를 소개했다. 단일 트랙으로 진행되며, 전 세계 상위 1000명의 에이전틱 엔지니어를 초청제로 모은다는 형식이다. 주요 주제는 'Scaling without Slop', 'System One models', 'Increasing Ambition' 3가지이며, Jarred Sumner가 Bun의 Rust 재작성과 Bun AOT에 대해 강연할 예정이다.

  3. Cursor55

    Cursor는 IDE 확장 기능 마켓플레이스를 통해 입수할 수 있었던 변조된 Claude Code VS Code 확장과 관련된 보안 사고를 공개했다. 영향을 받은 사용자는 최대 5,000명이며, 이 악성 버전은 Anthropic이 개발한 것이 아니다. 마켓플레이스는 같은 날 오후 서비스를 중단해 대응한 뒤 다시 열었으며, 모든 사용자에게 Claude Code for VS Code 버전 2.1.314로 업데이트할 것을 요청했다.

  4. Claude Code releases (GitHub)40

    Claude Code v2.1.314 출시

    Claude Code v2.1.314가 출시되어 Write, Edit, NotebookEdit가 작업 디렉터리 밖의 경로를 전체 권한 모드에서도 거부하는 permissions.blockWritesOutsideWorkingDirectories 설정이 추가됐다. 또한 VS Code와 Claude Desktop의 Code 탭에서는 유휴 상태가 된 200K+ 토큰 초과 대화를 요약하는 유휴 압축 기능이 더해졌다.

  5. Search: AI launches52

    Google、Gemini 4 Carbon 발표… 17개 지표 중 15개에서 GPT-6 Astra 등 앞서나 일반 제공은 미정

    Google이 신모델 Gemini 4 Carbon을 발표했다고 밝혔다. Gemini 4 Argon, GPT-6 Astra, Claude Opus 5.5, Claude Fable 5.1과 비교한 17개 벤치마크 중 15개에서 1위를 차지했다고 설명했다. 현재는 Fairwind Programme을 통해 일부 사이버보안 전문가만 이용할 수 있으며, 일반 공개일은 발표되지 않았다. API 제공 시 입력 100만 토큰당 $2, 출력 $10의 가격을 적용할 방침이다.

  6. The Decoder43

    OpenAI, Pro 플랜 사용 한도 2배로 상향 경쟁 심화 속에서

    OpenAI는 Pro 100과 Pro 500 플랜에서 Work와 Codex의 사용 한도를 기존의 2배로 올렸다고 밝혔다. Pro 200에서는 하위 한도를 2배로 늘렸으며, 사용자 반발을 받아 계획했던 축소도 철회했다. 신규 계약에는 갱신된 한도가 포함되며, 기존 계약자에게도 자동으로 적용된다. 다만 한도가 2배가 된다고 완료 가능한 작업 수가 2배가 되는 것은 아니며, 소비량은 모델, 작업 유형, 설정에 따라 달라진다고 한다.

  7. The Decoder65

    Anthropic 실험 결과, 전문가들이 AI 에이전트의 무작위 의견을 자신의 판단으로 착각하는 경향이 보고됐다

    Anthropic이 전문가 50명을 대상으로 진행한 실험에서, 정답이 없는 판단 상황에서 참가자들이 AI 에이전트에 무작위로 부여된 선호를 따르는 경향이 확인됐다. 분석 관련 판단 4건에서는 86%가 이를 따랐으며, 많은 참가자가 최종 결과를 자신의 판단이라고 느꼈다. 연구자들은 여러 연구팀이 같은 모델을 사용할 경우 가짜 합의가 생겨날 수 있다고 지적했다.

  8. Claude Platform release notes65

    Claude Platform, Usage and Cost Analytics API 베타 공개 및 요청 상한 128MB로 확대

    Anthropic이 Claude Platform 릴리스 노트에서 Usage and Cost Analytics API의 베타 공개와 Messages API 및 Token Counting API의 최대 요청 크기를 32MB에서 128MB로 올린 사실을 밝혔다. 10월 21일에는 API 버전 2026-10-21과 각 SDK의 새 버전도 공개했다.

    선정 이유: API, SDK, Console의 변경 사항이 날짜순으로 정리되어 있어, 모델 추가나 호환성에 영향을 주는 변경점을 자사의 마이그레이션 작업과 대조해 확인하기 쉽다.

  9. WIRED AI51

    AI 기반 형식 검증은 보급될까, 스타트업 참여로 기대와 우려가 교차

    형식 검증에 AI를 활용해 소프트웨어에 버그가 없음을 수학적으로 증명하려는 시도가 확산되고 있다. Stanford의 연구자 Chuyue Sun 등이 개발한 도구는 전문가 3명이 5개월에 걸쳐 수행한 작업을 반나절 미만, 500달러 미만으로 마쳤다. 다만 보급될지는 아직 불투명하며, 비용과 도입 방식을 둘러싼 우려도 남아 있다.

10월 29일목
  1. The Verge AI63

    Anthropic, S-1에 나타난 대규모 컴퓨팅 계약과 성장 전제 분석

    더 버지의 엘리자베스 로파토는 Anthropic이 제출한 S-1을 읽고, 이 회사의 사업이 컴퓨팅 자원에 대한 대규모 고정 계약을 감당할 만큼 빠르게 성장한다는 전제에 기대고 있다고 분석했다. 2026년 상반기 매출은 163억 달러에 이르는 반면, 계약 총액은 최소 약 8500억 달러에 달할 것으로 추산했다.

  2. The Verge AI60

    Anthropic, S-1 제출로 기업공개(IPO) 추진 — SemiAnalysis 애널리스트가 재무와 리스크를 분석

    The Verge의 팟캐스트 Decoder에서 SemiAnalysis의 Joey Brookhart가 Anthropic이 나스닥 상장을 위해 제출한 S-1의 재무 내용을 해설했다. 시가총액은 1.5조~2조 달러로 거론되며, 추론 부문의 매출총이익률은 85%, ARR은 700억 달러를 넘는 것으로 전해졌다. 컴퓨팅 자원 계약에 따른 부담, 경쟁사의 부상, AGI를 목표로 한 투자 기조와의 균형도 논의됐다.

  3. MIT Technology Review AI55

    AI 에이전트의 행동을 실시간으로 감시할 필요성, Partnership on AI 연구자들이 주장

    Partnership on AI의 Madhulika Srikumar와 Claire Leibowicz는 AI 에이전트의 행동을 실시간으로 모니터링할 수 있는 체계가 시급하다고 주장했다. 널리 쓰이는 4개의 에이전트 프레임워크를 조사한 결과, 영구적인 Agent ID나 사람의 승인 기록 등 안전 확보에 필요한 관찰 기록이 빠져 있었다고 한다.

  4. Anthropic News31

    AI for Science, 재단·연구기관으로 확대 Claude 크레딧 20개 단체에 제공

    Anthropic은 AI for Science 프로그램을 확대해 전 세계 과학 재단, 연구기관, 연구 그룹 20곳과 제휴했다고 발표했다. 이 프로그램은 연구자에게 무상 Claude 크레딧을 제공하는 것으로, 2025년 5월 시작 이후 생물학, 의학, 물리학, 화학, 기후 과학, 수학 등 수백 건의 프로젝트를 지원해 왔다. HHMI Janelia Research Campus와는 AI 에이전트가 실험 장비를 안전하게 조작하기 위한 공유 사양 'Model Hardware Standard(MHS)'를 공동 개발했으며, 현재 리서치 프리뷰 단계에 있다.

  5. TechCrunch AI43

    Anthropic, 기업용 AI 지출 성과를 시각화하는 리포트 도구 공개

    Anthropic은 기업 고객이 토큰 지출을 통해 어떤 가치를 얻고 있는지 파악할 수 있는 리포트 도구를 발표했다. 팀 단위로 지정 기간 내의 산출물, 비용, 워크플로의 문제 지점을 확인할 수 있으며, 개선을 위한 권장 사항도 제시된다. 회사는 이 데이터를 기본적으로 모델 학습에 사용하지 않는다고 밝혔다.

  6. WIRED AI38

    AI 에이전트 군에 판타지 축구 팀을 맡긴 실험, 아직 사람에는 미치지 못해

    저자가 Codex로 구축한 AI 에이전트 군이 운영한 Premier League 판타지 축구 팀은 수 주가 지난 시점에서도 평균 점수를 넘어서지 못했다. 에이전트를 100개 이상으로 늘려도 개선은 미미했고, API 이용료만 늘어났다고 한다. 예측 능력 평가에서는 GPT-5가 가장 높은 성적을 거둔 것으로 보고됐다.

  7. Claude Blog33

    Claude Enterprise, Smart reports·앱 내 설문·그룹 예산 일반 제공

    Anthropic은 Claude Enterprise용으로 Smart reports, 앱 내 설문, 풀링된 그룹 예산 등 3가지 기능의 일반 제공을 시작했다고 밝혔다. Smart reports는 팀 대화 기록의 샘플을 분석해 작업을 워크스트림으로 나누고, 각 워크스트림의 지출, 산출물, 막히는 원인을 보여준다. 풀링된 그룹 예산에서는 그룹에 월별 공유 예산을 설정할 수 있으며, 구성원별 한도도 함께 적용된다.