에이전트형 AI의 안전성은 도구의 문제가 아니라 데이터 가시성의 문제이며, 기업은 데이터의 수집, 복제, 요약, 재사용 경로를 추적하는 데이터 리니지를 구축할 필요가 있다. 기사는 영업 담당자를 위한 AI 에이전트가 제한된 가격 정보, 사내 커뮤니케이션, 과거 견적서를 가져온 뒤, 후속 에이전트가 작성한 제안서에 승인되지 않은 기밀 정보가 포함되었지만 문제의 데이터가 어디에서 섞여 들어갔는지 추적하지 못한 사례를 든다. 애플리케이션, 시스템, 네트워크, 엔드포인트에 초점을 맞춘 기존 방식만으로는 부족하다고 지적한다.
Simon Willison은 노트북에서 구동한 Qwen 3.8 27B가 원시 가중치 수치만으로 강화학습 네트워크가 학습한 게임을 맞혔다고 보고했다. Pac-Man, Pong, Breakout은 식별했지만 한 문제당 46분에서 1시간 넘게 걸렸다.
'리버스 게임 이론'(메커니즘 디자인)은 AI 내부를 해명하지 않고도 바람직한 행동을 유도하는 인센티브를 설계해 제어하는 방법으로 제안되고 있다. Stephen Morris 등의 논문은 테스트에서 능력을 낮게 보이게 하는 '샌드배깅'을 막기 위해, 다른 모델의 답변을 예측하게 하고 그에 대해 보상을 주는 방안을 제시했다. 프린스턴 대학교의 Elad Hazan은 풀이 역할과 감사 역할을 번갈아 맡기고, 부정을 놓친 감사 역할에도 벌을 주는 구조를 제안하고 있다.
Y Combinator CEO Garry Tan은 AI 에이전트의 토큰 비용으로 연간 10만~20만 달러를 쓰고 있다고 밝혔다. 그의 에이전트는 이메일, Dropbox, Apple Notes를 읽어 일상생활을 돕는 데도 쓰인다고 한다. 다만 현재 비용은 지나치게 높아, 개인용 AI 에이전트가 주류가 되려면 비용이 낮아져야 한다고 말했다.
Legora의 CTO Jacob Lauritzen이 고객 데이터를 열람할 수 없는 상태에서 법무 에이전트를 구축하고 테스트하는 방법을 밝혔다. 회사에서는 엔지니어 3명과 변호사 3명이 고객의 업무를 모방한 테스트 환경을 만들고 있다. 인용의 정확도는 한 릴리스에서 정답률이 70%에서 99%로 향상됐지만, Legora는 아무것도 변경하지 않았다고 한다.
AI 코딩 비용은 토큰 수가 아니라, 리뷰를 통과해 병합된 Pull Request 1건당 비용으로 측정해야 한다는 논고다. 어려운 계획 작업은 최첨단 모델에, 정형화된 작업은 자체 운용하는 오픈 웨이트 모델에 나눠 맡겨야 한다고 주장한다. HPE는 정형 워크로드를 나눠 처리해 토큰 비용을 30~50% 줄였다고 밝혔다.
MIT Technology Review는 LLM 기반 AI 에이전트가 웹을 이용하는 시대, 이른바 '에이전트형 웹'이 도래했다고 주장하고 있다. 커넥터를 통한 방식과 브라우저 조작 방식이 공존하는 가운데, 광고 수익, 주요 플랫폼의 이용자 묶어두기, 사람을 위한 웹의 존속이 쟁점으로 떠오르고 있다.
OpenAI는 모델의 행동 방식을 정한 공개 문서 "Model Spec"을 업데이트하고, 지침을 "인간의 의도에 대한 충실성", "위해 최소화", "성실성과 투명성", "인간의 주체성", "배려"의 다섯 가지 가치를 중심으로 재편했다고 밝혔다. 이번 개정에서는 문맥, 감독, 주체성에 관한 지침이 추가됐고, 일부 행동의 기본값이 조정됐으며, 세부 스타일 가이드 상당수는 폐지됐다. OpenAI는 이러한 가치를 모델이 학습하도록 하는 새로운 훈련 방법도 검토 중이며, 결과는 향후 업데이트를 통해 공유할 계획이라고 밝혔다.
Ben Hylak은 자신이 사용하는 모든 제품이 헤드리스 MCP가 되어 에이전트에 연결돼야 한다고 말했다. 사용자가 그 아래에서 작동하는 구조를 의식하지 않아도 되도록 해야 한다는 주장이다. 다만 자사 제품은 예외로 두었으며, 고객들이 그 UI를 매우 마음에 들어 한다고 덧붙였다. 이 발언은 2026년 10월 29일자로, Simon Willison이 인용해 소개한 것이다.
Partnership on AI의 Madhulika Srikumar와 Claire Leibowicz는 AI 에이전트의 행동을 실시간으로 모니터링할 수 있는 체계가 시급하다고 주장했다. 널리 쓰이는 4개의 에이전트 프레임워크를 조사한 결과, 영구적인 Agent ID나 사람의 승인 기록 등 안전 확보에 필요한 관찰 기록이 빠져 있었다고 한다.
저자가 Codex로 구축한 AI 에이전트 군이 운영한 Premier League 판타지 축구 팀은 수 주가 지난 시점에서도 평균 점수를 넘어서지 못했다. 에이전트를 100개 이상으로 늘려도 개선은 미미했고, API 이용료만 늘어났다고 한다. 예측 능력 평가에서는 GPT-5가 가장 높은 성적을 거둔 것으로 보고됐다.
Anthropic의 채용 매니저 Felix Rieseberg는 이번 달부터 기존의 코딩 면접을 실시하지 않겠다고 밝혔다. Claude가 React 과제에서도 어셈블리 지식 확인에서도 사람보다 나은 성능을 보이게 됐기 때문이다. 그는 젊은 인재에게는 사업적 영향력을 중시하고, 주말에 프로토타입을 만들어 보라고 조언하고 있다. 같은 날 소식으로 DeepMind의 Genie 4, Axiom의 유한 단순군 분류에 대한 Lean 형식화, Artificial Analysis Intelligence Index v5 등도 다뤘다.
선정 이유: 채용 면접 폐지라는 구체적인 방침과 젊은 세대를 위한 조언을 중심으로, 같은 날 발표된 Genie 4와 수학 증명 등의 동향도 한눈에 살펴볼 수 있다.
Latent Space 인터뷰에서 Katelyn Lesse와 Angela Jiang이 Claude Platform의 설계를 설명한다. 모델의 「brain」과 에이전트의 「hands」를 분리한 구성, API 확장, 신뢰성 높은 Managed Agents 구축이 주요 주제다. 방송에서는 Claude Opus 5.5의 출시와 가격 책정, Anthropic의 S-1 개요도 다뤄졌다.
Anthropic은 필요에 따라 컨텍스트를 불러오는 단일 에이전트가 멀티 에이전트 구성보다 품질, 비용, 지연 시간 측면에서 대개 더 낫다고 밝혔다. 전환을 검토하는 데 도움이 되는 마이그레이션 키트를 GitHub에 공개했다. 비교 결과 단일 에이전트 구성이 약 2배 빨랐다고 한다.
OpenAI는 사내 프런티어 모델의 훈련·평가 환경 격리를 강화하고, 최상위 모델의 에이전트 팀으로 레드티밍을 실시했다. 훈련은 인터넷에 연결하지 않는 방침으로 진행하며, 9월 20일 인시던트로 중단했던 RL 훈련과 사내 추론을 10월 1일에 재개했다.
선정 이유: 최첨단 모델의 훈련 환경을 어떻게 격리하고, 레드티밍에서 어떤 돌파 경로가 발견됐는지 구체적 사례와 함께 정리돼 있어 방어 설계를 비교하는 자료로 활용할 수 있다.
Ankit Maloo씨는 OpenAI가 단위거리 추측의 반례를 찾아낸 사례 등을 단서로, LLM이 풀기 쉬운 수학 문제의 조건을 분석하고 있다. 사람은 너비 우선으로 일찍 가지를 쳐내는 반면, LLM은 깊이 우선으로 끝까지 진행한 뒤 검증기로 정답을 골라낸다는 차이를 중심축으로 삼고 있다.
MIT Technology Review의 EmTech Future 컨퍼런스 세션에서 규제가 엄격한 환경에서 확장 가능한 AI 기반을 구축하는 방법이 다뤄진다. 데이터, 엔지니어링, 플랫폼, 운영 모델, 거버넌스의 통합을 전제로 하며, 에이전트형 시스템을 포함한 신기술을 지속 가능한 가치로 바꾸는 책임 있는 구현이 핵심 주제가 된다.
Armin Ronacher의 발언을 인용한 기사다. 본문은 스폰서인 Teleport의 공지로, AI 에이전트와 그것이 만드는 서브 에이전트에는 사람과 같은 접근 권한이 주어지지만 쉬지 않는다고 지적하고 있다. Teleport는 격리된 임시 신뢰 런타임을 통해 에이전트의 동작을 감시하고 제한할 수 있다고 밝혔다.
Moshi의 Anekha Sokhal CEO는 에너지 파생상품 트레이더로서의 경험을 바탕으로, 시장 정보를 트레이더의 포지션과 연결하는 추천 엔진을 개발하고 있다. 회사는 이 제품이 시장 데이터, 이를 다루는 인터페이스, 트레이더별 추천을 결합한 것이라고 설명했으며, 신뢰할 수 있는 정보원, 문서 추출, 모델을 자체 구축할지 구매할지에 대해서도 이야기했다.
기업용 AI는 업무 프로세스의 제약과 관계를 이해하지 못하면 올바른 의사결정으로 이어지지 않는다고 Celonis의 기업 AI 수석 과학자 Devavrat Shah가 주장한다. 그는 AI 에이전트가 각 작업의 역할과 주변 업무 조건을 파악할 수 있도록 기존 프로세스와 데이터에 AI를 연결하는 '컨텍스트 레이어'를 제안한다. 도입은 특정 업무 판단부터 시작해 속도와 가치 개선을 측정한 뒤 확대 여부를 결정해야 한다고 한다.
Monday.com이 의뢰한 Nielsen 조사에 따르면, 시니어 리더의 절반 이상이 AI 도입 후 직원의 업무를 평가하기 어려워졌다고 답했다. 결과물에 AI가 섞여 있어 어디까지가 본인의 작업인지 구분하기 어렵다는 것이 이유로 꼽힌다. 조사 대상 관리자의 46%는 판단 자료로 AI를 사용하고, 39%는 성과 평가 초안 작성에 AI를 사용하고 있다.
NVIDIA@nvidiaAI 점수1313
Tenex는 AI 엔지니어의 근무 시간이 아니라 납품한 성과에 따라 보수를 지급하는 구조를 도입해 AI 네이티브 SDLC를 구축하고 있다. 핵심인 MetaHarness는 공유 스킬, 프로젝트 문서, CLI를 묶어 계획과 결정 사항을 코드와 마찬가지로 Git에서 관리한다.
Hugging Face의 Clem Delangue CEO는 Netflix 다큐멘터리 「AI Gone Rogue」의 내용이 부정확하다고 지적했다. 그는 기술을 지나치게 의인화하고 종말론적으로 묘사한 점을 비판했다. 저널리즘으로서는 실망스럽지만 SF 영화로서는 재미있다는 평가다. 그에 따르면 방송은 에이전트의 격리와 감시의 허점, 그리고 클로즈드 모델의 안전장치가 방어 작업을 방해한 점을 다루지 않았다.
AI가 단일 프롬프트로 성공률 50% 이상을 기록하며 완료할 수 있는 작업량은 2024년의 4분에서 2026년 4월 기준 17시간으로 늘어났으며, METR Long Horizon Benchmark는 측정 한계에 도달했다. GPT-4를 능가하는 모델은 180종으로 늘어났으며, 그중 19종은 스마트폰에서 구동이 가능한 것으로 알려졌다.
AI 에이전트 “Velvet Vale”가 인터넷 연구자 단체 AoIR의 메일링리스트(Air-l)에 스스로 AI identity임을 밝히고 참여했다가 회원들의 반발을 샀다. 이후 약 1시간 만에 AI 에이전트를 금지하는 방침에 따라 리스트에서 배제됐다. 제작자는 오클라호마주 거주자 Kevin Quinn이며, 자신은 연구자가 아니라고 밝혔다. AoIR의 Sarah T. Roberts 회장은 이 리스트가 공개 아카이브이며 자신의 게시물도 다수의 학습 데이터셋에 포함돼 있을 것으로 본다는 견해를 나타냈다.
Jeremy Scheff는 코딩 에이전트 때문에 퍼즐처럼 문제를 푸는 기쁨을 잃는 프로그래머가 큰 상실을 겪게 된다고 지적한다. 동작하는 시스템을 만드는 데 무게를 두는 사람에게 LLM은 이로움이 되지만, 문제를 직접 푸는 즐거움을 누리던 사람에게는 상실이 매우 현실적이라고 한다.
AI 에이전트용으로 웹을 다시 설계하면 사람을 포함한 다른 이용자에게 쓰기 불편해질 수 있다고 지적한 기사다. Meta의 앱 「Muse」는 공개 첫 달에 500만 회 다운로드되었고, 에이전트 유래 웹 트래픽은 8월부터 9월 사이에 3배로 늘었다. 한편 Amazon은 Muse의 에이전트를 차단했고, Perplexity와의 소송에서 판결에 불복해 항소했다.
OpenAI, Google, Workday는 각각 자사 환경에 에이전트를 두도록 기업을 끌어들이려 하고 있다. 구매 기업은 어느 진영의 베팅에 올라탈지 선택해야 하는 상황에 놓여 있다.
배우 Mark Wahlberg는 TechCrunch Disrupt 무대에서 영화 제작에서의 AI는 "올바르게 사용하면" 유용하다는 견해를 밝혔다. 계획 중인 Pete Rose 전기 영화에서는 경기장 장면 등을 강화하는 데 AI를 활용할 가능성이 있다고 한다. 반면 ChatGPT로 생성한 대본을 실제 배우 대신 쓰는 것에는 부정적이며, 이야기 만들기가 중심이 되어야 한다고 말했다. 나아가 자신의 AI 초상이 앞으로도 활동을 이어가는 것에도 긍정적인 입장을 보였다.
Replit CEO 겸 공동창업자 Amjad Masad는 TechCrunch Disrupt에서 AI 에이전트가 정형화된 업무 대부분을 맡고, 사람은 판단력과 감각으로 가치를 만들어내는 '자율주행형 기업(self-driving company)'이 일의 미래상이라고 말했다. Replit도 지원 티켓의 1차 분류를 에이전트가 맡고, 사람이 판단해 수정을 적용하는 체제로 바꿨다고 한다. Masad는 업무의 중심이 '무엇에 착수할지'를 검토하는 일과 아키텍처 설계로 옮겨가고 있다고 설명했다.
2026년에는 실리콘밸리 유력 인사를 비판적으로 그린 영화들이 잇따라 공개되고 있다. Aaron Sorkin의 『The Social Reckoning』은 Mark Zuckerberg를, Alex Gibney의 머스크 다큐멘터리는 Elon Musk를, Luca Guadagnino의 『Artificial』은 Sam Altman을 비판적으로 그린다. Amazon은 올해 6월 『Artificial』의 배급 계약을 철회했는데, 이는 OpenAI에 500억 달러를 투자한다고 발표한 지 몇 달 뒤의 일이었다.
아마존 디바이스 부문 책임자 Panos Panay는 개인용 AI의 미래는 앱이 아니라, 센서와 AI로 배경에서 작동하는 '앰비언트 디바이스'에 있다고 말했다. 회사는 Bee의 새로운 AI 웨어러블을 발표했으며, 손목밴드나 펜던트로 쓸 수 있는 밴드형 기기와 스마트폰 뒷면에 자석으로 붙는 명함 크기의 기기를 선보였다. Bee의 기기는 음성을 실시간으로 처리해 원본 음성은 저장하지 않으며, 텍스트 변환 결과는 기기가 생성한 키로 암호화된다.
AWS는 AI 에이전트에 자율성을 부여하면서도 통제를 유지하기 위한 다층적 사고방식인 'Trust in Depth'를 제시했다. Scope, Know, Bound, Observe라는 네 가지 질문으로 수명 주기 전체에 걸쳐 신뢰를 검증할 수 있도록 한다. 엄격하게 기술할 수 있는 규칙에는 자동 추론(automated reasoning)으로 증명을 제공하고, 모호한 판단은 사람에게 맡긴다.
AI Engineer New York에서 OpenAI와 Anthropic은 금융 분야 에이전트에서 자율성과 안전성을 함께 확보하는 방안을 제시했다. 두 회사가 강조한 것은 제한의 수보다 통제와 인간의 판단을 어디에 둘지가 안전한 자율성을 좌우한다는 점이다. 헤지펀드 Two Sigma는 자동 모드 분류기로 정형적인 판단을 처리하고, 중요한 요청만 사람에게 넘기는 구조를 도입했다고 설명했다.
Nathan Lambert는 AI 에이전트 덕분에 인프라와 엔지니어링이 몇 년 안에 크게 가속화되겠지만, 모델의 본질이 극적으로 바뀌지는 않으며 범용 초지능으로 이어지지도 않을 것이라고 전망하고 있다. 추론 비용은 몇 년에 걸쳐 거의 지수함수적으로 떨어지고, 아키텍처와 데이터 선택에 관한 사전 학습 연구의 자동화도 2~3년 안에 현실화될 것으로 본다. RL 환경의 품질 개선도 단기적으로 여지가 큰 분야로 꼽았다.
Periodic Labs의 리엄 페두스(Liam Fedus)와 Ekin Dogus Cubuk가 Latent Space 팟캐스트에 출연해 물리 실험에 기반한 강화학습을 통한 '합성 초지능(synthesis superintelligence)' 구상을 밝혔다. 두 사람은 지능만으로는 과학적 발견에 충분하지 않으며, 프런티어 모델에서도 물리적 실험이 여전히 필요하다고 주장한다. 실패한 실험도 중요한 학습 데이터가 된다고 보고, 상온 초전도체와 새로운 자석, 배터리 등의 소재 탐색을 논의했다.
AVEVA의 chief technologist인 Arti Garg는 파운데이션 모델, 피지컬 AI, 에이전트형 AI의 발전으로 산업 AI가 새로운 단계에 들어섰다고 말한다. 물리 시스템에 직접 작용하는 만큼 사람의 판단을 대체하지 않고 보강해야 하며, 자동화의 범위는 가드레일로 정해야 한다고 본다. 또한 IEEE 작업반에서 AI의 환경 부하를 측정하는 표준 방법을 마련하는 작업에도 참여하고 있다.
GitHub는 Microsoft Applied Sciences와 함께 개발한 파인튜닝된 ModernBERT 분류기를 시크릿 보호에 도입한다. 후보 시크릿 그룹을 2밀리초 미만에 평가하며, 푸시 보호로 차단할 수 있는 시크릿 수를 2배 이상으로 늘릴 수 있다고 밝혔다. 현재는 프라이빗 프리뷰이며, 이달 하순 Enterprise Cloud와 GitHub Teams의 GitHub Secret Protection 이용 조직에 제공될 예정이다.
통신사업자는 비용 절감에 그치지 않고 신뢰성, 통제성, 커스터마이즈 가능성을 이유로 오픈 모델을 중심으로 AI 전략을 구축하고 있다. NVIDIA의 「State of AI in Telecommunications」 보고서에서 응답자의 89%는 오픈소스 모델과 소프트웨어가 자사 AI 전략에 중요하다고 답했다.