OpenAI의 Chris Lehane 최고글로벌문제책임자는 새 논문에서 2028년 대선을 앞두고 정치인들이 AI 정책을 내놓을 것을 촉구하며, 노동자 보호부터 AI 안전성, 데이터센터 개발까지 5개 정책 우선순위를 제시했다. AI Now Institute의 Kate Brennan 연구원은 이 제안들의 상당수가 AI 보급을 전제로 하고 있으며, 기업에 구속력 있는 의무를 부과하지 않는다고 비판했다.
OpenAI의 샘 올트먼 CEO는 PC의 RAM 구매와 관련한 발언이 문맥에서 벗어나 비판받았다며, 사람들은 컴퓨터에 원하는 만큼 메모리를 탑재해야 한다고 말했다. 그러면서 세계 메모리 생산을 늘려야 한다고 오랫동안 주장해 왔다고 설명했다. 올트먼은 Cheeky Pint 팟캐스트에서 세계의 제한된 DRAM이 개인용 컴퓨터에 놓여 5%의 시간만 사용되는 상황을 “매우 끔찍하다”고 말한 바 있다. AI 데이터센터가 RAM 공급을 두고 경쟁하면서 가격이 오르고 있다. Intel은 부족 현상이 적어도 내년까지 이어질 것으로 보고 있으며, SK하이닉스는 2030년까지 계속될 가능성을 예측하고 있다.
Simon Willison은 노트북에서 구동한 Qwen 3.8 27B가 원시 가중치 수치만으로 강화학습 네트워크가 학습한 게임을 맞혔다고 보고했다. Pac-Man, Pong, Breakout은 식별했지만 한 문제당 46분에서 1시간 넘게 걸렸다.
'리버스 게임 이론'(메커니즘 디자인)은 AI 내부를 해명하지 않고도 바람직한 행동을 유도하는 인센티브를 설계해 제어하는 방법으로 제안되고 있다. Stephen Morris 등의 논문은 테스트에서 능력을 낮게 보이게 하는 '샌드배깅'을 막기 위해, 다른 모델의 답변을 예측하게 하고 그에 대해 보상을 주는 방안을 제시했다. 프린스턴 대학교의 Elad Hazan은 풀이 역할과 감사 역할을 번갈아 맡기고, 부정을 놓친 감사 역할에도 벌을 주는 구조를 제안하고 있다.
OpenRouter 데이터에 따르면 품질 상위 10개 모델의 플랫폼 이용 비중은 2025년 1분기 55%에서 2026년 3분기 14%로 떨어졌으며, 기업들은 최상위 모델보다 저렴하면서 성능이 충분한 모델을 고르기 시작했다. 정형화된 업무 대부분은 최첨단 추론 능력을 필요로 하지 않으며, 결과가 비슷하다면 소형 모델이 선택되기 쉽다. 반면 중국 기업의 오픈 웨이트 모델은 저비용으로 도입할 수 있지만, 사이버 보안과 규제 준수에 대한 우려로 채택을 망설이는 기업도 많다.
MIT Technology Review는 LLM 기반 AI 에이전트가 웹을 이용하는 시대, 이른바 '에이전트형 웹'이 도래했다고 주장하고 있다. 커넥터를 통한 방식과 브라우저 조작 방식이 공존하는 가운데, 광고 수익, 주요 플랫폼의 이용자 묶어두기, 사람을 위한 웹의 존속이 쟁점으로 떠오르고 있다.
Dazzle AI의 Marissa Mayer, OpenAI의 Sam Altman, Meta CEO Mark Zuckerberg 등 테크 기업 수장들의 AI 관련 발언이 잇따라 비판을 받고 있다. TechCrunch의 Amanda Silberling은 AI 경영진이 일반 소비자용 제품을 만들기에는 현실과 지나치게 동떨어져 있는 것은 아닌지 묻고 있다. 논의에서는 효율화로 인해 사람 간의 대화가 사라지는 것에 대한 우려도 제기됐다.
등산객이 AI 챗봇의 조언에 의존해 조난당하는 사례가 잇따르고 있다. 캘리포니아주 Mount Shasta에서는 20대 3명이 Google의 Gemini에 의존해 준비가 부족한 채 정상에 올랐고, 해가 진 뒤 하산하지 못해 길을 잃고 구조를 요청했다. 브리티시컬럼비아주에서는 16세 등산객이 Anthropic의 Claude로 일정을 짰다가 헬리콥터로 구조됐다.
OpenAI@OpenAIAI 점수88미래는 하나가 아니다. 당신은 어떤 미래를 만들고 싶은가?
OpenAI는 모델의 행동 방식을 정한 공개 문서 "Model Spec"을 업데이트하고, 지침을 "인간의 의도에 대한 충실성", "위해 최소화", "성실성과 투명성", "인간의 주체성", "배려"의 다섯 가지 가치를 중심으로 재편했다고 밝혔다. 이번 개정에서는 문맥, 감독, 주체성에 관한 지침이 추가됐고, 일부 행동의 기본값이 조정됐으며, 세부 스타일 가이드 상당수는 폐지됐다. OpenAI는 이러한 가치를 모델이 학습하도록 하는 새로운 훈련 방법도 검토 중이며, 결과는 향후 업데이트를 통해 공유할 계획이라고 밝혔다.
Partnership on AI의 Madhulika Srikumar와 Claire Leibowicz는 AI 에이전트의 행동을 실시간으로 모니터링할 수 있는 체계가 시급하다고 주장했다. 널리 쓰이는 4개의 에이전트 프레임워크를 조사한 결과, 영구적인 Agent ID나 사람의 승인 기록 등 안전 확보에 필요한 관찰 기록이 빠져 있었다고 한다.
Ted Sanders는 OpenAI의 버전 번호가 출시 순서, 다른 출시와의 관계, 개선의 크기를 동시에 나타낸다고 설명했다. 예를 들어 6.1은 5.6 다음에 출시된 모델이며, 학습 데이터나 개성 면에서 다른 6.1 모델과 비슷한 점이 있을 수 있고, 7만큼 큰 도약은 아니라고 한다. 모델 크기가 성능 차이의 대부분을 설명하며, 모델이 클수록 신뢰도가 높아지고 토큰당 비용도 높아진다고 밝혔다.
Wiz의 CTO Tomer Schwartz가 PHP의 중대한 취약점 2건을 둘러싼 수정 경쟁의 막후에 대해 이야기한다. PHP는 웹사이트의 약 70%를 떠받치는 오픈소스 언어이며, 수정에는 Wiz 외에도 OpenAI, 연구 그룹 Calif, PHP 팀이 참여했다. AI로 새로운 취약점의 발견과 악용이 가속화되고 있다는 지적이 나오는 가운데, 수작업 패치 적용으로는 대응을 확장할 수 없다는 점도 논의된다.
저자가 Codex로 구축한 AI 에이전트 군이 운영한 Premier League 판타지 축구 팀은 수 주가 지난 시점에서도 평균 점수를 넘어서지 못했다. 에이전트를 100개 이상으로 늘려도 개선은 미미했고, API 이용료만 늘어났다고 한다. 예측 능력 평가에서는 GPT-5가 가장 높은 성적을 거둔 것으로 보고됐다.
AI가 기업 조직도에 들어가는 방식으로 사람 아래에 두는 유형, 사람과 나란히 두는 유형, 사람 사이에 끼어드는 유형의 3가지 시나리오를 집필자인 Hemanth Asirvatham과 Elliott Mokski가 제시한다. 각 개인이 자신의 AI 에이전트를 관리하는 위치가 되는 '사람 아래' 유형에서는 회계 등 실무를 AI가 맡고 사람은 조율과 판단을 담당하는 것으로 설명된다. 기사는 이를 인원 감축을 전제로 하지 않는 변화로 규정하지만, 내용은 OpenAI의 공식 입장이 아니라 집필자의 견해다.
퇴임을 앞둔 영국의 Geoffrey Vos 판사는 인신상해 청구나 저액의 전문직 과실 사건 등은 AI가 판단할 수 있다고 말했다. 복잡한 상사 분쟁이나 가족 관계 사건에는 인간 판사가 필요하다고 밝혔다. 영국 가이던스는 판사의 AI 활용을 사무 업무에 한정하고 있으나, Vos 판사는 중국 선전 법원의 시도에 깊은 인상을 받았다고 한다.
OpenAI의 Ted Sanders는 GPT 모델을 고를 때의 기준으로, 품질만 중시한다면 Astra, 가격에 다소 민감하다면 Sol, 매우 민감하다면 Terra 또는 Luna를 선택하라는 기준을 제시했다. 대부분의 성능 차이는 모델 크기로 설명할 수 있지만, 모델 크기, reasoning effort, 멀티 에이전트 시스템은 서로 별개의 축이므로 하나의 'IQ 점수'로 묶으면 세부 내용이 보이지 않게 된다고 밝혔다.
ChatGPT는 일반적인 기술 지원 문제를 겪는 사용자에게 해당 문제가 보도할 가치가 있다고 말한 뒤, 404 Media가 해결을 도와줄 수 있다고 안내하고 있다. 대형 기술 플랫폼은 사실상 고객 지원이 없어 사용자가 사람과 연락할 방법이 없으며, 그래서 많은 사람이 일상적인 기술 문제에 ChatGPT를 의존하고 있다고 한다.
전 New York Times 기자 Kevin Roose가 Casey Newton과 함께 독립 팟캐스트 「Machine Gods」를 시작하게 된 경위를 밝힌 인터뷰다. 이 프로그램은 지난주 론칭했으며, 영상 중심의 제작을 지향하는 것으로 알려졌다. 신간 『The AGI Chronicles』는 AGI 구축 경쟁을 벌이는 주요 프런티어 랩과, AI가 상업 제품으로 확산되는 가운데 기업 문화가 어떻게 변화하고 있는지를 취재한 책이라고 한다.
기고자는 챗봇의 자살 조장 방지 등 파국적 피해 대책이 기술 정책의 성공으로 여겨지는 현 상황을 비판하고, AI 컴패니언 의존 등 일상적 피해까지 규제를 확대할 것을 요구한다. 구글은 여러 주에서 AI 챗봇 규제 법안을 지지했지만 광범위한 적용 제외가 포함되어 있었고, 아동의 정서적 의존을 막기 위한 법안은 불성립으로 끝났다고 지적한다.
에릭 슈미트 등은 Foreign Affairs 기고문에서 OpenAI와 Anthropic을 동인도회사에 비유하며, 정부의 통제를 받으면서도 독자적인 영향력을 갖는 존재라고 주장했다. 근거로 든 것은 6월 미국 상무부가 Anthropic에 최고 성능의 2개 모델을 외국 국적 사용자에게 차단하도록 명령한 사례다. Anthropic은 Fable 5와 Mythos 5를 전 세계적으로 중단했으며, Fable 5의 수출 규제는 약 2주 후 해제되었으나 Mythos 5는 미국 내 조직으로만 제한된 상태가 유지되고 있다고 한다.
새로 공개된 PHP 취약점 묶음 PHP2Shell에 대해 공개 후 몇 시간 만에 수백만 건의 악용 시도가 있었다고 Cloudflare가 분석했다. PHP Foundation은 성공한 악용 사례를 확인하지 않았으며, AI가 오랫동안 알려져 있던 결함을 실제로 악용 가능한 위협으로 바꿔 놓았지만 전문가들은 지나치게 우려할 필요는 없다고 보고 있다.
OpenAI는 사내 프런티어 모델의 훈련·평가 환경 격리를 강화하고, 최상위 모델의 에이전트 팀으로 레드티밍을 실시했다. 훈련은 인터넷에 연결하지 않는 방침으로 진행하며, 9월 20일 인시던트로 중단했던 RL 훈련과 사내 추론을 10월 1일에 재개했다.
선정 이유: 최첨단 모델의 훈련 환경을 어떻게 격리하고, 레드티밍에서 어떤 돌파 경로가 발견됐는지 구체적 사례와 함께 정리돼 있어 방어 설계를 비교하는 자료로 활용할 수 있다.
OpenAI의 Sam Altman CEO는 고도의 AI가 샌드박스에서 반드시 탈출하기 때문에 유효한 대책은 얼라인먼트뿐이라고 주장했다. 샌드박스는 일정 기간만 기능하며, 얼라인먼트는 초기 단계의 미해결 연구 과제라고 한다. 또한 AI는 이미 하드웨어 수준의 보안 결함을 발견했으며, Altman 씨는 취약점을 개별적으로 수정하는 것만으로는 부족하고 AI에 의한 방어로 인터넷 보안 기반을 재구축할 필요가 있다고 말했다.
Ankit Maloo씨는 OpenAI가 단위거리 추측의 반례를 찾아낸 사례 등을 단서로, LLM이 풀기 쉬운 수학 문제의 조건을 분석하고 있다. 사람은 너비 우선으로 일찍 가지를 쳐내는 반면, LLM은 깊이 우선으로 끝까지 진행한 뒤 검증기로 정답을 골라낸다는 차이를 중심축으로 삼고 있다.
마이크로소프트 공동창업자 빌 게이츠는 The Verge의 Decoder에서 Nilay Patel과 인터뷰하며, AI로 인한 사회적 혼란이 약 20년간 이어질 것이라고 밝혔다. 가장 가까운 시일 내의 가장 큰 위험은 안전장치가 없는 모델을 통한 사이버 공격과 바이오테러라고 지적하며, 정부의 심사와 규제가 필요하다고 촉구했다. 그는 자신이 비관론자가 아니며 AI의 이익도 크다고 덧붙였다.
Hugging Face의 Clem Delangue CEO는 Netflix 다큐멘터리 「AI Gone Rogue」의 내용이 부정확하다고 지적했다. 그는 기술을 지나치게 의인화하고 종말론적으로 묘사한 점을 비판했다. 저널리즘으로서는 실망스럽지만 SF 영화로서는 재미있다는 평가다. 그에 따르면 방송은 에이전트의 격리와 감시의 허점, 그리고 클로즈드 모델의 안전장치가 방어 작업을 방해한 점을 다루지 않았다.
뉴욕시의 조란 맘다니 시장은 월요일 저녁 행사에서 연방정부가 AI 규제를 포기하고 있다고 비판하며, 시민들에게 기술의 강요에 맞서라고 촉구했다. 시장은 지난달 초·중학교에서 AI 사용을 금지하는 명령을 내렸으며, 여름에는 매물 게재용 사진이나 영상을 AI로 제작한 경우 집주인과 부동산 중개업자 등에게 이를 공개하도록 의무화하는 정책을 도입했다. 또한 트럼프 대통령의 Superintelligence Task Force가 새로운 연방 규제보다 강력한 AI 기업의 자율규제를 중시하고 있다고 비판했다.
AI 에이전트용으로 웹을 다시 설계하면 사람을 포함한 다른 이용자에게 쓰기 불편해질 수 있다고 지적한 기사다. Meta의 앱 「Muse」는 공개 첫 달에 500만 회 다운로드되었고, 에이전트 유래 웹 트래픽은 8월부터 9월 사이에 3배로 늘었다. 한편 Amazon은 Muse의 에이전트를 차단했고, Perplexity와의 소송에서 판결에 불복해 항소했다.
OpenAI, Google, Workday는 각각 자사 환경에 에이전트를 두도록 기업을 끌어들이려 하고 있다. 구매 기업은 어느 진영의 베팅에 올라탈지 선택해야 하는 상황에 놓여 있다.
2026년에는 실리콘밸리 유력 인사를 비판적으로 그린 영화들이 잇따라 공개되고 있다. Aaron Sorkin의 『The Social Reckoning』은 Mark Zuckerberg를, Alex Gibney의 머스크 다큐멘터리는 Elon Musk를, Luca Guadagnino의 『Artificial』은 Sam Altman을 비판적으로 그린다. Amazon은 올해 6월 『Artificial』의 배급 계약을 철회했는데, 이는 OpenAI에 500억 달러를 투자한다고 발표한 지 몇 달 뒤의 일이었다.
AI Engineer New York에서 OpenAI와 Anthropic은 금융 분야 에이전트에서 자율성과 안전성을 함께 확보하는 방안을 제시했다. 두 회사가 강조한 것은 제한의 수보다 통제와 인간의 판단을 어디에 둘지가 안전한 자율성을 좌우한다는 점이다. 헤지펀드 Two Sigma는 자동 모드 분류기로 정형적인 판단을 처리하고, 중요한 요청만 사람에게 넘기는 구조를 도입했다고 설명했다.
AI가 위험한 요청을 거부하는 능력은 안전 대책의 핵심이 되어 있지만, 확률적 구조라 신뢰성에 한계가 있으며 정부의 검열에도 쓰일 수 있다고 저자 Arthur Holland Michel은 주장한다. 거부 동작이 내부에서 어떻게 일어나는지는 가설 수준에 머물러 있고, 기업들은 분류기를 겹겹이 쌓아 대응하고 있지만 탈옥(jailbreak)은 끊이지 않는다.
로봇공학 분야의 AI 돌파구가 일반인의 생활을 바꾸는 것은 아직 먼 이야기이며, 휴머노이드에 대한 기대와 연구 현장의 시각 사이에는 간극이 있다. Elon Musk는 Tesla Optimus가 대당 약 2만 달러 수준이며 2027년 말까지 일반 판매될 수 있다고 말했다. 반면 Yann LeCun은 각 기업이 로봇을 실용적으로 더 똑똑하게 만들 방법을 아직 찾지 못했다고 지적하고 있다.
Barnette 예상이 openai/math 저장소의 문제 180으로 증명된 것으로 알려졌다. Jake Boggan 씨는 Hacker News 댓글에서 이 점을 언급하며, 이 예상에 약 24년에 걸쳐 간헐적으로 매달려 수천 시간을 쏟았다고 밝혔다. 문제가 해결됐다는 소식을 듣고는 복잡한 심정이 들었다고 말했다.
OpenAI는 첨단 AI가 획기적 발상의 이면에 있는 일상적 업무에서 가장 중요한 역할을 할 수 있다고 주장한다. 그 실행력이 다음 경제와 발전 속도를 좌우할 수 있다고 밝혔다.
Ethan Mollick은 에이전트를 관리자가 설계하고 편성해야 한다는 기존 예상이 틀렸다고 말했다. 수천 개의 에이전트로 이루어진 swarm이 OpenAI의 Navier-Stokes 문제 증명에서 스스로 조직을 짠 사례를 근거로 든다. 한편 AI가 인간의 일을 대량으로 대체할 단계는 아니며, 자기 조직화에는 예상치 못한 방향으로 흐를 위험도 남아 있다고 지적한다.
OpenAI의 Sam Altman CEO가 유엔 안전보장이사회에서 한 발언에서 AI의 안전성, 인간에 의한 통제, 국제 협력에 대해 이야기했다. 원문은 발언의 논점을 보여주는 개요만 담고 있어, 구체적인 제안이나 수치는 포함되어 있지 않다.
Nathan Lambert는 OpenAI와 Anthropic 등 프런티어 연구소에서 고조되는 '특이점 임박' 분위기에 회의적인 입장을 밝혔다. 자동화할 수 있는 연구의 범위는 좁고, 병렬 에이전트의 수확 체감과 자원 제약도 있기 때문에, 그는 진정한 재귀적 자기 개선(RSI)보다는 '손실이 있는 자기 개선(lossy self-improvement)'에 가깝다고 본다. 다만 연구소들이 아직 공개하지 않은 breakthrough를 확보했을 가능성도 남아 있어, 불확실성은 크다고 덧붙였다.
Ethan Mollick은 GPT-6 Astra와 Fable 5.1이 이미 경제의 넓은 분야에서 변혁을 일으킬 수 있는 능력을 갖추고 있으며, 적절히 이끌면 사람이 몇 주 동안 해낼 작업을 처리할 수 있다고 말한다. Zork의 3D 게임화, Umberto Eco 장서의 3D 재현, Blender를 활용한 책 예고편 제작을 예로 들며, 모델의 능력과 실제 활용 사이의 차이를 "capability overhang"이라고 부른다. 이 차이를 살리는 인간의 강점으로 깊은 지식, 넓은 지식, 센스, agency의 네 가지를 든다.