No. 171

가속과 통제 — 소넷 5.5, 지능 폭발 경고, 에이전트 감시 칩

앤스로픽이 소넷 5.5로 속도를 되찾는 사이, 22인 논문·백악관 회의·엔비디아 감시 플랫폼이 통제의 인프라를 세웠습니다.

오늘의 핵심

어제 오픈AI가 학습을 멈춘 풍경은 오늘 두 방향으로 갈라졌습니다. 앤스로픽은 30% 빠르고 태스크당 최대 30% 싼 소넷 5.5를 내놓으며 가속의 축을 이어갔고, 다른 한쪽에서는 힌턴·벤지오부터 오픈AI 수석과학자까지 22명이 ‘지능 폭발’ 경고 논문을 내고 정부 감시관 상주를 제안했습니다. 엔비디아는 도망치는 에이전트를 밀리초 만에 격리하는 하드웨어 플랫폼을 선보였고, 백악관은 오늘(미국 시간 화요일) AI 최고경영자들을 불러 모읍니다. 멈추라는 목소리와 달리라는 목소리가 같은 날 제품과 규제안으로 동시에 상장된 하루였습니다.

소넷 5.5, 속도와 가격으로 무너뜨린 ‘중단의 무게’

앤스로픽이 클로드 5.5 패밀리의 두 번째 모델 소넷 5.5를 공개했다. 최고경영자의 속도 조절 주장 이후 두 번째 출시다.

  • 숫자의 핵심: 이전 세대보다 출력이 30% 이상 빠르고, 같은 일을 더 적은 토큰으로 해내 태스크당 비용이 최대 30% 낮다. 입력 100만 토큰당 2달러, 출력 10달러라는 단가는 소넷 5와 같다. 에이전트 코딩 벤치마크 터미널벤치 4.0에서는 70.6%로 소넷 5(10.3%)는 물론 오퍼스 5.5(66.4%)도 앞선다.

  • 안전 장치도 함께: 오퍼스 5급 사이버 역량에 맞춰 처음으로 소넷 모델에 최상위 모델용 사이버 세이프가드가 붙었다. 스크린샷만 보고 포켓몬 레드를 깬 첫 소넷이기도 하다. 하이쿠 5.5는 수주 안에 뒤따르고, AWS와 깃허브 코파일럿도 첫날부터 지원한다.

📢 어제 '학습 중단'이 업계 전체의 분위기라면, 오늘의 답은 능력이 아니라 단위 경제였습니다. 빠르고 싼 모델이 안전 담론의 무게를 희석시킬 수 있다는 것을, 그리고 그 반대도 성립한다는 것을 보여줬습니다.

출처: Introducing Claude Sonnet 5.5 — Anthropic, Anthropic is launching Claude Sonnet 5.5 — The Verge

힌턴·벤지오부터 오픈AI 수석과학자까지 — 22인 ‘지능 폭발’ 경고

AI가 AI 연구를 자동화하며 수년의 진보가 수개월로 압축되는 ‘지능 폭발’이 임박했다는 공동 논문이 나왔다.

  • 누가 서명했나: 케임브리지대 AI 과학·정책 프로그램(CASP)을 통해 발표된 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?‘에는 22명이 이름을 올렸다. 제프리 힌턴·요슈아 벤지오 같은 ‘AI 대부’는 물론, 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤스로픽 공동창업자, 에릭 호비츠 MS 최고과학책임자, 던 송 메타 AI연구 담당 부사장까지 참여했다.

  • 근거와 최악의 시나리오: 논문은 앤스로픽 내부 데이터를 인용해 개발자가 승인한 코드 중 AI 작성 비중이 작년 1월 한 자릿수에서 올해 5월 80%를 넘었고, 가벼운 감독 아래 AI가 자율 수행한 연구개발도 3월 1%에서 지난달 26%로 늘었다고 짚는다. 수개월짜리 연구 프로젝트 전체가 2년 안에 자동화될 수 있다는 전망과 함께, 통제 상실 시 인류의 소외나 멸망으로 이어질 수 있다고 경고했다. 던 송은 “이미 에이전트를 감시하려면 AI가 필요한 단계”라고 말했다.

  • 정부에 요구한 것: 연구개발 자동화 지표의 보고 의무화, 원자력규제위원회·통화감독청 방식의 AI 기업 상주 감시관, 안전 기준 미달 시 학습 부하를 조절하거나 일시 중지할 수 있는 장치 등을 제안했다. “행동할 수 있는 기회의 창이 닫히기 전”이라는 문구가 핵심이다.

📢 경고하는 사람이 이제 모델을 만드는 사람들입니다. 위험 문구가 비판이 아니라 제품 로드맵의 일부가 된 순간, 남는 질문은 하나입니다. 그 로드맵에 브레이크 페달이 실제로 달려 있는가.

출처: 주요 AI연구자 22명 “AI 지능폭발 임박…통제 못하면 인류멸망” — 연합뉴스, Hinton, Bengio and AI lab scientists warn of an intelligence explosion — TNW

백악관, 오늘(화) AI 최고경영자들을 부르다

트럼프 대통령과 마이크 존슨 하원의장이 미국 시간 화요일 백악관에서 주요 AI 기업 임원들과 회의한다.

  • 무엇을 논의하나: 회의는 AI 안전과 중국과의 기술 경쟁이라는 두 축으로 열린다. 하원의장은 “균형을 찾는 데 초점이 맞춰질 것”이라고 말했다. 참석 명단에 저커버그 메타 최고경영자, 아모디 앤스로픽 최고경영자, 젠슨 황 엔비디아 최고경영자가 오른다고 언론이 보도했다.

  • 일요일 만찬의 연장선: 이 회의는 트럼프와 아모디의 첫 일대일 만찬이 있던 지 하루 만에 열린다. 트럼프는 그동안 AI 재앙 경고를 ‘혹스’로 치부하고 “규제 대신 강한 리더십이 가드레일”이라는 입장을 유지해왔다. 6월 국가안보망은 ‘견고하고 조종 가능하며 통제 가능한’ 시스템과 명확한 인적 책임을 요구한 바 있다.

📢 어제의 학습 중단과 오늘의 22인 논문이 결국 백악관 회의장 안으로 상정됐습니다. 워싱턴의 질문은 '안전하냐'가 아니라 '중국에게 이기면서 안전하냐'로 정리되고 있습니다.

출처: White House to convene Trump, Johnson and AI leaders Tuesday on safety and China rivalry — ChinaTechNews, Trump’s AI meeting with tech CEOs to focus on finding balance, US House speaker says — Reuters

엔비디아, ‘이탈 에이전트’를 밀리초에 격리하는 플랫폼

엔비디아가 에이전트 안전 전용 오픈 플랫폼 ‘오픈 에이전트 세이프티 플랫폼’을 공개했다.

  • 구조: 오픈소스 런타임 ‘오픈셸’이 베라 CPU 위에서 에이전트의 모든 행동을 추적하고 정책을 시행하며, 블루필드-4 DPU에서 도는 참조 설계 ‘센트리’가 대역 외 감시견 역할을 한다. 경계를 벗어나려는 에이전트는 밀리초 단위로 격리된다. 오픈셸은 Arm·인텔 플랫폼으로 확장 가능하다.

  • 동행하는 이들: 앤스로픽, MS, 크라우드스트라이크, 휴징페이스, JPMorgan체이스, 펠란티어, 세일즈포스, 스페이스XAI 등이 참여를 밝혔다. 젠슨 황 최고경영자는 “안전과 보안은 풀스택 엔지니어링이 필요하다”고 말했다. 최근 사고들의 공통점이 애플리케이션 계층의 보안을 우회해 과제를 완수한 것이라는 분석이 출발점이다.

📢 '에이전트를 지켜보는 칩'이 판매 목록에 올랐습니다. 통제가 규제 문서가 아니라 데이터센터 부품으로 물화되는 순간, 안전 시장의 첫 주가를 누가 쥐는지가 새로운 경쟁이 됩니다.

출처: NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment — NVIDIA Newsroom, Nvidia says its new AI safety platform can contain rogue agents within ‘milliseconds’ — The Verge

메타, 엔터프라이즈 AI 플랫폼 선언 — 몽고DB 최고경영자를 영입하다

메타가 기업용 사업 ‘메타 엔터프라이즈 플랫폼’을 출시하며 몽고DB 최고경영자를 데려왔다.

  • 인물의 이동: 치란탄 ‘CJ’ 데사이 몽고DB 최고경영자가 새 이니셔티브를 이끈다. 그는 “향후 수년간 AI는 조직의 혁신·성장·고객 응대·운영 방식을 근본적으로 재정의할 것”이라고 말했다. 뮤즈, 메타 비즈니스 에이전트, 뮤즈 API, 뮤즈 코드 등 자사 스택 전체를 기업에 파는 구조다.

  • 시장의 반응: 갑작스러운 최고경영자의 사임 소식에 몽고DB 주가는 17% 넘게 떨어졌고, 회사는 전임 최고경영자였던 데브 이티체리아를 임시 최고경영자로 앉혔다. 소비자 시장의 뮤즈로 구독 경제를 흔들던 메타가 이번에는 기업 예산을 겨냥한 셈이다.

📢 최고경영자 한 명의 이동이 전략 선언서 역할을 했습니다. 에이전트 전쟁의 다음 전선이 소비자 채팅이 아니라 기업의 지출 계정이라는 신호입니다.

출처: Meta launches enterprise AI platform, hires MongoDB CEO to lead new initiative — TechCrunch, MongoDB CEO Desai steps down to lead Meta’s enterprise platform — Reuters

세계랩스, AMD 품으로 — 페이페이리는 최고과학자로

공간지능 스타트업 세계랩스가 AMD에 합류하는 확정 합의를 발표했다.

  • 이동의 내용: 창업자 페이페이 리 스탠퍼드 교수는 AMD 부사장 겸 최고과학자로 리사 수 최고경영자 직속에서 일하게 된다. 저스틴 존슨과 벤 밀든홀이 팀을 이어 이끌며, 세계랩스 조직은 AMD 안에서 프론티어 연구 조직을 이룬다. 거래는 규제 승인을 거쳐 연내 마감이 목표다.

  • 왜 하드웨어인가: 세계랩스는 지난해부터 AMD GPU에서의 학습·추론 최적화 협업을 이어왔다. 하드웨어·소프트웨어·플랫폼·오픈 모델을 아우르는 ‘오픈 AI 생태계’를 함께 만들겠다는 것이 양측의 설명이다.

📢 기초모델 회사가 통째로 칩 회사 안으로 들어갔습니다. 경쟁의 단위가 모델 가중치에서 '연구 조직+실리콘'의 결합으로 옮겨 가는 신호입니다.

출처: World Labs is Joining AMD — World Labs

중국, AI 핵심 인재의 ‘가족’까지 출국 통제

중국이 민간 AI·반도체 핵심 인재에 대한 출국 통제를 배우자와 자녀로 확대하고 있다.

  • 블룸버그 보도의 골자: 중국 정부 기관들은 최근 주요 기술 스타트업 창업자와 AI 전략 기업 경영진에게 가족이 포함된 출국 제한 방침을 통보하기 시작했다. 국가 안보상 중요하다고 분류된 민간 기업 임원의 가족은 짧은 해외여행도 사전 승인을 받아야 하며, 통제 대상은 더 늘릴 계획이다.

  • 쌓여온 조치들: 중국은 올해 초부터 알리바바·딥시크 등 주요 민간 기업 AI 연구자와 경영진의 해외 이동을 통제해 왔고, 9월 15일부터는 ‘산업·기술 안보 침해 가능성’만으로도 출국을 제한하는 새 규정을 시행 중이다. 봄에 메타의 마누스 인수(20억 달러)를 국가발전개혁위원회가 막고 되돌리라고 압박한 사건 이후 인재 이탈 방지 조치가 노골화됐다는 분석이다.

📢 AI 인재가 사실상 전략 물자로 등록됐습니다. 기술 유출 방지의 단위가 기업에서 개인, 다시 가족으로 내려간다는 점이 오늘 보도의 무게입니다.

출처: 중국, AI·반도체 핵심 인력 ‘가족’까지 출국 통제 확대 — IT조선

교황 레오 “AI 파멸 우려는 가짜뉴스가 아니다”

교황 레오 14세가 프랑크 방문을 마치고 돌아오는 비행기에서 AI 안전 경고를 정면으로 옹호했다.

  • 무엇을 말했나: 교황은 기자들에게 “AI 전문가들이 제기하는 우려는 진지하게 받아들여야 하며, 일부가 말하듯 가짜뉴스라고 생각하지 않는다”고 말했다. 트럼프 대통령이 AI 재앙 경고를 ‘혹스’로 치부해온 것을 겨냥한 해석이 이어진다. 그는 “‘그런 일은 일어나지 않을 거야’라며 눈을 감는 건 책임 있는 태도가 아니다”라고도 했다.

  • 냉정과 낙관 사이: 인류멸망 우려에 공감하느냐는 질문에는 “패닉 상태인가? 아니다. 나는 밤에 잘 잔다”고 답했다. 교황은 올해 AI 기회와 위험을 다룬 회칙을 발표했고, 바티칸에 AI 위원회를 두고 “AI가 인류를 대화에서 밀어내는 지점에 이르지 않도록” 하겠다고 덧붙였다.

📢 '가짜뉴스'라는 정치적 프레임이 도덕 언어로 번역되는 순간이었습니다. 속도 논쟁의 한복판에 종교 지도자가 등장했다는 것 자체가 이 논쟁의 무대가 이미 세속 정치를 넘어섰다는 증거입니다.

출처: Pope Leo calls for AI dialogue, says concerns are not ‘fake news’ — dpa/Yahoo, Pope Leo says concerns about AI doom scenarios are not ‘fake news’ — Reuters

한국 생성형 AI 사용률 40.6% — 1년 새 15%p 급증

마이크로소프트 산하 싱크탱크가 한국의 생성형 AI 사용률이 세계 12위로 올랐다고 분석했다.

  • 보고서의 수치: MS AI 이코노미 인스티튜트의 ‘글로벌 AI 확산: 2026년 2분기’ 보고서는 전 세계 생산연령인구의 생성형 AI 사용률을 18.8%로 집계했다. 한국은 40.6%로 1분기 16위에서 12위로 네 계단 올랐고, 주요 경제국 가운데 세 번의 보고 기간 연속으로 가장 큰 증가폭을 기록했다. 12개월간 약 15%포인트가 늘었다.

  • 구도의 차이: 1위는 아랍에미리트 73.3%, 싱가포르 64.3%가 뒤를 이었다. 글로벌 노스 28.8%와 글로벌 사우스 16.2%의 격차는 12.6%포인트로 오히려 벌어졌다. 보고서는 오픈 웨이트 모델이 오픈라우터 토큰 사용량의 75%를 차지하며 확산의 새 경로가 되고 있다는 점도 짚었다.

📢 한국은 이미 '열 명 중 넷이 쓰는 나라'가 됐습니다. 이제 경쟁력의 지표는 사용률이 아니라 사용의 깊이입니다. 채팅을 넘어 에이전트·업무 통합으로 간 소수와 그렇지 못한 다수의 격차가 다음 관전 포인트입니다.

출처: 마이크로소프트 ‘글로벌 AI 확산 보고서’, 한국 AI 사용률 40.6%…세계 12위 — AI타임스, [AI픽] 한국 생성형 AI 사용 비중 40.6%…세계 12위로 4계단 상승 — 연합뉴스

클라우드플레어 cf — API 전체를 미러링하는 에이전틱 CLI

클라우드플레어가 자사 API 전체를 미러링하는 명령줄 도구 ‘cf’를 공개했다.

  • 무엇이 달라지나: cf는 프로그래매틱한 TypeScript 설정을 지원하는 에이전틱 CLI다. 내부 SDK 생성기 ‘포지’도 함께 오픈소스로 공개됐다. 문서를 뒤져 명령을 조립하는 대신, 원하는 상태를 말하면 API 호출로 옮기는 방향이다.
📢 인프라 운영의 마지막 성역인 CLI조차 대화형으로 편입되고 있습니다. API 문서 읽기를 대신해주는 도구가 늘어날수록, '무엇을 실행했는지 추적하는 도구'의 가치는 함께 올라갑니다.

출처: Introducing cf: the agentic CLI for the entire Cloudflare API — Cloudflare Blog

칼 뉴포트 “이제 AI 랩을 조사할 때다”

컴퓨터과학 교수이자 필자인 칼 뉴포트가 의회의 공개 조사를 촉구하는 에세이를 냈다.

  • 세 가지 조사 축: 뉴포트는 목요일 뉴욕타임스 오피니언을 확장한 이 글에서 첫째, 막연한 ‘AI’가 아니라 문제를 일으키는 특정 시스템 유형을 가려내고, 둘째 첫 무단 해킹 사고가 공개된 뒤에도 왜 중단되지 않았는지 내부 안전 절차를 묻고, 셋째 종말론적 미래주의 이데올로기가 연구 방향과 속도 결정에 미치는 영향을 검증해야 한다고 주문했다.

  • 핵심 논리: 그는 앤스로픽의 ‘프론티어 속도 조절’ 서한을 경쟁자 규제 유도로 읽는다. “소수 민간 기업이 점점 이상하게 행동하며 우리가 AI에 대해 느끼고 말해야 할 것을 정하게 두어서는 안 된다”는 것이 결론이다.

📢 안전 논쟁이 '누가 옳은가'에서 '증거를 내놓아라'로 넘어가라는 주문입니다. 소환권과 청문회라는 형식이 기업 자체 보고서보다 신뢰를 만들 수 있는가가 다음 단계의 시험대입니다.

출처: It’s Time to Investigate the AI Labs — Cal Newport

하셋 “AI는 일자리를 만든다” — 백악관의 반격

백악관 경제자문 최고위 인사가 AI 도입이 고용을 늘린다고 반박했다.

  • 주장의 내용: 국가경제위원회의 케빈 하셋 디렉터는 월요일 뉴욕경제클럽 연설에서 “현재의 학계 연구는 AI를 도입한 기업의 매출·고용·임금이 모두 크게 오른다는 방향”이라며 “스트레스를 겪는 쪽은 오히려 AI를 쓰지 않는 기업의 노동자”라고 말했다.

  • 여론과의 온도차: 피우연구센터 6월 조사에서는 미국 성인 71%가 향후 20년 내 AI가 일자리를 줄일 것으로 보고, 30세 미만에서는 73%로 2년 새 12%포인트 급등했다. 트럼프 대통령은 “AI에 필요한 유일한 가드레일은 강하고 영리한 대통령”이라며 규제 요구를 거부해왔다.

📢 같은 날 교황은 두려움을 존중하라 했고, 22인은 감시관을 요구했고, 백악관은 낙오를 경계하라 했습니다. AI 담론의 세 축이 하루 안에 정면으로 맞선 오늘의 지도입니다.

출처: AI creates jobs rather than kills them: White House economist Hassett — CFO Dive

오늘의 도구 추천

Jeff — Jev와 같은 요청 형식을 쓰는 초소형 결정(decision) 모델 군입니다. 상황과 선택지를 평문으로 건네면 한 번의 순전파로 보정된 확률을 돌려주며, RTX PRO 6000에서 약 22ms, M4 Max의 MLX 백엔드에서 28ms 만에 답합니다. Qwen3.5 0.8B·2B와 Gemma 4 E2B 파인튜닝 무게가 공개됐고, 음성 내비게이션 파인튜닝은 정확도를 31.7%에서 95.8%까지 30분 만에 끌어올렸다고 합니다. 합성 데이터 생성부터 학습까지 전 과정이 로컬 하드웨어로 처리됐다는 점이 특별합니다. 에이전트 라우팅·분류·중재 판단에 대형 모델을 쓰기 부담스러운 자리를 노리고 만든 도구입니다.

에디터 노트

어제 이 칼럼은 ‘중단의 날’이라고 적었습니다. 오늘 보니 중단은 하루짜리 뉴스가 아니라 구조의 한쪽 면이었습니다. 앤스로픽은 더 빠르고 싼 모델로, 엔비디아는 밀리초 격리 칩으로, 22인은 상주 감시관 제안으로 사실상 같은 문장을 각자의 언어로 번역하고 있습니다. 통제가 비용이 아니라 제품 사양이 되는 순간, 안전은 윤리 선언이 아니라 계기판 설계의 문제가 됩니다. 그래서 오늘의 진짜 쟁점은 ‘멈출 것인가’가 아니라 ‘계기판을 누가 소유하는가’입니다. 다음에 또 찾아옵니다. — 에이브랜치