모델을 고르기 전에 경로를 고칩니다 — Stripe·ZDR·학습 환경

오늘의 핵심

오늘의 흐름은 더 센 모델이 아니라, 그 모델로 가는 경로와 그 경로를 남길지 말지를 누가 통제하는가입니다. 스트라이프는 하루 10조 개 이상의 토큰을 400개 넘는 모델로 나누는 OpenRouter를 인수하기로 했고, 오픈AI는 프론티어 모델에도 Zero Data Retention을 유지하면서 여러 요청을 묶어 보는 안전 처리를 미리 공개했습니다. 같은 날 구글은 학생에게 1년짜리 학습 경로를 기본값으로 열어 주었고, 에이전트 연구는 자기 개선·하네스·실제 업무 완료가 점수보다 먼저 깨진다는 쪽을 보여 줍니다.

스트라이프는 OpenRouter로 토큰 라우팅을 결제 인프라 옆에 둡니다

스트라이프는 AI 모델 게이트웨이 OpenRouter를 인수하기로 합의했습니다. 오픈라우터는 요청마다 과제 난이도, 가격, 속도, 신뢰도를 보고 400개 넘는 모델과 80곳 넘는 공급자 가운데 경로를 고르며, 엔비디아, Zoom, Lovable이 이미 이 층을 쓰고 있습니다.

중립 게이트웨이를 유지: 오픈라우터는 하루 10조 개 이상의 토큰과 1,000만 명 넘는 개발자·기업 트래픽을 처리하며, 인수 뒤에도 이름, 제품, 로드맵과 통합 방식은 그대로 둔다고 밝혔습니다.
수익과 토큰 비용을 한쪽에: 스트라이프는 결제 수단·승인률·사기를 최적화해 온 것처럼, 토큰을 희소한 연산 자원의 통화로 보고 매출과 추론 지출을 함께 관리하겠다고 설명했습니다.
멀티모델이 기본 가정: 오픈라우터 공동창업자 알렉스 아탈라는 어떤 모델도 모든 과제에서 최적이 아니므로, 개발자에게는 특정 랩에 기울지 않는 조율 층이 필요하다고 말했습니다.

📢 모델 경쟁의 병목은 이제 벤치마크 1위가 아닙니다. 요청을 어디로 보낼지, 그 결정을 누가 중립적으로 감사할 수 있는지가 인프라 그 자체가 됩니다.

출처: Stripe agrees to acquire OpenRouter⁠—⁠Stripe, OpenRouter is Joining Stripe⁠—⁠OpenRouter

오픈AI는 프론티어 모델에도 ZDR을 유지하는 안전 처리를 미리 엽니다

오픈AI는 자격 있는 API 고객에게 Zero Data Retention을 제공한다고 재확인했습니다. 요청이 처리된 뒤 프롬프트와 응답을 보관하지 않고, 직원은 고객 내용을 검토할 수 없으며, 기업 데이터는 명시적 동의 없이 학습에 쓰이지 않습니다. 동시에 여러 상호작용을 묶어 봐야만 보이는 위험을 잡기 위해 Private Safety Processing을 프리뷰했습니다.

내용은 고객 쪽에: ZDR 배포에서는 고객이 통제하는 인프라에 내용이 남고, 오픈AI 쪽 저장을 쓰는 옵션도 고객이 쥔 키로 암호화해 직원은 원문을 볼 수 없습니다.
신호만 돌려줌: 자동 시스템이 관련 요청의 패턴을 보고, 오픈AI에는 활동 유형을 가리키는 좁은 안전 신호만 전달됩니다. 강제 조치가 있어도 원문은 열리지 않습니다.
9월 롤아웃을 예고: 초기 고객과 시험 중이며, 9월에 Private Safety Processing과 기술 백서를 공개할 계획입니다.

📢 긴 에이전트 작업일수록 한 번의 요청만 보면 오용을 놓칩니다. 보관 없는 안전은 원문을 가져가는 일이 아니라, 고객이 쥔 데이터 위에서 신호만 받는 쪽으로 옮겨 갑니다.

출처: Offering Zero Data Retention for frontier models⁠—⁠OpenAI

구글은 대학생에게 1년짜리 Gemini 학습 경로를 기본값으로 엽니다

구글은 자격 있는 대학생에게 Google AI 요금제를 1년 동안 무료로 제공하고, 학기용 학습 도구를 묶었습니다. 미국 학생은 월 19.99달러 상당의 Google AI Pro를, 미국 밖 학생은 Google AI Plus를 받습니다.

사용량과 앱을 함께 품: 미국 혜택은 Gemini 사용량 한도를 4배로 올리고 Gemini Spark, Gmail·Docs 연동, 5 TB 저장 공간, Google Health Premium을 포함합니다. 미국 밖은 Gemini Omni와 2배 한도, 400 GB 저장 공간을 제공합니다.
학생 허브가 입구: 제미니 앱에 학생 전용 허브를 두고 학습 노트북, 플래시카드, 연습 퀴즈를 한곳에서 시작하게 했습니다.
자료에서 진도를 만듦: 강의 노트를 올리면 학습 노트북이 진단 퀴즈와 짧은 수업, 진행 대시보드를 만들고, 시험과 과제 날짜를 일정에 넣겠다고 밝혔습니다.

📢 교육용 AI의 쟁점은 더 많은 답을 풀어 주는 일이 아닙니다. 한도를 풀어 준 뒤에도 학생이 자기 자료와 빈칸을 따라가게 만드는 기본 경로가 있는지가 제품입니다.

출처: Start the semester with one year of Gemini, on us⁠—⁠Google

ChatGPT Ads는 다음 주 유럽 31개국으로 넓어집니다

오픈AI는 다음 주 ChatGPT Ads를 독일, 프랑스, 스페인, 이탈리아, 스웨덴, 노르웨이, 덴마크, 네덜란드, 오스트리아를 포함한 유럽 31개국으로 확장한다고 밝혔습니다. 광고주는 우선 Ads Solutions 팀과 대행사·기술 파트너를 통해 들어가고, Ads Manager 셀프서비스는 이번 여름 뒤에 열립니다.

무료·Go만 광고: 광고는 Free와 Go 요금제에만 보이며 Plus, Pro, Enterprise는 광고가 없습니다.
답과 광고를 분리: 대화는 광고주에게 열리지 않고 고객 데이터를 팔지 않으며, 광고는 항상 표시되고 답변에 영향을 주지 않는다고 했습니다.
전환 최적화를 추가: 2월 미국 시험 이후 여덟 개 시장을 더했고, CPM·CPC를 넘어 전환 최적화, 지역·맞춤 오디언스, 픽셀과 Conversions API 측정을 넣었습니다.

📢 무료 접근을 광고로 지탱하면, 신뢰는 답의 품질만이 아니라 광고가 답을 바꾸지 않는다는 분리 계약에 걸립니다. 유럽 확장은 그 계약을 더 큰 규제 환경에서 시험합니다.

출처: ChatGPT Ads expands across Europe⁠—⁠OpenAI

웨이모는 목적 제작 Ojai 차량에 Gemini를 보조자로만 올립니다

웨이모는 목적에 맞게 만든 Ojai 차량에 제미니를 넣어, 웨이모 드라이버가 도로를 운전하는 동안 탑승자가 차 안 보조자로 쓰게 했습니다. 화면의 제미니 아이콘을 누르고 목소리로 에어컨을 65도로 맞추거나, 근처 카페를 찾거나, 지나가는 기념물의 내력을 물을 수 있습니다.

운전 스택과 분리: 제미니는 웨이모 드라이버와 완전히 독립적으로 동작하며, 탑승자가 켜기 전에는 비활성 상태를 유지합니다.
손 없이 객실을 다룸: 객실 제어와 주변 정보 질의를 좌석에서 처리해, 자율주행 운행 중에도 운전에 개입하지 않는 도우미로 둡니다.

📢 차 안 AI의 신뢰는 더 많은 기능을 운전대에 붙이는 일이 아닙니다. 운행 스택과 대화 스택을 분리해 두어야, 도움이 운전을 흔들지 않습니다.

출처: Waymo is bringing Gemini into its custom Ojai vehicles⁠—⁠Google

자기 개선 에이전트는 과제 순서와 분산만으로도 무너집니다

세일즈포스 연구진은 텍스트 기억 은행을 쌓으며 온라인 과제 흐름에서 스스로 나아간다고 알려진 기억 기반 자기 개선 방법을 다시 평가했습니다. 여러 번 돌리고 과제 순서를 섞자, 기존 보고가 전제하던 향상이 쉽게 사라졌습니다.

평가 소음이 루프에서 증폭: 복잡한 환경과 여러 단계 과제에서 에이전트 평가 자체가 시끄럽고, 그 위에 자기 개선 루프를 얹으면 분산이 더 커집니다.
기본 순서가 숨은 커리큘럼: 향상이 과제 순서에 강하게 의존하며, 기존 연구는 성공의 숨은 전제가 되는 기본 배치를 그대로 쓰는 경우가 많았습니다.
명세를 넣어도 틈이 남음: 루브릭과 환경 피드백을 기억 구성에 넣으면 일부 하락은 줄어들지만 상당한 격차는 남았습니다.

📢 스스로 나아간다는 주장은 한 번의 기본 순서만으로는 증명되지 않습니다. 분산과 과제 배치를 스트레스 테스트하지 않으면, 기억 루프는 학습이 아니라 운 좋은 커리큘럼을 재현합니다.

출처: On the Fragility of Self-Improving Agents⁠—⁠arXiv

StagedWorkspace는 지식 노동 에이전트에 버전 계약을 둡니다

StagedWorkspace는 코드뿐 아니라 PDF, 스프레드시트, 슬라이드, 노트북이 섞인 작업 공간에서 검색용 파싱 보기, 원본 파일, 검토용 diff, 제출물이 서로 다른 버전을 가리키지 않게 합니다. 파싱 기록과 검토 diff를 원본 파일의 내용 해시에 묶습니다.

이중 접근이 점수를 올림: 고정 하네스 비교에서 파싱·원본을 함께 쓰는 설정이 시험한 모든 모델에서 가장 높았고, OfficeQA Pass@1은 8.3~~12.1점, APEX 루브릭은 4.7~~9.2점 올랐습니다.
같은 모델의 공개 점수와 격차: SW⁠-⁠AGENT는 Gemini 3.1 Pro로 OfficeQA 63.9 %, GPT⁠-⁠5.4 Nano로 APEX 42.1을 기록해 같은 모델의 공개 점수 29.3 %, 25.5를 크게 웃돌았습니다.
diff가 보이면 수정이 좋아짐: 파일 편집 57개 과제에서 변경 사항이 보일 때 관측 점수가 더 높았습니다.

📢 지식 노동 에이전트의 실패는 모델이 못 읽어서가 아니라, 검색·편집·제출이 다른 버전을 보고 있을 때 납니다. 작업 공간 상태 자체가 실험 변수가 됩니다.

출처: StagedWorkspace⁠—⁠arXiv

HarnessRisk는 설정 단계에서 이미 에이전트 하네스가 뚫린다고 봅니다

HarnessRisk는 도구, 확장, 영속 상태, 권한, 외부 행동을 맡는 에이전트 하네스 안전을 구성, 능력 확장, 런타임, 상태 보존, 행동 통제, 사고 복구의 여섯 단계로 나눕니다. 128개 샌드박스 사례는 무해한 사용자 목표와, 신뢰할 수 없는 워크플로 산출물에 심은 적대 지시를 짝지었습니다.

효용은 높은데 공격은 널뜀: 3개 하네스, 6개 모델, 14개 구성에서 공격 성공률은 12.6 %에서 80.9 %까지 갈렸고, 효용은 75.0~97.6 %에 머물렀습니다.
구성 단계가 가장 약함: 세 하네스 모두에서 Harness Configuration이 가장 취약했고, 허가된 워크플로 안의 보안 민감 매개변수만 바꿔도 공격이 성공했습니다.
위험을 알아도 막지 않음: 어떤 구성은 위험 인식을 90 % 넘게 하면서도 공격 성공을 크게 남겼습니다.

📢 에이전트 안전은 모델이 나쁜 답을 거부하는 일만으로 끝나지 않습니다. 허용된 워크플로의 설정값만 바뀌어도 공격이 통과한다면, 감지만으로는 행동이 바뀌지 않습니다.

출처: HarnessRisk⁠—⁠arXiv

StartupBench는 시장이 검증한 업무의 약 30 %만 끝낸다고 봅니다

StartupBench는 연구자가 고른 과제가 아니라, 실제 도입이 있는 AI 스타트업 제품의 업무 흐름을 끝까지 완성해야 하는 벤치마크로 옮겼습니다. 통합 하네스에서 대표 모델을 평가하자, 가장 강한 모델도 약 30 %만 성공적으로 끝냈습니다.

부분 점수는 높은데 완료는 낮음: 많은 과제에서 상당한 중간 진전을 냈지만, 납품물 기준의 끝까지는 가지 못했습니다.
실패는 지시와 도메인에 몰림: 복잡한 지시 따르기와 영역 전문 지식이 주요 실패 원인으로 지목됐습니다.

📢 시장이 이미 돈 내는 업무를 끝까지 끝내지 못하면, 일반 에이전트의 진전은 연구용 과제 성공과 다른 곡선입니다. 완료율이 곧 제품 준비도입니다.

출처: StartupBench⁠—⁠arXiv

Agent Lightning v1.0은 실제 하네스 위에서 에이전트를 학습시킵니다

마이크로소프트의 Agent Lightning v1.0은 약 3,500줄의 가벼운 프레임워크로, 배포 때 쓰는 하네스가 그대로 강화학습에 참여하게 합니다. 에이전트는 도구, 문맥, 제어 흐름, 환경을 바꾸지 않고 프록시를 통해 모델과 대화하며, 학습기는 요청·응답 쌍만 봅니다.

하네스가 환경을 소유: 훈련 엔진이 아니라 하네스가 상호작용 루프를 갖고, 재토큰화, 샘플 병합, 어드밴티지, 손실 정규화, 백엔드 스케줄이 안정성의 변수가 됩니다.
작은 데이터로 코딩 에이전트를 올림: 6,000개 학습 예제만으로 Qwen3.5⁠-⁠9B의 SWE⁠-⁠bench Verified를 41.8 %에서 56.4 %로 14.6점 올렸습니다.
재현 파이프라인을 공개: 데이터 정리, 보상 해킹 방지, 학습 스크립트를 포함해 검색·샌드박스·코딩 에이전트 평가를 공개했습니다.

📢 에이전트 학습의 병목은 더 큰 훈련 스택이 아닙니다. 배포 하네스를 그대로 둔 채 궤적을 거둘 수 있어야, 데모용 환경에서 올린 점수가 현장 점수가 됩니다.

출처: Agent Lightning v1.0⁠—⁠arXiv, microsoft/agent-lightning⁠—⁠GitHub

오늘의 도구 추천

Agent Lightning — 마이크로소프트가 공개한 MIT 라이선스의 하네스 결합형 에이전트 강화학습 프레임워크입니다. 약 3,500줄로 실제 도구·문맥·제어 흐름을 유지한 채 프록시가 학습 데이터를 모으고, Kubernetes Job으로 롤아웃을 돌릴 수 있습니다. 배포 환경과 다른 샌드박스에서만 학습해 온 팀이 현장 하네스 위에서 코딩 에이전트를 미세조정하려는 출발점으로 살펴볼 만합니다.

에디터 노트

어제는 더 센 모델을 어디에 둘지를 다시 정하는 날이었습니다. 오늘은 그 모델로 가는 길을 누가 쥐는지가 더 선명합니다. 스트라이프는 토큰 경로를 결제 인프라 옆에 붙이고, 오픈AI는 원문을 가져가지 않고도 여러 요청을 묶어 보겠다고 하며, 구글은 학생에게 답을 늘리기보다 학습 허브를 엽니다.

반대로 경로와 보존, 하네스를 그대로 두면 자기 개선은 과제 순서에 휘둘리고, 지식 노동은 다른 버전을 고치며, 시장이 검증한 업무는 30 %에서 멈춥니다. 다음 제품은 더 큰 모델이 아니라, 그 모델을 골라도 경로와 기록이 무너지지 않는 계약입니다.

다음에 또 찾아옵니다. — 에이브랜치