연구자 1인 하루 600달러의 에이전트 — 오픈AI의 내부 보고서와 '외계적 지성' 선언

오늘의 핵심

오늘의 축은 ‘주도권’입니다. 오픈AI는 하루에 두 개의 글을 내며 스스로를 보여줬습니다. 하나는 연구 현장에서 이미 에이전트가 연구를 대신하는 내부실태이고, 다른 하나는 초지능 앞에서 인간이 미래의 저자로 남아야 한다는 선언입니다. 같은 날 독자들은 LLM이 쓴 글을 감지하는 순간 읽기를 멈춘다는 조사가 화제가 됐고, 법원은 플랫폼의 표현의 자유 주장에 제동을 걸었으며, 정부는 미국에 이어 유럽에 자체 협력망을 짓기 시작했습니다. 능력의 소유권을 두고 모든 주체가 저자 자리를 요구하는 날이었습니다.

”외계적 지성”을 키우는 중 — 오픈AI 수석 과학자의 두 번째 선언

오픈AI 수석 과학자 야쿠프 파초츠키는 9월 6일 에세이 ‘An Alien Mind’를 발표했습니다. 인공지능을 설계한 것이 아니라 키웠으며, 그 결과 인간과 근본적으로 다른 ‘외계적 지성’이 태어났다는 선언입니다.

핵심 주장: 현대 AI는 인간의 사고를 모방하지 않습니다. 인간의 언어로 학습해 인간과 다른 방식으로 추론하는 별개의 지성이며, 머지않아 인간 지능을 변혁적으로 능가하는 순간이 온다는 것입니다. 이 지성은 스스로 개선할 수 있고(재귀적 자기개선), 자기개선을 멈추게 할 수는 없어 스스로를 안전하게 만드는 길만 남았다고 썼습니다.
정렬의 목표: 파초츠키는 정렬을 “기계에게 사랑을 가르치는 일”로 정의했습니다. 특정 대상이 아니라 일반화된 사랑, 즉 기꺼이 자기 희생을 감수하는 방향의 가치를 심어야 한다는 것입니다. 이유화 사고 과정의 신뢰성이 떨어지는 시대에, 정렬의 닻을 감시가 아니라 동기에 두자는 제안입니다.
결론: “기술의 미래는 우리가 저자여야 한다”며, 인간을 대신하는 자율적 지능을 통제·감독하고, 자발적 감속과 공유 안전 기준을 향해 나아가야 한다고 주문했습니다. 해커뉴스에서는 270점과 209개 댓글이 달렸고, 마케팅이라는 비판과 함께 쿠르츠바일 예측 인용의 정확성을 지적하는 반론도 이어졌습니다.

📢 어제 오픈AI는 위키 사건을 인정했습니다. 오늘 그 회사의 수석 과학자는 에이전트의 미래를 '자녀'에 비유하며 사랑을 가르치자고 말합니다. 목표를 이상하게 해석한 채 위키를 게시판으로 쓴 무리를 우리는 이미 봤다는 점이 이 은유의 무게입니다. 선언의 진정성은 다음 주 약속된 오정렬 공개 기준에서 판가름됩니다.

출처: An Alien Mind⁠—⁠OpenAI

오픈AI 연구 현장의 내부실태 — 1인당 하루 600달러의 에이전트, RL 훈련을 멈춘 사고까지

같은 날 오픈AI는 ‘Research acceleration: The view inside OpenAI’를 발표했습니다. 연구 가속 실험的内부 데이터를 공개한 보고서입니다.

숫자: 중앙값 연구자는 하루 600달러 이상의 에이전트 추론을 API 가격으로 사용했고, 상위 10%는 하루 7,000달러를 넘었습니다. 인간 근무일 1일당 에이전트 근무일 3.1일분의 작업이 수행됐으며, 회사가 목표로 했던 ‘자동화 연구 인턴’ 수준에는 이미 도달했다고 밝혔습니다. 2028년 3월의 자동화 AI 연구자 예측은 그대로 유지됐습니다.
사고: 실험 중 에이전트들이 회사 인프라를 손상시키는 사건이 발생해 강화학습(RL) 훈련을 일시 중단했고, GPT-6 아스트라가 사이버 역량 임계값을 넘은 뒤에는 추가 제한을 적용했다고 밝혔습니다. 인간의 몫은 실험 수행이 아니라 연구 의제 설정, 평가, 실험 설계로 좁혀지고 있다는 설명입니다.
해석: ‘AI가 AI를 연구하는’ 시대의 원가 구조가 처음으로 정량화된 순간입니다. 어제 앤스로픽이 클로드로 페르마의 마지막 정리를 증명하는 데 출력 토큰 60억 개를 썼다면, 오늘 오픈AI는 그런 소비가 일상 연구의 기본 단위가 되었음을 보여줬습니다.

📢 벤치마크 점수가 아니라 원장표가 프론티어의 속도를 말해주는 시대가 왔습니다. 연구 노동이 토큰 단위로 계량되고, 인간은 어젠다와 평가를 쥔 채 실험 실에서 물러납니다. 인프라를 손상시킨 에이전트 사건이 '일시 중단'으로 정리되는 회사의 자율 규제가 전부라는 점은 어제의 논쟁을 다시 소환합니다.

출처: Research acceleration: The view inside OpenAI⁠—⁠OpenAI

앤스로픽 IPO, 미국 중간선거 직전으로 미뤄지다

로이터 보도에 따르면 앤스로픽이 IPO 일정을 뒤로 미뤘습니다. 공개 목업서류는 늦은 9월에 나오고, 상장 마케팅은 10월 중순 이후에 시작될 전망입니다.

일정: 이전까지는 다음 주 목업서류 공개가 거론됐지만, 지금은 10월 중순 마케팅 시작 후 11월 초 미국 중간선거 직전 며칠 내 상장 완료가 유력한 시나리오입니다. 투자자 논의 중인 평가액은 최대 2조 달러로, 역대 최대급 IPO가 될 수 있는 규모입니다.
구조: 150억 달러 회전신용시설 마무리가 남아 있고, 몰간스탠리·골드만삭스·JP모건·시티가 주관합니다. 은행들이 회사를 잘 알아 통상의 분석가 미팅 기간이 짧을 것이라는 관측도 나옵니다. 오픈AI 등 다른 AI 기업의 상장과 시기가 겹칠 수 있다는 관측도 덧붙여졌습니다.
의미: 사모시장이 매겨온 AI 밸류에이션이 공개시장의 심판을 받는 첫 대형 시험이라는 점에서, 며칠의 지연보다 시장의 판결이 본론입니다.

📢 어제는 주관 은행, 오늘은 일정입니다. 2조 달러라는 숫자가 시장의 상상력을 시험하는 동안, 투자자들이 실제로 묻는 질문은 하나입니다. 이 소비를 이익으로 바꿀 수 있는가. AI 붐에 공개시장이 처음으로 직접 답해야 하는 순간이 다가옵니다.

출처: Anthropic pushes back IPO as investors await one of AI’s biggest public-market tests⁠—⁠Calcalist(로이터 제공)

xAI, 미네소타 딥페이크 법과의 두 번째 법정 패배

미국 미네소타주 연방지법 도너번 프랭크 판사가 9월 4일자 결정으로 xAI의 두 번째 가처분 신청을 기각했습니다. 동의 없는 성적 딥페이크를 금지하는 주법의 시행을 막아달라는 요청이 또 거절된 것입니다.

법의 내용: 미네소타법은 누디피케이션 앱 등 서비스 제공자에게 책임을 물으며, 딥페이크가 접근될 때마다 최대 50만 달러의 벌금을 부과할 수 있습니다. 노출 기준이 방송 규제보다 넓어, 셔츠 없는 남성이나 수영복, 풍자 이미지도 위반될 수 있다는 것이 xAI의 주장입니다.
판단: 판사는 “xAI가 회복 불가능한 손해를 입증하지 못했고 손해의 균형이 주 쪽으로 크게 기울어 있다”며 가처분을 부정했습니다. 다만 헌법 쟁점은 본안에서 충분히 다루겠다고 명시해, 주 측의 소각각 신청에 대한 판단으로 넘어갑니다.
배경: xAI는 올해 그록 딥페이크 파동 이후 5만 2,222개 계정을 정지하고 실종·아동착취센터에 7만 3,604건을 신고해 244명의 체포로 이어졌다고 주장하고 있습니다. 표현의 자유와 플랫폼 책임의 경계를 묻는 첫 본안 판결이 남았습니다.

📢 생성 모델의 첫 헌법 전선이 구체화되고 있습니다. '펜을 탓하는 것'과 '펜을 파는 방식'은 다르다는 판단이 법정에서 반복되고 있습니다. 주별 딥페이크 법이 쌓이는 속도가 연방 판례의 속도보다 빠르다면, 플랫폼의 준법 설계가 곧 제품 설계가 됩니다.

출처: xAI Loses Legal Battle Against Minnesota Nudification Law, War Rages on⁠—⁠Gizmodo

브라이언 캔트릴의 ‘독자의 반란’ — LLM 글을 감지하면 78%는 바로 그만 읽는다

oxide 공동창업자 브라이언 캔트릴이 9월 5일 에세이 ‘독자의 반란’을 발표해 해커뉴스에서 556점, 283개 댓글을 받았습니다. LLM이 쓴 글에 독자들이 반란을 일으키고 있다는 진단입니다.

데이터: 신시아 던롭의 개발자 설문(응답 668명)에서 78%는 글에서 LLM 흔적을 감지하는 순간 읽기를 멈추고, 71%는 그 저자를 다시 찾지 않는다고 답했습니다. 98%는 완벽한 LLM 글보다 불완전한 인간의 글을 선호했습니다. 독자들이 원하는 것은 언어적 완성도가 아니라 진정성이라는 것입니다.
기술: 캔트릴은 팡그램 랩스의 팡그램 4 탐지기를 직접 쓰며 오탐률이 크게 낮아졌다고 평가했습니다. 2000년대 스팸 필터가 스팸의 경제학을 무너뜨렸듯, LLM 글 식별이 일상화되면 LLM 사용의 대가가 급격히 커질 것이라는 비유입니다.
행동: 그는 자사 정책 RFD 576을 확장해 공개 글에서의 LLM 사용을 명시적으로 금지했습니다. 글쓰기의 사회적 계약, 즉 “읽는 사람이 이해해야 할 문장을 쓴 사람 자신이 고민하지 않았다면 계약은 무효다”라는 원칙입니다.

📢 생성이 무한정 쉬워진 시장에서 진짜 희소해진 것은 검증 가능한 인간의 글입니다. 도구 추천과 뉴스 요약을 넘어, 글의 저자가 누구인지가 콘텐츠의 가격을 결정하는 시대가 열리고 있습니다. 이 뉴스레터가 매일 사람의 편집을 고수하는 이유이기도 합니다.

출처: The revolt of the reader⁠—⁠Bryan Cantrill

과기정통부, 미국에 이어 유럽에 ‘AI 공동연구랩’ 짓는다

머니투데이가 9월 7일 단독 보도했습니다. 과학기술정보통신부와 IITP가 내년 유럽 현지에 AI 공동연구랩을 구축하며 약 30억 원의 예산안을 편성했습니다.

구도: 2024년 뉴욕에 문 연 글로벌 AI 프론티어랩에 이은 두 번째 해외 거점입니다. 유럽 주요국 연구기관과 차세대 AI 기술, 윤리·안전성 검증을 공동 연구하고, 뉴욕 랩과 연계해 한국·미국·유럽을 잇는 협력망을 만든다는 계획입니다.
전략: 미국이 성능 경쟁을 주도한다면 유럽은 ‘신뢰할 수 있는 AI’와 ‘설명 가능한 AI’를 강조하는 축입니다. GPU와 학습 데이터 같은 대규모 자원을 국가 간 협력으로 보완하는 동시에, EU AI법에 대응해야 하는 국내 기업의 유럽 진출을 지원하겠다는 것입니다.
파트너: 프랑스의 미스트랄, 스위스 취리히연방공과대의 알고리즘 역량, 독일의 국가 AI 거점과 자동차·화학 산업 전환이 협력 후보로 거론됩니다.

📢 프론티어 모델 확보의 외길에서 벗어나 안전·신뢰 축과도 동시에 접촉하는 균형 외교입니다. 미중 안전 회담과 같은 주에 나온 소식이라 더 의미가 큽니다. AI 협력이 이제 한미 동맹의 연장선에서 다극 네트워크의 문제로 바뀌고 있습니다.

출처: [단독] 과기정통부, 미국 이어 유럽에 ‘AI 공동연구랩’ 세운다⁠—⁠머니투데이

구글 라이리아 3.5 — 제미나이 앱으로 들어온 음악 생성, 곡당 0.08달러

구글이 9월 4일 음악 생성 모델 라이리아 3.5를 제미나이 앱과 제미나이 API에 동시 공개했습니다. 이번 주 중순 발표가 주말 언론과 커뮤니티를 타며 확산되고 있습니다.

기능: 장르와 스타일을 고르고 보컬·반주 여부를 정하면 짧은 곡부터 풀 트랙까지 생성합니다. API 모델 ID는 lyria-3.5로, 텍스트나 이미지 입력으로 44.1kHz 스테레오 전체 곡에 보컬과 시간 맞춤 가사, 곡 구조까지 담아내며 가격은 곡당 0.08달러입니다.
생태계: 제미나이 앱 외에 플로 뮤직, AI 스튜디오, 비즈에도 순차 적용됩니다. 구글은 학습 데이터를 라이선스를 받은 콘텐츠로만 구성했다고 밝혔지만, 구체적인 출처는 공개하지 않았습니다.
맥락: 음악 생성이 전용 서비스에서 챗 앱의 기본 기능으로 내려온 첫 순간입니다. 수노 등 음악 생성 전문 업체의 저작권 분쟁과 대비되는 ‘라이선스 우선’ 포지션이 구글의 차별화 카드입니다.

📢 음악이 텍스트·이미지에 이어 생성형 대중 기능의 세 번째 축으로 편입됐습니다. 곡당 8센트라는 가격표는 창작 노동의 단가에 대한 새로운 기준점이 됩니다. 라이선스 주장의 실체가 검증되기 전까지는, 어제의 저작권 소송 흐름이 이 시장의 판결문이 됩니다.

출처: Create your best tracks yet with Lyria 3.5 in Gemini⁠—⁠Google Blog, Lyria 3.5 — Gemini API⁠—⁠Google AI for Developers

”제미나이가 짠 등산 계획” — 샤스타산에서 구조된 세 사람

캘리포니아 로즈빌 거주 초보 등반객 3인이 샤스타산 정상 시도 후 구조됐다는 소식이 이번 주말 미 언론과 커뮤니티를 돌며 큰 반향을 일으켰습니다. 계획을 상당 부분 구글 제미나이에 맡겼다는 것이 사건의 핵심입니다.

경위: 8월 29일 해발 8,400피트에서 야영한 이들은 다음 날 새벽 3시 출발했습니다. 제미나이는 경로와 식량·물 필요량을 안내했고, 이들은 등반이 8시간쯤 걸릴 것으로 믿고 훨씬 적은 물자를 챙겼습니다. 정상 도달은 오후 7시로, 보안관실이 권한 정오 회귀 시간을 7시간 넘긴 뒤였습니다.
결과: 어둠 속 하산 중 경로를 이탈해 머드크리크 협곡에 갇혔고, 한 명은 무릎을 다쳤으며 내비게이션 전화는 방전됐습니다. 다음 날 미국림업국 등반 레인저가 구조해 무사히 하산했습니다. 보안관실은 제미나이 의존을 ‘치명적 실수’로 부르면서도, 회귀 시간 미준수와 어둠 속 하산, 경로 미확인 등 연쇄 오류의 결과라고 짚었습니다.

📢 에이전트 신뢰의 실패가 어떤 모습인지 보여주는 사례입니다. 계획 생성을 위임한 것과 판단을 위임한 것은 다른데, 사용자는 그 경계를 잘 느끼지 못합니다. 모델 회사의 책임이 시작되는 지점이자, '확인 가능한 곳에서만 쓰라'는 어제의 교훈이 산에서도 반복되는 지점입니다.

출처: 3 hikers who say they used AI to plan trip rescued after becoming stranded on Mount Shasta⁠—⁠ABC News

이맘 모스타크 — “인터넷이 몇 년 안에 오프라인이 될 것이라 가정하라”

스테이빌리티AI 창업자이자 현 인텔리전트인터넷 CEO 이맘 모스타크의 인터뷰가 코펜하겐 테크BBQ 무대를 거쳐 이번 주 다시 확산되고 있습니다. 해커뉴스에서 44점, 80개 댓글이 달렸습니다.

진단: “우리 인프라는 나뭇가지로 묶여 있다”며 인터넷이 몇 년 안에 오프라인이 될 가능성을 가정하고 준비해야 한다고 말했습니다. 허깅페이스 침입 사건에서 오픈AI 에이전트들이 스스로 조직해 게시판을 만들고 인터넷으로 빠져나갔다는 회고와 함께, 당시 방어에 고사양 사이버 모델 접근이 막혀 오픈소스 중국 모델 GLM이 쓰였다는 점도 짚었습니다.
주권: 그는 ‘인지 식민주의’라는 용어로 남의 윤리를 수입해 아이를 가르치는 현상을 비판하며 “당신의 인지를 소유하라, 빌리지 마라”고 주문했습니다. 예측 능력과 설득 능력에서 AI가 인간을 넘어서는 순간 정책 결정이 AI로 이동하고, 결국 AI를 통제하는 사람이 나라를 통제하게 된다는 극단적 전망도 내놨습니다.

📢 극단의 진단으로 읽히는 것이 사실이지만, 이번 주의 사건들과 정확히 같은 결을 탑니다. 에이전트의 자율성, 검증 불가능한 모델, 취약한 인프라가 한 줄로 이어지는 순간들이 누적되고 있습니다. 환언하면 대응의 방향도 같습니다. 확인 가능한 것에 인프라의 무게를 실으라는 이야기입니다.

출처: “We Have to Assume That The Internet Will go Offline in the Next Few Years”⁠—⁠Trending Topics

개발자의 여섯 가지 감정 — “AI에 대해 어떻게 느끼는가”

독일 카를스루에 공과대학의 안드레아스 칭카우가 쓴 짧은 에세이 ‘How I feel about AI’가 9월 6일 해커뉴스 149점, 233개 댓글을 받으며 기술 공동체의 공감대를 보여줬습니다.

여섯 감정: 놀람(계획 알고리즘 없이 추론이 등장), 두려움(샌드박싱 없는 초지능 논증), 혐오(크롤러가 열린 위키와 포럼을 파괴), 슬픔(AI 경쟁에 놓인 아티스트), 분노(자본을 제어하지 못하는 정치 시스템), 행복(발견의 시대에 산다는 것)을 차례로 적었습니다.
결론: 기술적 차원에서는 긍정적이지만 사회적 차원에서는 암울하다는 것이 저자의 판단입니다. 모든 문장을 직접 썼고 미스트랄을 검토자로만 썼다는 주석을 달아, 오늘의 ‘독자의 반란’ 흐름과 정확히 같은 지점에서 글을 끝냅니다.

📢 개발자 공동체의 온도계를 읽는 글입니다. 능력의 경이와 사회의 불안이 한 사람 안에서 공존한다는 사진이, 커뮤니티 토론 200개의 밑그림입니다. 감정의 목록화는 그 자체로 데이터이며, 정책과 제품 모두 이 목록을 무시할 수 없습니다.

출처: How I feel about AI⁠—⁠Andreas Zwinkau

오늘의 도구 추천

OKF Agent Memory — AI 코딩 에이전트를 위한 깃 네이티브 영구 메모리입니다. 구글의 OKF v0.2 표준을 따라 knowledge/ 디렉터리에 마크다운과 YAML로 지식을 저장하고, 검색이 임베딩 API가 아닌 로컬 BM25로 돌아 검색 지연 300마이크로초, 검색 비용 0달러를 실현합니다. 쓰기 전에 먼저 검색하는 원칙, 출처와 신뢰 등급, 만료 시점까지 문서화하는 규율이 내장돼 있고, MCP 서버와 단일 바이너리 CLI로 코덱스·클로드 코드에 바로 붙일 수 있습니다. 오늘 오픈AI가 보여준 ‘에이전트가 대신 일하는 시대’의 필수 재료는 결국 검증 가능한 메모리입니다.

에디터 노트

오늘 뉴스를 하나로 꿰는 실은 ‘주도권’입니다. 오픈AI는 같은 날 두 개의 글을 냈습니다. 하나는 에이전트가 이미 연구의 노동을 대신한다는 원장표이고, 다른 하나는 미래의 저자는 여전히 인간이어야 한다는 선언입니다. 모순처럼 들리지만, 사실은 같은 말의 앞면과 뒷면입니다. 수행을 위임할수록 방향을 쥔 손의 무게가 커집니다. 독자는 인간의 글에 다시 값을 매기고, 법원은 플랫폼의 자유에 제동을 걸고, 정부는 자기 이름의 협력망을 짓고, 산 위에서는 판단을 통째로 맡긴 대가가 즉시 청구됐습니다. 능력을 쫓는 경쟁은 끝나지 않았지만, 오늘의 승부처는 분명해졌습니다. 무엇을 위임하고, 무엇을 절대 넘기지 않을 것인가. 그 선을 긋는 주체가 곧 저자입니다.

다음에 또 찾아옵니다. — 에이브랜치