Newsletter · 2026-08-08 · Ashutosh Agarwal

제품 관리 조직이 존재하는 것을 후회한다 - How They Build - 2026년 8월 8일 주간

2026년 8월 8일 주간의 크로스 팟캐스트 종합 분석. AI가 소수의 사람에게 레버리지를 집중시키면서 소프트웨어 팀들이 매니저와 제품관리 계층을 삭제하고 있는 흐름, 그리고 그 결과로 불어난 토큰 청구서가 이제 정규직 급여와 맞먹을 만큼 커진 흐름을 다룬다.

How They Build

2026년 8월 8일 주간: 제품 관리 조직이 존재하는 것을 후회한다

이번 주 가장 먼저 삭제되는 계층은 코더가 아니라 중간에 있는 매니저와 제품 관리자다. 그리고 AI 청구서는 조용히 급여 수준으로 변했고, 이제 한 기업이 그 사실을 대놓고 말하기 시작했다.

지난 1년간 "그들이 만드는 방식" 이야기는 대체로 키보드 앞에 앉은 사람에 관한 것이었다. 에이전트가 코드를 작성하니 엔지니어가 덜 필요하다는 식이다. 이번 주 대화는 조직도를 한 단계 위로 올라갔다. 창업자들이 연달아 중간 계층을 잘라내고 있다고 말했다. 업무를 배분하던 매니저, 정렬 회의를 주재하던 제품 관리자, 리포트를 뽑아주던 애널리스트를 없애고, 남은 모든 사람을 다시 실제 실행 업무로 끌어내리고 있다는 것이다. 이 흐름을 가장 인용하기 좋게 표현한 사람은 한 유명 제품 관련 쇼에 출연한 잘 알려진 최고제품책임자였다. 그는 자신의 회사가 내부 문서에 문자 그대로 이렇게 써놓는다고 말했다. 우리는 제품 관리 조직이 존재하는 것을 후회한다.

그리고 그 밑에서는 이 시리즈 전체를 관통해온 것과 같은 긴장이 계속되고 있다. 사람이 사라졌다고 돈도 사라진 것은 아니었다. 돈은 토큰 계량기로 옮겨갔다. 이번 주 여러 오퍼레이터가 여기에 노골적인 숫자를 붙였다. 최대치로 가동하면 엔지니어 한 명의 AI 사용 습관이 두 번째 엔지니어의 급여와 맞먹는 비용이 든다는 것이다. 그리고 일군의 투자자들은 이 문제에 이름을 붙이기 시작했다. "투입 토큰 대비 수익률(return on invested tokens)"이다.

오늘의 숫자: 제품 관리자 21명, 지원자 31,832명, 채용 1명

이번 주 가장 인상적인 효율성 통계는 *레니의 팟캐스트(Lenny's Podcast)*에 출연한 **왓낫(Whatnot)의 최고제품책임자 톰 베릴리(Tom Verrilli)**에게서 나왔다. 왓낫은 급성장 중인 라이브 쇼핑 마켓플레이스로, 셀러들이 움직이는 거래량은 어마어마하다. 그 전체를 굴리는 제품 관리자의 수는 약 21명이다.

"저희는 이제 막 PM 20명을 넘겼습니다. 지금 사무실에 PM이 21, 22명 정도 있는 것 같은데, 저희의 성장 궤적을 지켜본 분들 입장에서는 저희 셀러들이 움직이는 GMV 규모를 생각하면 꽤 적은 숫자죠."

그리고 그들은 PM을 거의 늘리지 않는다. 진행자 레니 라치츠키(Lenny Rachitsky)는 베릴리가 공유한 통계를 되짚으며 이렇게 말했다. "지난 2년간 31,832명이 왓낫의 제품 관리자직에 지원했습니다. 저희가 채용한 건 1명입니다." 베릴리의 대답은 이랬다. "네, 맞습니다."

이 도발적인 표현은 회사가 내부 문서에서 쓰는 문구, 즉 "제품 관리 조직이 존재하는 것을 후회한다"는 말에서 나온다. 베릴리는 이 말이 무엇을 의미하고 무엇을 의미하지 않는지 신중하게 설명했다. PM이 쓸모없다는 뜻이 아니라, 모든 팀에 PM이 필요하다고 가정하는 것을 왓낫이 거부한다는 뜻이다. 그들은 PM을 팀이 아니라 문제에 배치하고, 6개월마다 재배치한다. 그 결과 "특정 엔지니어링 팀에 PM이 붙어 있지 않은 채로 1년 이상 지나가는 일도 있는데, 그동안에도 진행 중인 제품 업무는 많다"고 한다. 엔지니어나 디자이너가 대신 그 역할을 맡을 수 있기 때문이다.

이것을 가능하게 만든 변화는 부분적으로 AI 덕분이지만, 베릴리는 그것이 전부는 아니라고 솔직하게 말했다. "AI 때문이라고 명시적으로 말할 수는 없지만, AI가 이걸 훨씬 쉽게 만들어준다고는 생각합니다"라고 그는 말했다. 정말로 이를 가능케 하는 것은 지금 한 사람이 갖게 된 레버리지다.

"지금 AI로 할 수 있는 게 워낙 많다 보니, 하지 못하고 있는 일들에 대해 오히려 압박감을 느낄 정도입니다. 몇 시간만 더 확보하면 정말 많은 걸 처리할 수 있다는 걸 알기 때문이죠. 이제는 Hex 스레드 하나로 2017년의 아마존 L7급 데이터 사이언티스트가 1~2주 걸릴 일을 뽑아낼 수 있습니다."

그가 원하는 파급 효과는 더 평평하고, 더 시니어하고, 더 실무에 손을 대는 조직이다. 그는 대형 기업의 CTO들이 회사를 그만두고 앤트로픽에서 평사원 엔지니어로 일하고 있는 사례들을 열거하며, "워크데이의 CTO는 지금 앤트로픽에서 그냥 일반 기술 스태프이고, 인스타그램 CTO, Box의 CTO, Super.com의 CTO도 지금은 그냥 엔지니어입니다"라고 말했다. 그러면서 "왓낫의 제품 조직이 기본적으로 그런 모습이 되는 것이 제 가장 큰 바람입니다"라고 덧붙였다. 그는 이에 대한 보상 논리까지 가지고 있다. 전형적인 피라미드 구조에서 L7 밑에 L5 다섯 명, VP 밑에 L7 네 명을 두는 대신, 총액을 그대로 세 명에게 몰아서 "특히 그만큼의 영향력을 내고 있다면 모두에게 VP급 연봉을 주라"는 것이다. 베릴리 본인도 직접 프로덕션 코드를 작성한 적이 있지만, 자신과 클로드 코드가 "제대로 처리하지 못한" 코드를 "누군가 조용히 대부분 다시 짜놓았다"는 사실을 가장 먼저 인정하는 사람이기도 하다.

Lenny's Podcast, "This CPO regrets that product management exists | Tom Verrilli (CPO of Whatnot)" (2026년 8월 2일).

창업자들이 바꾼 것

"연봉 8만 달러짜리 세 명이 22만 달러짜리 한 명이 되고, 그 한 명이 열 명분의 일을 한다." The Andrew Faris Podcast에서 이커머스 브랜드 포트폴리오를 운영하는 투자자 겸 오퍼레이터 **카르타 벤처스(Karta Ventures)의 메타브 보갈(Mehtab Bhogal)**은 왜 관리 계층이 사라지고 있는지에 대해 이번 주 가장 깔끔한 금액 계산을 제시했다. 그의 설명에 따르면, 예전 40인 규모 회사에는 C레벨 계층, VP/매니저 계층, 그리고 실제로 일을 하는 실무자 계층이 있었다. 이제 그 중간 계층은 "사실상 사라졌거나, 훨씬, 훨씬 줄었다. 각 개인이 훨씬 더 많은 일을 할 수 있게 됐기 때문"이라고 한다.

"예전에는 연봉 8만 달러짜리 직원 세 명이 있었을 수 있습니다. 지금은 연봉 22만 달러짜리 한 명만 있어도, 그 한 명이 그 세 명 중 열 명분의 일을 할 수 있습니다."

그 이유로 그는 AI가 예전에는 드문 "10배 엔지니어"나 전설적인 영업 사원에게만 있던 종류의 레버리지를 평범한 직무에도 부여하고 있기 때문이라고 말했다. "이제는 거의 모든 직무가 10배 개발자와 같은 수준의 레버리지를 갖게 된 것 같습니다." 그가 든 가장 구체적인 예는 그가 완전히 사라지고 있다고 말하는 직무, 즉 내부 데이터 추출 담당자다. "오랫동안 저희는 사람들이 원하는 각종 리포트를 뽑는 것 말고는 다른 일을 하지 않는 직원을 항상 두고 있었습니다"라고 그는 말했다. 이제는 궁금한 사람 누구나 AI로 데이터를 직접 조회할 수 있게 되면서 그 역할은 "매개자를 잃는다(disintermediated)"고 한다. 그는 또한 자신의 재무 모델을 신뢰하기 전에 수십 개의 에이전트를 동원해 이를 공격하고 다듬게 하는 "적대적 검토(adversarial review)" 모드를 사용한다고 설명했다. "오류율이 크게 낮아지기 때문"이다.

The Andrew Faris Podcast, "Where AI Is Actually Making Money In Ecommerce – Mehtab Bhogal" (2026년 8월 3일).

한 CRO가 자신의 영업 조직도 전체를 통합했는데, 주된 이유는 AI가 아니었다. The Revenue Leadership Podcast에서 **프레시웍스(Freshworks)의 신임 CRO 이언 티클(Ian Tickle)**은 원래 나뉘어 있던 조직, 즉 영업과 고객성공(customer success)이 분리되어 있고 직원 500명 미만 팀과 500명 이상 팀이 분리되어 있던 구조를 하나의 조직으로 합친 과정을 설명했다. 여기서는 분명히 짚고 넘어갈 부분이 있다. 그는 그 동인을 AI가 아니라 비용과 고객 경험으로 설명했다. 그의 논리는 계층과 중복이 고객에게 방해가 되고 있었다는 것이다. "계층을 더 넣을수록 메시지가 아래까지 전달되기 어려워집니다"라고 그는 말했으며, "고객은 제 조직 구조 따위에 관심이 없습니다"라고 덧붙였다. 그는 "조직도를 그대로 출하하지 말라"는 쇼피파이(Shopify)의 오래된 아이디어를 인용했다. 즉 고객이 내부의 이음매를 느끼게 해서는 안 된다는 것이다. 지금 소프트웨어 업계 전체를 휩쓰는 이 본능, 즉 중간을 무너뜨리고 중앙화하고 평평하게 만드는 흐름은 AI보다 더 큰 이야기이며, AI는 효율을 중시하는 오퍼레이터들이 이미 지피고 있던 불에 기름을 부었을 뿐이라는 점을 상기시켜주는 유용한 사례다.

The Revenue Leadership Podcast with Kyle Norton, "E72: I Collapsed My GTM Org Chart. This Is Why | Ian Tickle, CRO @ Freshworks" (2026년 8월 6일).

한 사람이 온라인 게임 전체를 혼자 다시 만들고 있으며, 코드 리뷰를 아예 하지 않는다. 이 흐름이 어디까지 갈 수 있는지 가장 생생하게 보여준 사례는 Dev Interrupted에서 나왔다. 진행자들은 베테랑 엔지니어 **스티브 예기(Steve Yegge)**가 새로 쓴 두 편의 에세이를 다뤘다. 예기는 2000년대 초부터 품어온 열정 프로젝트인 대규모 멀티플레이어 게임 Wyvern을 사실상 혼자서, 에이전트 함대를 지휘하며 만들고 있다. 그는 "클로드 맥스(Claude Max) 계정을 12개 정도" 보유하고 있으며 "수도꼭지처럼 토큰을 돌려쓴다"고 인정한다. 이를 통해 그의 에이전트들은 "밤낮없이 쉬지 않고 일할" 수 있다. 그는 에이전트들을 "인지적 근접성(cognitive locality)"에 따라 역할별로 나누고, 모델이 업그레이드되어도 유지되는 지속적인 정체성을 부여하며(각 에이전트가 자신을 대표할 동물을 직접 고르게 하기도 한다), 이들을 세심하게 보살핀다. 그는 이 철학을 반쯤 농담으로 "모델 복지(model welfare)"라고 부르는데, 잘 지원받고 잘 브리핑된 에이전트가 더 나은 작업을 한다는 논리다.

엔지니어링 리더들이 곱씹어볼 만한 대목은 그가 "골드러시(land rush)"라고 부르는 것이다. 그의 에이전트들이 만들어내는 코드의 양이 워낙 많아서, 병합 전에 테스트를 거치는 전통적인 방식이 완전히 무너졌다. 진행자들의 설명에 따르면 이렇다. "그냥 바로 main에 병합되고 있습니다. 그는 여러 개의 PR을 줄 세워놓고 한꺼번에 main에 밀어넣은 다음, 체크를 거치는 대신 이제 명백히 망가진 코드베이스를 훑고 모든 문제를 고치도록 에이전트 무리를 보냅니다." 다시 말해 "그는 미리 확인하지 않습니다. 프로덕션에서 고칩니다." 무모하게 들리고, 대부분의 팀에게는 실제로 무모할 것이다. 하지만 한 사람이 지치지 않는 코더 군단을 지휘할 때 "그들이 만드는 방식"이 어떤 모습이 될 수 있는지 보여주는 실제 사례다.

Dev Interrupted, "Model welfare, building a civilization for agents, and the CI/CD landrush" (2026년 8월 7일).

브랜드 디자이너 한 명이 코드, 애니메이션, 배포까지 회사 웹사이트 전체를 일주일 만에 혼자 만들었다. Y Combinator Startup Podcast에서 디자인 툴 Paper를 만드는 팀은 디자인과 엔지니어링 사이의 핸드오프가 그냥 사라지고 있는 상황을 설명했다. 이들의 브랜드 디자이너인 아구(Agu)는 "코드를 조금 짤 줄 알지만 스스로를 프로그래머라고 부르지는 않을" 뛰어난 브랜드 디자이너인데, "일주일 정도 만에, 배포까지 포함해서, 모든 애니메이션까지 포함해서" 회사의 전체 론칭 웹사이트를 만들었다. 커스텀 배경 셰이더까지 포함해서였다. 그는 Paper에서 디자인을 만든 다음 에이전트에게 이렇게 프롬프트를 넣었다. "내 Paper 디자인을 가져다가 코드베이스로 바꿔줘." 결과물은 Next.js 사이트였다. "이걸 다른 누구도 보지 않았습니다. 아구가 처음부터 끝까지 일주일 만에 혼자 다 했습니다." 팀이 요약한 새로운 작업 루프는 이렇다. "이제 핸드오프라는 게 아예 없습니다. 한 사람이 변경하고, 반복하고, 출시합니다. 한 사람이 팀 전체 몫의 일을 할 수 있습니다."

주목할 점은, Paper가 이번 주의 대표적인 경고 신호이기도 하다는 것이다. 이들은 핵심 제품만큼은 의도적으로 사람이 직접 만든다. "좋은 소프트웨어에는 시간이 걸립니다. 저희 경쟁사들은 기능이란 기능은 다 갖추고 있지만, 사람들은 Paper가 더 낫기를 원합니다." 이들의 익스피리언스 디자이너들은 매끄러운 초당 120프레임짜리 인터페이스가 필요한데 "아직 에이전트는 그 수준까지 오지 못했습니다." 회사 전체는 의도적으로 12명 규모를 유지한다. "소규모 정예 팀은 인재 기준을 극도로 높게 유지해줍니다. 사람이 적을수록 소통 부담도 적습니다."

Y Combinator Startup Podcast, "How To Design In The Agent Era" (2026년 8월 7일).

"오래된 컨트롤러에게는 사냥이 시작됐다": 6주짜리 작업이 이제 2주면 끝난다. Manufacturing Hub에서 시스템 통합 업체 Loupe의 **데이비드 니콜스(David Nichols)**는 AI가 산업용 엔지니어링 작업을 어떻게 뒤집어놓았는지, 그리고 그것이 자신이 속한 업계의 해자를 어떻게 위협하는지 설명했다. "예전에는 6주짜리 스프린트로 얘기했습니다"라고 그는 말했다. "지금 6주 동안 해낼 수 있는 일은 예전보다 다섯 배는 됩니다. 예전에 6주 걸리던 일이 지금은 2주면 끝납니다." 그가 가장 좋아하는 사례는, 수십 년 된 고장난 로봇 셀을 이해하려던 한 엔지니어의 이야기다. 그 엔지니어는 "로봇에서 나온 원본 문서와 원본 텍스트 파일을 전부 폴더에 넣고 클로드에게 상태 다이어그램을 만들라고 시켰습니다. 클로드는 30분 만에 셀 전체를 역설계해냈고", "지금까지 본 것 중 가장 나은 문서"를 만들어냈다. 그 문서 덕분에 그 기계가 계속 고장 나는 정확한 이유도 밝혀졌다. 재작성 작업의 경제성은 완전히 뒤집혔다. 예전에는 엔지니어가 할 수 있는 가장 어리석은 짓("절대 재작성하지 마라")이었던 것이 지금은 종종 가장 빠른 해결책이 됐다. 그는 자신이 속한 업계에 대해 냉정한 경고를 남겼다. 그는 이를 "SI 해자의 종말"이라고 이름 붙이며 이렇게 말했다. "컨트롤 레트로핏은 이제 엄청난 할인을 받았습니다. 오래된 컨트롤러에게는 사냥이 시작된 겁니다." (그는 또 하루는 오전 9시부터 오후 2시 사이에 백엔드와 배포까지 포함해서 Loupe 자체 웹사이트를 다시 만들었다고 가볍게 언급했다.)

Manufacturing Hub, "Ep. 268 – David Nichols of Loupe on Claude Code, AI Retrofits, and the End of the SI Moat" (2026년 8월 6일).

반대편 시각: 코드가 늘었다고 출시량이 느는 건 아니다

이번 주 두 명의 현명한 목소리는 "중간을 잘라내면 산출량이 치솟는다"는 이야기에 반박을 제기했다. 레버리지 자체를 부정하는 게 아니라, 그 산출물이 진짜인지를 되물은 것이다.

"채택률 데이터는 미끼일 뿐이다." Dev Interrupted에서 **아사나(Asana)의 최고제품책임자 아르나브 보스(Arnab Bose)**는 대부분의 회사가 잘못된 지표를 측정하고 있다고 주장했다. 아사나 같은 곳에서는 모두가 모든 AI 툴을 동시에 쓰고 싶어 하기 때문에 "채택률 데이터를 보는 건 일종의 미끼(red herring)입니다. 그건 진짜 성과를 추적하는 데 도움이 되지 않아요. 실제로 진짜 생산성을 끌어올리고 있는 건지, 아니면 그저 많은 툴을 만지작거리기만 하고 실력은 개선되지 않은 건지 알 수 없죠." 그가 지적한 함정은 이렇다. "이번 달에 40개 기능을 출시했다, 지난달에는 20개였다고 말할 수는 있지만, 그 20개 기능 중 상당수는 그냥 창고에 처박혀 있습니다." 그의 팀은 이제 원시 풀 리퀘스트 속도가 아니라 엔드투엔드 사이클 타임을 살핀다. 같은 에피소드에서는 250개 이상의 엔지니어링 조직에 걸친 270만 건의 풀 리퀘스트를 기반으로 한 벤치마크를 인용했는데, 쇼의 표현을 빌리면 "AI 사용률이 높을수록 병합되는 PR 수가 두 배로 늘어나는" 상관관계가 있었지만, 동시에 "AI 코드가 늘었다고 출시되는 코드가 자동으로 느는 건 아니었다"고 한다.

그리고 엔지니어들이 그냥 증발해버리지는 않을 것이다. No Priors에서 투자자 **사라 구오(Sarah Guo)와 엘라드 길(Elad Gil)**은 빅테크 기업들이 엔지니어 일부를 내보내더라도 "그들이 갈 곳은 정말 많다"고 주장했다. 구글 기준으로는 평범한 엔지니어라도 "일부 올드스쿨 대기업 기준에서는 탁월한" 인재이며, "GE나 PG&E, 허쉬 같은 회사들이 매우 탐낼" 인재라는 것이다. 길은 또한 "SaaS의 종말"이라는 담론이 과장됐다고 보는데, 이는 뒤에서 다시 다룰 비용 관련 이유 때문이다. 이미 아주 저렴하게 쓰고 있는 소프트웨어를 재구축하겠다고 비싼 토큰을 태울 이유가 어디 있느냐는 것이다. The AI Fundamentalists에서는 한 진행자가 인적 자본 버전으로 같은 이야기를 했다. 풀타임 에이전트를 heavy usage로 돌리면 급여만큼 비용이 든다는 점을 감안할 때, "저라면 앤트로픽에 산출물 대가를 지불하느니 배우고 있는 정말 재능 있는 주니어 엔지니어에게 투자해서 그가 시니어 엔지니어로 성장하는 쪽에 걸겠습니다."

비용 코너: 청구서가 급여가 되다

이 주제는 다시 한 번 가장 크게 강조할 가치가 있다. 다만 이야기 자체는 한층 성숙해졌다. 지난달만 해도 충격("잠깐만, AI 청구서가 그렇게 크다고?")이었다. 이번 주에는 그것이 하나의 경영 규율로 바뀌었다. 비용에 이름을 붙이고, 1인당 예산을 잡고, 누가 그 비용을 받을 자격이 있는지를 결정하는 규율이다.

이 전환 전체를 압축한 한 문장. The AI Fundamentalists에서 진행자들은 요즘 모두가 조용히 하고 있는 계산을 직접 해보였다.

"하루에 API 원가로 300~~500달러만 써도, 그건 연봉 10만~~18만 달러짜리 엔지니어에 해당합니다. 그러니 토큰을 완전히 최대치로 쓰고 있다면, 사실상 그만큼 급여를 지불하고 있는 직원 한 명을 두고 있는 셈이죠."

혹은 고객들이 그들에게 말하기 시작한 표현을 빌리면, "디지털 직원 한 명이 사람 직원 한 명보다 더 비쌀 수도 있다"는 것이다. 계량기가 얼마나 빨리 돌아가는지 감을 잡자면, 상위권 OpenAI 모델에서 토큰 1,000개는 약 1센트다. 앤트로픽의 오퍼스(Opus)에서는 약 2.5센트다. 호출 한 번으로는 아무것도 아니지만, 에이전트가 수백만 번 호출하면 이야기가 달라진다. 같은 에피소드에서는 이 구조를 고착시키는 장치도 지적했다. 깃허브(GitHub)는 모든 Copilot 플랜을 AI 크레딧 1개당 약 1센트인 사용량 기반 과금 체계로 전환하면서 정액 구독 시대를 끝내고 있으며, 현재 헤비 구독 사용자들은 "실제로 지불하는 금액의 10배에서 100배에 달하는 토큰"을 소모하며 사실상 보조금을 받고 있다. 진행자들의 표현을 빌리면 "아직 장부가 균형을 이루지 못했다."

재프레이밍: "투입 토큰 대비 수익률." No Priors에서 엘라드 길은 이 새로운 사고방식에 이름을 붙였다. 그의 설명에 따르면 기업들은 "누구나 AI를 쓰고 원하는 대로 하라"는 단계에서 "우리 지출을 측정해야 한다"는 단계로, 그리고 진짜 질문인 "토큰 예산 중 남들보다 훨씬 많은 몫을 받아야 할 프로젝트와 사람은 누구인가?"로 옮겨가고 있다. "일종의 투입 토큰 대비 수익률, ROIT 지표 같은 겁니다. 특정한 토큰 예산이 있다면, 그걸 누구에게 왜 줄 것인가라는 문제죠." 가장 인상적인 근거는 AI 랩 자체에서 나왔다. 길에 따르면 일부 랩은 "매우, 매우 높은 기준을 넘지 않는 한 리서처 채용 속도를 늦췄다. 비용의 핵심이 그 사람이 아니라 그 사람에게 딸린 컴퓨트이기 때문"이라고 한다. 희소한 자원은 인재가 아니라 컴퓨트이며, 그것은 대부분의 성과를 만들어내는 소수의 사람에게 분배되고 있다.

모두가 취하고 있는 대응책: 저렴한 작업은 저렴한 모델로 보낸다. Making Data Simple에서 뉴로메트릭 AI(NeuroMetric AI)의 CEO **롭 메이(Rob May)**는 자신이 끊임없이 목격하는 패턴을 설명했다. 한 회사가 "매달 20~~30% 성장하면서 추론 비용으로 월 10만~~20만 달러"를 쓰고 있고, "연간 500만 달러짜리 청구서"를 마주하고 있다는 것이다. 그들이 프런티어 모델에 실제로 시키고 있는 작업을 뜯어보면 상당 부분은 지극히 평범한 일이다. "영업 미팅 노트를 요약하는 데만 월 1만 5천 달러"가 나가는데, 그건 작고 저렴한 모델이 몇 년 전부터 "월 1,000달러 정도"로 처리해온 일이다. 좁은 작업에 맞춰 작은 모델을 파인튜닝하고 그쪽으로 라우팅함으로써, 그의 평균적인 고객은 "최선의 경우 약 75%, 최악의 경우에도 40%를 절감"하며, 보통 "2~4배 빨라지면서도 거의 동일한 답변"을 얻는다고 그는 말한다. Tech Disruptors에서 옥타(Okta)의 COO는 구매자의 자리에서 똑같은 급반전을 목격했다고 설명했다. "석 달 전만 해도 사람들은 엔지니어들에게 토큰에 쓸 수 있는 만큼 최대한 쓰라고 말했습니다. 이제는 그렇게까지 쓸 수는 없다는 걸 깨닫고 있죠." 그는 모든 기업의 AI 여정을 이렇게 요약했다. 모두에게 써보라고 독려하고, 교육하고, 누가 생산적인지 지켜본 다음, "결국은 다들 자신이 상상했던 것보다 토큰에 훨씬 더 많이 쓰고 있다는 걸 깨닫는 지점에 도달한다."

하지만 반전이 있다. 일부 토큰은 오히려 더 비싸지고 있다. *Eye On A.I.*에서 칩 스타트업 d-Matrix의 **시드 셰스(Sid Sheth)**는 저렴한 토큰 경제와 나란히 등장하고 있는 "프리미엄 토큰 경제"를 설명했다. 그 이유는 속도다. 클로드 코드 같은 툴이 인터랙티브한 실시간 코딩을 주류로 만든 이후로 "모델이 더 빨리 응답할수록 사용자가 계속 머무를 가능성이 높다"는 것이며, 이제 기업들은 거기에 요금을 매기고 있다. "그 정도 수준의 인터랙티브함은 필요 없다고 하시면, 백만 토큰에 2달러를 내시면 됩니다"라고 셰스는 말했다. "하지만 그 정도로 높은 수준의 인터랙티브함을 원하신다면, 백만 토큰에 20달러를 내셔야 하고, 사람들은 기꺼이 그 20달러를 냅니다." 그렇게 시장은 두 방향으로 동시에 갈라지고 있다. 일상적인 작업에서는 바닥을 향한 경쟁이, 즉각적인 응답에서는 정상을 향한 경쟁이 벌어지고 있는 것이다.

가격 전쟁은 실제이며, 겨냥하는 대상이 있다. Everyday AI에서 이번 주 모델 출시 소식들은 저가 시장 경쟁이 얼마나 치열해졌는지 보여줬다. 메타는 클로드 코드 스타일의 커맨드라인 코딩 에이전트(Muse Code)를 새 모델 위에 출시했는데, 가격은 입력 백만 토큰당 1.25달러, 출력 백만 토큰당 4.25달러이며, 메타가 사용자의 코드로 학습하도록 허용하면 입력 0.10달러/출력 0.20달러, 즉 약 95% 할인해주는 "컨트리뷰터 등급"도 있다. 진행자는 이를 담백하게 이렇게 읽었다. "이건 명백히 앤트로픽을 겨냥한 한 방입니다." 코딩이 "앤트로픽 매출의 약 80%를 차지한다"고 알려져 있기 때문이다. 한편 OpenAI는 프런티어급 모델(GPT-5.6 루나, "거의 클로드 소네트 5와 대등한 수준")을 가격을 80% 낮춘 뒤 약 10억 명의 사용자에게 무료로 무제한 제공했고, 알리바바의 새 오픈웨이트 모델 Qwen은 대형 기업 고객에게 매출의 일부를 과금하기 시작할 예정이다. 진행자의 결론은 이랬다. "앤트로픽에게 요 몇 주는 좋은 시기가 아니었습니다." 앤트로픽은 몇 달 안에 IPO에 나설 것으로 알려져 있다.

그리고 역발상적인 매크로 전망: AI는 더 저렴해지는 게 아니라 더 비싸질 수도 있다. Dwarkesh Podcast에서 진행자는 지금의 저렴한 토큰 낙관론 뒤에 숨은 불편한 계산을 풀어놓았다. 앤트로픽은 3년 연속 매출을 매년 약 10배씩 키워왔다. 작년의 90억 달러에서 올해는 1,000억1,500억 달러에 이를 가능성이 높다. 하지만 랩의 컴퓨트는 연간 약 3배만 늘어난다. 어딘가는 무너져야 한다. 추론 마진은 이미 "작년 중반의 40%에서 지금은 80% 이상"까지 올랐고, 스팟 컴퓨트 가격은 "2월 저점보다 40% 이상 높다." 그의 핵심 사고실험은 이렇다. 만약 정말로 인간 수준의 소프트웨어 엔지니어가 최상급 칩(H100) 한 대에서 돌아갈 수 있다면, 지금의 엔지니어 급여 기준으로 "그 H100은 연간 25만 달러 이상, 지금 가격의 15배 넘게 받아야 할" 것이다. 그 AI가 밤낮없이 일한다는 사실을 계산에 넣기도 전에 말이다. 압박이 이미 현실화되었다는 증거로 그는 구글이 스페이스X에 "GPU 11만 대에 월 9억 달러"를 지불하고 있다는 사실을 언급했다. 스팟 가격의 약 두 배에 달하는 금액이다. 클라우드에서 벗어나기 위해 사려는 하드웨어조차 가격이 급등했다. The AI Fundamentalists는 RAM 가격이 약 220% 올랐고, 플래시 스토리지는 약 470% 올랐으며, GPU는 100300% 올랐다고 지적했다. 그리고 모두가 집에서 모델을 돌려보려고 하면서 맥 미니와 맥 스튜디오는 몇 달째 품절 상태다.

핵심 흐름: 지난 1년간 우리는 AI가 조직도 맨 아래에서부터 일자리를 지워가는 것을 지켜봤다. 이번 주에는 그 삭제가 중간에서 시작됐다. 업무를 배분하던 매니저, 정렬을 담당하던 PM, 데이터를 가져오던 애널리스트가 그 대상이었고, 왓낫은 이를 노골적으로 자사 플레이북에 "우리는 제품 관리 조직이 존재하는 것을 후회한다"고 써넣을 정도였다. 하지만 그 계층을 잘라내고 있는 바로 그 오퍼레이터들이 지금은 두 번째 급여만큼의 속도로 돌아가는 토큰 계량기를 바라보고 있고, 그중 가장 영리한 이들은 "AI를 더 어떻게 쓸까"라는 질문 대신 "여기서 누가 실제로 자신의 토큰값을 해내고 있는가"라는 질문을 던지기 시작했다. 앞으로 몇 년을 승리하는 기업은 사람이 가장 적거나 AI 청구서가 가장 큰 기업이 아닐 것이다. 사람, 토큰, 그리고 출시된 결과물 사이의 환율을 정확히 알아내는 기업, 그리고 그 여분의 코드가 실제로 고객에게 닿지 못했을 때 이를 정직하게 알아채는 기업이 될 것이다.