Newsletter · · Ashutosh Agarwal
OpenAI·브로드컴, 추론 전용 칩 'Jalapeño' 공개... 마이크론은 낙관적 전망치까지 상회
이번 호는 현장 오퍼레이터들의 증언이 중심이다. OpenAI와 브로드컴은 OpenAI의 첫 자체 설계 칩에 'Jalapeño'라는 이름을 붙였고, 마이크론은 낙관론자들의 전망치마저 뛰어넘는 실적을 냈으며, Lambda Labs는 시장이 일제히 모델링해온 GPU 감가상각 절벽이 실제로는 오지 않고 있다고 반박한다.
AI 가속기: GPU, 커스텀 실리콘, 그리고 광학 네트워킹
제003호, 2026년 6월 25일: OpenAI·브로드컴의 추론 전용 칩 'Jalapeño' 공개, 마이크론은 낙관적 전망치까지 상회
리서치 기간: 2026년 6월 18일~25일. 현장 오퍼레이터와 내부 관계자의 발언은 평론가의 견해와 구분해 표기했으며, 팟캐스트에서 언급되었으나 검증되지 않은 수치는 별도로 표시했다.
우리가 이 뉴스레터를 시작한 이래 가장 시끄러운 한 주였다. 이번 호를 지배한 것은 두 건의 현장 이벤트다. OpenAI와 브로드컴은 OpenAI의 첫 자체 설계 칩에 이름과 일정을 공식화했고, 마이크론은 셀사이드가 지금까지 나온 것 중 '메모리 벽(memory wall)' 논제를 가장 명확하게 뒷받침하는 숫자라고 부르는 실적을 내놓았다. 더 조용하지만 더 흥미로운 바이사이드의 논쟁은 이것이다. 시장이 일제히 모델링해온 GPU 감가상각 절벽이 실제로 일어나고 있는가. 현장의 오퍼레이터들은 아니라고 말한다.
커스텀 실리콘: 'Jalapeño'가 현실이 되다
이번 호 최대 뉴스는 브로드컴과 공동 개발해 6월 24일 공개된 OpenAI의 첫 자체 설계 프로세서 Jalapeño다. 이는 추측이 아니라 현장 오퍼레이터의 증언이다. Squawk on the Street에 출연한 OpenAI 사장 Greg Brockman은 이 칩을 엔비디아를 대체하지 않는 추론 전용 부품으로 정확히 규정했다. "이것은 처음부터 대규모언어모델(LLM) 추론을 위해 설계된 칩입니다… 설계부터 테이프 아웃까지 전 과정을 저희가 직접 진행했습니다. 9개월 만에 나왔는데, 이 업계 기준으로는 정말이지 놀라울 정도로 빠른 속도입니다." 그는 경계선을 분명히 그었다. "엔비디아는 저희의 트레이닝 파트너입니다. 대규모 프런티어 트레이닝은 전부 엔비디아에서 진행합니다." 그러면서 Jalapeño는 "철저히 추가적인(additive) 성격의 칩입니다. 수요를 따라잡을 만큼 컴퓨팅을 빠르게 확보할 수가 없다고 느낍니다"라고 덧붙였다.
같은 방송에 출연한 브로드컴 CEO Hock Tan은 이 순간을 커스텀 실리콘 선순환 구조를 입증하는 기회로 활용했다. "모든 모델 개발사, 모든 프런티어 LLM 개발사는 결국 자체 실리콘을 설계하고 만드는 방향으로 갈 것입니다." 수요와 관련한 그의 발언은 이번 호 전체에서 가장 공격적이었다. "저희 6개 고객사의 컴퓨팅 수요는… 그야말로 끝을 모릅니다." "이건 26년, 27년만의 이야기가 아닙니다. 28년에도 동일한, 아니 오히려 더 높은 수요를 보고 있습니다"(두 발언 모두 검증되지 않은 발언자 주장이며, Tan이 브로드컴의 XPU 고객사가 정확히 6곳이라고 밝힌 점도 유의해야 한다). Tan이 제시한 배포 일정은 2026년 말 프로토타입, 2027년 스케일업, 2028년 "전면 가동(full bore)"이다. Bloomberg Tech에서는 진행자가 "일반적인 AI GPU 대비 비용이 50% 낮다"는 회사 측 주장을 전달했는데, 이는 독립적으로 검증되지 않은 벤더 측 주장으로 봐야 한다. Brockman 본인은 구체적인 수치 언급은 피했고, "앞으로 몇 달 안에" 기술 보고서를 내겠다고만 약속했다.
또 다른 커스텀 실리콘 오퍼레이터는 2분기 실적 발표 직후 Bloomberg Tech에 출연한 Cerebras CEO Andrew Feldman이었다. 그가 제시한 아키텍처 관련 지적은 특히 기록해둘 만하다. Cerebras는 공급망을 옥죄는 세 가지 제약을 모두 피해간다는 것이다. "저희는 HBM을 쓰지 않습니다… 전 세계적으로 공급이 부족하고, 가격은 극도로 비싸며, 리드타임도 깁니다… 또 다른 제약은 CoWoS인데, 이는 TSMC 내부 공정입니다. 이것도 저희는 쓰지 않습니다. 세 번째는 3나노 공정의 캐파입니다… 저희는 5나노 공정을 씁니다." 보도된 수치(검증되지 않음)로는 2분기 매출 1억 9,100만 달러(전년 대비 +92%), OpenAI와의 "200억 달러가 넘는" 계약, 그리고 G42와의 10억 달러 계약이 있다. IPO 때 나왔던 자랑거리보다, 이번에 현장 오퍼레이터의 입을 통해 확인된 HBM 공급 부족이 훨씬 더 중요한 의미를 갖는다.
GPU: 오지 않는 감가상각 절벽(오퍼레이터의 말에 따르면)
이번 기간에는 엔비디아 로드맵 관련 새로운 세부 정보가 없었지만, GPU 관련 가장 값진 통찰은 대중적인 공매도 논리를 정면으로 반박한 한 현장 오퍼레이터에게서 나왔다. The MAD Podcast에서 Lambda Labs 공동창업자 겸 CTO Stephen Balaban은 GPU를 5년 만에 전액 상각해야 한다고 주장하는 회의론자들을 향해 "완전히 틀렸다"고 말하며, 실제 운영 데이터를 근거로 제시했다. Lambda가 2023년에 도입한 H100은 "지금이 2023년 초에 처음 대여했을 때보다 대여 요율이 더 높습니다"(검증되지 않음)라는 것이다. 그가 지적한 진짜 병목은 아래에서 다룰 전력 이슈와 일맥상통한다. 병목은 칩 공급이 아니라 "전력회사로부터 일정 메가와트 규모의 전력 공급을 확약받아 착공이 가능한 부지"라는 것이다. 그는 또 Rubin 세대가 배포 단계에 진입했으며 "B300, VR200이 곧 나온다"고 확인했다.
이 밸류에이션 재평가가 갖는 의미에 대해서는 평론가들의 의견이 갈렸다. Monetary Matters에서 Val Zlatev(Analog Century)는 이러한 가격 흐름을 뒷받침하며, GPU 대여료가 2025년 12월까지 "전년 대비 2030% 하락"했다가 지금은 "4050%, 심지어 그 이상 상승"했다고 밝혔다(검증되지 않음). 반면 Jim Chanos는 네오클라우드 업체들을 "장비 임대 업체… 세전 자기자본이익률(ROIC)이 7%, 6%, 5%, 8%대의 한 자릿수에 불과한" 곳으로 재규정하며(검증되지 않음), 보수적으로 GPU 수명을 10년으로 잡아 모델링했다. RiskReversal에서 Imran Khan은 엔비디아의 시장 평균을 밑도는 밸류에이션 배수를, 버블이 아니라 시장이 이익의 지속 가능성을 의심하고 있다는 신호로 해석했다. 오퍼레이터는 자산 수명이 길다고 말하고, 약세론자들은 수익률이 버티지 못한다고 말한다. 바로 이것이 앞으로 지켜봐야 할 논쟁이다.
메모리와 자본 지출: 마이크론, 낙관론자들의 전망치까지 넘어서다
6월 24일 발표된 마이크론의 3분기 실적은 메모리 강세론자들이 그토록 기다려온 바로 그 분기였다. Closing Bell에 따르면 조정 주당순이익(EPS)은 시장 예상치 20.78달러를 웃도는 25.11달러, 매출은 414억 6,000만 달러, 비GAAP 매출총이익률은 84.9%를 기록했고, 4분기 가이던스는 EPS 약 31달러, 매출 약 500억 달러로 제시됐다(모두 방송에서 언급된 수치이며, 실제 실적 발표 자료와는 대조 검증되지 않았다). Evercore의 Julian Emanuel은 마이크론이 "거의 모든 지표에서 낙관론자의 전망치까지 넘어섰다"고 평했다. Susquehanna의 Mehdi Hosseini는 이를 구조적 논제와 연결지어 "메모리 벽이 현실화되고 있다. 고객들은 프리미엄을 지불하는 것 외에는 선택지가 없다"고 말했다. 그는 마이크론의 16개 전략 고객 계약 중 14개가 "계약 기간 전체로 최소 약 1,000억 달러" 규모라는 점을 지적했으며, 진짜 2028년 리스크는 "트레이닝에서 추론으로의 전환"이라고 짚었다. 그가 언급한 지속 가능성 지표, 즉 이번 분기 약 160억 달러의 잉여현금흐름은 "이번 사이클은 완전히 다르다"는 강세론자들의 핵심 논거 그 자체다.
한 가지 유의할 변수도 있었다. Squawk에서 CNBC의 Mike Santoli와 Christina Partsinevelos는, 회사 측이 명시적으로 확인해주지 않은 현지 보도를 인용하며 SK하이닉스가 HBM 캐파를 범용 D램 쪽으로 재배분하고 있을 가능성을 제기했다. 이는 가이던스가 아니라 아직은 소문 수준으로 취급해야 하지만, 지켜볼 필요는 있다. 만약 사실이라면 평론가들이 반복해서 언급하는 "HBM은 2027년까지 완판됐다"는 서사를 복잡하게 만들 수 있다.
전력: 오프그리드로 이동하는 건설 현장
자본 지출 이야기는 점점 더 전력 이야기가 되어가고 있다. Squawk에서 David Faber는 마이크로소프트의 'Kilby' 프로젝트를 상세히 전했다. 이는 텍사스 서부에서 셰브런의 천연가스와 GE Vernova의 터빈을 결합해 "최대 2.67기가와트"를 공급하는 20년 계약으로, 전력 공급은 "2028년까지" 이뤄질 예정이다(검증되지 않음). 그는 노동절(Labor Day) 전까지 하이퍼스케일러와 석유·가스 개발사(E&P) 간의 "대형 발표가 두 건 더" 나올 것으로 예상한다고 밝혔다. 현장의 구체적인 디테일은 The Energy Show에 출연한 Barry Cinnamon에게서 나왔다. 전력회사의 계통 연계(interconnect)는 "7~10년이 걸리고", 트레이닝 부하는 "25메가와트까지 순간적으로 치솟으며", 투입 전력의 거의 100%가 결국 열로 전환된다는 것이다. 바로 이 때문에 개발사들은 아예 전력망을 우회하고 있다. 이것이 바로 계통 밖(behind-the-meter) 가스 발전이 구조적으로 부상하는 근거다.
광학·네트워킹: 여전히 아키텍처 논의 수준, 아직 종목으로 이어지지 않아
투자 관점에서의 구체성으로 보면, 광학은 네 개 영역 중 여전히 가장 얇은 축이다. 이번 기간 유일한 관련 전문 에피소드는 The Deep Edge Podcast였으며, 여기서 애널리스트 Ray Mota(현장 오퍼레이터가 아니라 평론가)는 "우리는 지금 컴퓨팅 전쟁에서 상호연결 병목(interconnect bottleneck)으로 무게중심이 옮겨가고 있다"는 이번 기간의 핵심 프레임을 제시했다. 그가 제시한 효율성 계층 구조(검증되지 않음)는 전기적 상호연결 1525pJ/bit, 실리콘 포토닉스 58pJ/bit, 공동패키지광학(CPO) 5pJ/bit 미만이며, 800G가 "기준선"이고 1.6T는 "임박했다"고 밝혔다. 그의 단도직입적인 발언, "패시브 구리 케이블만으로는 10만 GPU 규모의 AI 클러스터를 절대 만들 수 없다"가 이번 논지의 핵심이다. 다만 이는 어디까지나 개념적 수준의 논의였다. 현장 오퍼레이터의 발언도 없었고, 이름이 거명된 광학 벤더도 단 한 곳도 없었다.
여백에서 읽는 신호(이것 자체가 신호다)
- AMD는 완전히 부재했다. MI300/MI350/MI400과 관련한 실질적인 언급이 전혀 없었는데, GPU 관련 소음이 이 정도로 컸다는 점을 감안하면 이례적이다. 강세론이 전혀 조명받지 못했다.
- 인텔 Gaudi와 하이퍼스케일러들의 자체 개발 실리콘(구글 TPU, 아마존 Trainium, 마이크로소프트 Maia, 메타 MTIA)은 독립적인 주제로 다뤄지지 않았다. Jalapeño가 커스텀 칩 담론의 산소를 거의 다 빨아들인 셈이다.
- 인피니밴드 대 이더넷 논쟁은 별도로 다뤄지지 않았고, 이름이 거명된 광학 벤더(Arista, Astera Labs, Credo, Fabrinet, Lumentum, Coherent)도 전혀 보도되지 않았다. 광학 관련 투자 논리는 여전히 종목이 아니라 물리학 차원에서 논의되고 있다.
- HBM4는 아예 다뤄지지 않았다. 메모리 관련 논의는 모두 포괄적이거나, 암묵적으로 HBM3E를 지칭하는 수준에 머물렀다.
- 대표적인 테크 방송들(BG2, All-In, Acquired, Sharp Tech)은 이번 기간 관련 콘텐츠를 전혀 내놓지 않았다. 이번 신호는 늘 보던 투자 팟캐스트가 아니라 CNBC와 소수의 현장 오퍼레이터 인터뷰에서 나왔다.