OpenAI 'Jalapeño' 칩 공개 — Nvidia 의존의 균열이 시작됐다

Nvidia 없이 추론한다 — OpenAI의 하드웨어 선언

OpenAI 공식 발표에 따르면 2026년 6월 24일, OpenAI는 자사 최초의 커스텀 실리콘 'Jalapeño'를 공개했다. Broadcom이 설계하고 TSMC가 제조하는 추론(inference) 전용 ASIC으로, 노광기의 물리적 한계에 닿는 reticle-sized 단일 다이를 채택했다. 숫자보다 맥락이 중요하다. 이 칩은 "ChatGPT를 Nvidia GPU 없이 돌리겠다"는 의지를 처음으로 실리콘으로 표명한 사건이다.

왜 하필 '추론' 칩인가

OpenAI의 비용 구조에서 최대 항목은 추론이다. 학습은 한 번으로 끝나지만 추론은 수억 건의 쿼리가 24/7 쏟아지는 실시간 생산 환경에서 끊임없이 돌아간다. Nvidia Blackwell 같은 범용 GPU는 학습과 추론 양쪽을 다 처리하지만 그만큼 추론 단독 효율은 과잉 설계이고 단가가 비싸다. TechCrunch가 짚었듯 Jalapeño는 처음부터 추론 워크로드만을 겨냥한 ASIC이다. 추론 비용 50% 절감이 실현되면 GPT API 단가 인하, 무료 티어 확대, 나아가 OpenAI 흑자 전환의 경로가 열린다. 이는 제품 전략이기 이전에 생존 전략이다.

Broadcom의 질주, Nvidia의 구조적 압력

Broadcom 투자자 보도자료에서 Hock Tan CEO는 Jalapeño의 와트당 성능이 Nvidia Blackwell 및 Google TPU와 동급이라고 주장했다. 독립 검증 전이므로 이 수치를 액면가로 받을 이유는 없다. 그러나 방향은 선명하다. Broadcom은 Google TPU, Meta MTIA에 이어 OpenAI 수주까지 확보하며 AI ASIC 위탁 파트너의 지위를 굳히고 있다. Tom's Hardware가 보도했듯 설계 착수부터 테이프아웃까지 단 9개월이 소요됐다. 빅테크들이 Broadcom이라는 공통 우회로로 Nvidia 생태계를 이탈하고 있다. Nvidia 입장에서는 단일 고객 이탈이 아니라 생태계 우회로의 제도화라는 구조적 위협이다.

AI가 AI 칩을 설계하다

VentureBeat가 강조한 대목은 하나다. OpenAI 자체 AI 모델이 칩 설계 사이클 단축에 직접 활용됐다. 9개월이라는 이례적 단기간 뒤에 AI 보조 설계(AI-assisted EDA)가 있다. AI가 더 나은 AI 인프라를 설계하는 재귀적 자기강화(recursive self-reinforcement) 패턴이 반도체 영역에서도 실증됐다. 이 경향이 가속되면 커스텀 칩 진입장벽이 낮아지고 결국 Nvidia의 핵심 해자인 CUDA 소프트웨어 생태계 의존도 역시 구조적으로 희석된다.

전망: 2027년이 진짜 시험대다

CNBC에 따르면 2026년 말 소규모 프로토타입 배포, 2027~2028년 본격 양산이 로드맵이다. 지금은 발표 단계다. 양산 수율, 소프트웨어 스택 성숙도, 운영 노하우는 첫 세대 ASIC이 넘어야 할 현실적 벽이다. Google이 TPU v1부터 v5까지 쌓아온 10년의 학습 곡선이 OpenAI에는 없다. 그러나 Axios가 분석했듯 Jalapeño는 Nvidia를 당장 대체하려는 칩이 아니다. "우리도 할 수 있다"는 선언을 실리콘으로 증명했고 그것만으로도 AI 하드웨어 판도의 무게중심이 조금 이동했다. 2027년 양산 결과가 나오는 시점이 이 이동이 실질적 지각변동인지 아닌지를 가르는 분수령이다.