세미애널리시스, 컴퓨팅 파워 위기 분석: OpenAI와 앤트로픽, 글로벌 신규 컴퓨팅 파워 선점
Tapbit Wire11월 3일, 반도체 리서치 기업 세미애널리시스 창립자이자 CEO 딜런 패틀이 Runtime 2026에서 컴퓨팅 파워, 자본, 그리고 실제 공급 주체에 대해 연설했다.
그는 OpenAI와 앤트로픽이 상당량의 컴퓨팅 파워를 선점하고 있으며, 이 두 기업이 2027년 신규 공급 예정 분의 25~40%를 차지할 것이라고 밝혔다. 수요 압박으로 인해 엔비디아 H100 데이터센터 칩의 1년 계약 단가가 작년 10월 최저 $1.70/시간에서 현재 약 $2.80/시간으로 상승했다. 다른 기업들은 비용을 감당하더라도 실제로 컴퓨팅 파워를 확보하기 어려운 실정이다.
자금 조달 측면도 긴장 상태다: 지난 두 달간 미국 국채 수익률이 급등했으며, 10년물 수익률은 10월 초 5%를 넘었다. 이로 인해 차입을 통해 데이터센터를 건설하는 신생 클라우드 제공업체의 자금 확보가 점차 어려워지고 있다.
이 연설은 앤트로픽이 S-1 신고서를 공개한 지 일주일 후에 이루어졌으며, 시장은 막 선보인 선도 연구소의 컴퓨팅 파워 내역을 확인한 직후였다. 패틀은 엔비디아가 약 6.5GW 규모의 컴퓨팅 파워를 지원하고 있다고 언급했으나, 이는 2030년 이전 신규 파워의 극소수에 불과하며, 그는 이를 ‘바닷속 한 방울’이라 표현했다.
01 신규 컴퓨팅 파워의 대부분, 두 연구소가 선점
컴퓨팅 파워 부족은 구매자 집중에서 비롯된다. 전 세계 컴퓨팅 파워는 급속히 증가 중이며, 2024년 말 약 60GW, 올해 말 100GW를 넘어서며 2년 만에 거의 두 배로 늘어날 전망이다. 패틀은 다음과 같이 설명했다.
“2024년 말 전 세계 컴퓨팅 파워는 60GW이며, 올해 말에는 100GW를 넘어서며 2년 만에 거의 두 배가 될 것이다.”
이 증가분의 최대 구매자는 OpenAI와 앤트로픽이다. 두 기업의 보유 파워는 작년 말 약 4GW, 올해 약 10GW, 내년엔 20GW를 넘길 전망이다. 구체적으로 2027년에는 두 기업이 약 12GW를 추가할 것으로 예상되는데, 이는 해당 연도 전 세계 증가분(약 40GW)의 약 30%에 달한다. 패틀은 2028년에는 AI 연구소들이 1년간 약 30GW를 추가해야 할 것이라고 주장했다.
패틀은 다음과 같이 추정했다.
“그들은 신규 컴퓨팅 파워의 25%, 30%, 또는 40%를 차지하고 있다.”
“작년 말 클로드 코드 출시로 OpenAI와 앤트로픽의 매출이 급증하며, 이들 기업은 적극적으로 컴퓨팅 파워를 구매하기 시작했고, 메타 역시 공격적으로 구매를 시작했다.”
“현재 많은 사람에게는 이미 컴퓨팅 파워를 구매하는 것이 불가능하다.”
또 하나 주목할 점은 이 컴퓨팅 파워가 주로 모델 학습(training)에 사용되며, 사용자 서비스(inference)에는 거의 쓰이지 않는다는 점이다. 패틀은 앤트로픽이 현재 4GW를 보유하고 있으나, 이 중 클로드 코드 전체 서비스에 사용되는 것은 약 1GW에 불과하며, 추론에 소요되는 파워는 학습 대비 ‘놀라울 정도로 낮다’고 지적했다. 즉, 사용자 수요가 안정화되더라도 새로운 모델 학습을 위한 실험실 예산은 계속해서 칩을 소비할 것이다.
02 오픈소스 모델 추론 서비스는 수익성 높아, 임대료 상승 유발
구매자가 늘면 가격이 오른다. 파텔은 급등하는 임대료의 또 다른 주요 원인으로, 토큰(모델 출력 단위) 판매 사업의 높은 이윤률을 지적했다. 이는 두 개 실험실을 넘어서도 고가로 GPU를 임대하려는 수요가 훨씬 많다는 의미다.
그는 메가와트 단위 계산을 제시했다. B300 클러스터 구축 및 5년 운영 비용을 분산시키면 연간 약 900만 달러; 클라우드 공급업체에서 임대할 경우 “연간 1400만 달러를 받을 수 있다면 운이 좋은 것이다.” 반면, 이 메가와트 컴퓨팅 파워로 오픈소스 모델 DeepSeek V4.1 Flash를 60% 활용률로 운영하면 연간 수익은 약 7000만 달러다. 즉, 임대료가 자체 구축 비용보다 50% 높아도 추론 서비스 판매 수익은 임대비의 5배다. (7000만 달러는 인건비 등 기타 비용을 제외한 순수 수익이다.) 그는 말했다:
“이용률이 30%에 불과해도 엄청난 수익을 낸다.”
“GPU를 임대해 추론 서비스를 판매하는 사업을 하는 사람을 수십 명 알고 있으며, 모두 막대한 수익을 올렸다.”
이 계산은 SemiAnalysis가 공개한 InferenceX 벤치마크를 기반으로 하며, 누구나 다운로드 가능한 컨테이너와 vLLM·SGLang 두 가지 오픈소스 추론 소프트웨어만 사용했고, 팀은 “단 4명의 엔지니어”로 구성됐으며, 예측 디코딩이나 추가 최적화는 수행하지 않았다.
가격 데이터도 이 논리를 뒷받침한다. 파텔은 작년 10월이 저점이었으며, H100 가격은 약 1.70달러, 최저가는 1.45달러였다고 밝혔다. 현재 거래가는 2.40~3.20달러 사이로, 중앙값은 2.80달러다:
“이 가격으로 2년 전 계약했다면 미쳤다고 여겼겠지만, 지금은 사람들이 이 범위 내에서 서둘러 계약하고 있다.”
SemiAnalysis 자체의 1년 계약 지표는 올해 3월 이미 2.35달러였고, Nebius 등 공급업체의 표시 가격은 10월에도 계속 상승했다. 독자들은 파텔이 언급한 바에 따르면 SemiAnalysis가 자체적으로 컴퓨팅 파워 매칭 사업도 한다는 점을 유의해야 하며, 따라서 실제 거래 가격에 접근 가능하나, 이는 이해상충 문제를 시사한다.
향후 전망에 대한 그의 판단은 다음과 같다:
“H100 가격이 3달러를 넘고 B300이 7달러를 넘으면 전혀 놀랍지 않다.”
구매자에게 그의 조언은 더 직접적이다:
“B300을 시간당 6달러에 구할 수 있다면 바로 계약하고 토큰을 팔아야 한다. 이 가격은 터무니없지만, 올바른 결정이다.”
문제는 클라우드 공급업체가 선불을 요구한다는 점이며, 특히 스타트업에는 더욱 어렵다. 1년 계약 확보가 어려울 뿐 아니라, 스타트업은 1년 후에도 존속할지 보장할 수 없기 때문이다. 폐쇄형 모델의 경우, 그는 Anthropic이 Fable 및 Opus 5.5 서비스로 얻은 수익이 IPO 과정에서 투자자에게 공개된 자료에 따르면 “1억 달러를 초과한다”고 언급했는데, 회고록에는 단위가 명시되지 않았으나 문맥상 연간 메가와트당 수익일 가능성이 높다.
03 비용을 감당해도 클라우드 공급업체가 제공하지 않을 수 있음
컴퓨팅 파워 임대는 단지 첫 단계일 뿐이며, 클러스터의 실제 가치는 궁극적으로 그 사용 가능성에 달려 있다. 세미애널리시스는 ‘클러스터맥스(ClusterMAX)’라는 평가를 실시해 323개 클라우드 공급업체를 추적하고 이 중 77개를 평가해 19개에 메달(인정)을 수여했다.
파텔의 관점에서 최고는 코어위브(CoreWeave)와 네비우스(Nebius)이지만, 둘 다 가용성이 매우 낮다:
“앞으로 6개월 동안 당신에게 컴퓨팅 파워를 판매하지 않는다. 이미 완판이다. 네비우스는 1년 또는 6개월 치 전액 선불을 요구하며, 가격도 터무니없이 높지만, 이것이 그곳에서 컴퓨팅 파워를 확보할 수 있는 유일한 방법이다.”
오라클과 구글도 높은 평가를 받았으며, 구글은 1차 평가에서 동메달에서 업그레이드됐다. 한편, 더 많은 공급업체가 강등됐다: 평가 기준이 엄격해짐에 따라 애저(Azure)는 은메달로, 투게더(Together)와 AWS는 동메달로, 크루소(Crusoe)도 강등됐다. AWS의 문제는 더 실무적이다:
클러스터를 확보하려면 약 10명과 협의해야 하며, 오랜 시간이 걸리고 네트워크 관리도 다소 어렵다.
평가에서 가장 심각한 문제는 보안이었다. SemiAnalysis은 AI 모델이 이러한 클라우드를 공격하도록 허용했다:
일부 취약점은 이미 인터넷에 공개되어 있으며, 모델이 이를 직접 탐지·악용해 다른 고객의 저장소에 접근할 수 있다.
한 사례에서는 OpenAI 및 Anthropic보다 뒤처진 오픈소스 모델을 사용해 전체 클러스터의 Slurm(일반적인 클러스터 스케줄링 시스템) 권한을 획득했으며, 국방 산업 및 국가안보 정보 기관의 작업 이름을 확인했다. 테스트를 즉시 중단하고 ‘대부분의 네오클라우드는 보안이 매우 열악하다’는 제목의 보고서를 발표했다. 또 다른 테스트는 GPU에 결함(그가 언급한 엔비디아 오류 코드 XID 719)을 주입해 클라우드 제공업체가 이를 탐지하는 데 걸리는 시간을 관찰한 것이다. 결과는 다음과 같았다:
많은 클라우드는 당신이 알려줘야 비로소 인지하며, 일부는 알려줘도 며칠이 지나서야 대응한다.
그는 이를 최소 기준 테스트라고 명명했다: GPU는 필연적으로 장애를 겪게 되며, 클라우드 제공업체는 자체 모니터링을 통해 이를 탐지·해결해야 한다.
04 금리 상승, 신규 업체는 자금 조달 어려움, 엔비디아 지원은 극소수에 불과
공급 확대에는 자본이 필요하지만 자본 조달 비용은 상승 중이다. 파텔은 2029년 말까지 글로벌 AI 자본지출이 약 11조 달러에 달할 것이라며, 이 중 약 7조 달러는 부채로 조달될 것이라고 재차 강조했다. 대부분의 자금은 칩 구매에 쓰이며, 나머지는 데이터센터, 에너지, 고속 생산을 위한 현장 발전소 건설에 투입된다.
이러한 금리 환경에서 대출 유동성은 명확한 편향을 보인다. 미국 10년물 국채 수익률은 올해 3.96%에서 10월 초 5.31%로 상승했으며, AI 관련 채권 발행은 9월에 분명히 위축됐다. 파텔은 100MW 규모의 네오클라우드가 1GW로 확장하려는 경우를 설명했다:
누가 그들에게 자금을 대줄 것인가? 유일한 방법은 1GW 용량을 하이퍼스케일 클라우드 제공업체에 매각하는 것으로, 이 업체가 채권시장을 통해 자금을 조달하게 된다. 당신은 대출을 받지만, 해당 컴퓨팅 파워는 전 산업 시장에 공급되지 않는다.
결과적으로 내년에 이미 계약된 컴퓨팅 파워 중 ‘약 65~70%’가 하이퍼스케일 클라우드 제공업체와 AI 연구실로 흘러간다. 스타트업의 경우 클러스터 임대 시 선불금 50%를 지불해야 하며, 납품까지 3~9개월이 소요된다:
최근 많은 자금을 유치한 신규 연구실을 찾아보라. 그들에게 컴퓨팅 파워 확보는 지옥이다.
엔비디아의 접근 방식은 클러스터에 대한 안전망을 제공하는 것으로, 파텔은 이를 세 가지 유형으로 요약했다:
소프트뱅크 에너지: 부지, 전력, 건물만 보장. 오하이오주에 건설 중인 9GW 규모 시설로, 2030년경 운영 예정이며 전량 OpenAI에 예약됨.
펌무스: 엔비디아가 일정 가격으로 클러스터를 임대하겠다고 약속해 상대방이 ‘이득은 없지만 손해도 보지 않도록’ 보장한다. 이 보증 덕분에 타사가 대출을 제공 willingness를 갖게 된다. 이 가격을 초과하는 시간당 1달러당 엔비디아가 절반을 차지하는데, 파텔은 이를 ‘매우 영리하며 마음에 든다’고 평가했다.
잔존 가치 보장: 이 유형만 언급했으며 추가 설명은 생략했다.
규모 측면에서 엔비디아는 약 6.5GW를 확보했으며, 이는 실험실 및 대규모 클라우드 업체에만 공급되는 것이 아니라 공개 시장에 판매될 예정이다. 그가 제시한 상한선은 45GW로, ‘이조차도 2030년 이전 신규 컴퓨팅 파워 증가분의 극소수에 불과하다.’ 그는 추론에 특화된 Fireworks 및 Modal 등 기업과 다수의 신규 연구실이 자체 클러스터 구축, 대출, 엔비디아 후원 확보를 위해 노력 중이라고 판단했다.
연설 마지막에 그는 토큰 처리 규모를 평가했다: 여러 공급업체가 하루 100조 개 이상의 토큰을 처리하며, 각 기업의 연간 수익은 계속 증가 중이다. 그의 마무리 발언은 다음과 같았다:
저희가 컴퓨팅 파워를 확보할 수 있기를 바랍니다. 그렇지 않으면 우리는 모두 앤트로픽과 오픈AI의 노예가 될 것입니다.
본 기사는 개인 투자 조언이 아니며, 플랫폼의 입장도 반영하지 않습니다. 시장에는 위험이 존재하므로 투자는 신중히 하시기 바랍니다. 독자께서 직접 판단하고 결정해 주세요.
