이 기사는 10월 21일 오후 3시36분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 이홍규 기자 = 인공지능(AI) 연산의 필수 장비인 엔비디아(종목코드: NVDA) GPU(화상처리장치) 시장에서 통상적이지 않은 가격 구조가 관찰되고 있다.

GPU 구매가는 전반적으로 높은 수준을 유지 중인 데 반해 렌탈가는 하락 압박을 받는다. 군소 AI 인프라 업체들이 렌탈 시장에서 저가 경쟁에 뛰어든 탓이다.

◆렌탈가 하락

파이낸셜타임스가 인용한 RBC캐피털마켓츠의 자료에 따르면 관련 현상은 엔비디아의 B200·H200·H100·A100 등 과거부터 현재에 이르는 모든 주력 제품에서 나타나고 있다.

최근 주력 제품부터 보자. B200 GPU의 판매가는 작년 12월경 출시 당시 대당 약 5만달러였고 올해 3월 렌탈가는 최저가 기준 시간당 3.2달러였다. 현재(올해 8월 기준) 최저가는 2.8달러(제네시스클라우드)까지 떨어졌다.

최저가 추이는 군소 업체의 경쟁 강도를 직접적으로 보여준다. B200의 평균 렌탈가는 아마존(AMZN)·마이크로소프트(MSFT)·구글(GOOGL) 등 초대형 인프라 업체들이 유지하는 높은 가격에 의해 되레 올라갔지만 최저가는 바닥에서의 가격 경쟁의 치열함을 드러낸다.

*관련 자료에서 B200의 올해 8월 렌탈가가 중앙값 박스권 아래에 있는 기업으로는 제네시스클라우드, 벌처(Vultr), 코벡스.ai(Covex.ai), 히드라호스트(Hydrahost), 시보(Civo) 등이 언급됐다.

◆군소업체의 경쟁

H200과 H100의 렌탈가 추이는 더욱 확연하다. 최저가의 추이는 물론 평균 가격도 함께 내려갔다. 올해 들어 H200과 H100의 시간당 평균 렌탈가는 각각 29%와 22% 떨어졌다. 가격 경쟁에 뛰어든 군소 업체들이 더 많아져서다.

저가 경쟁에 나선 군소 업체들과 달리 하이퍼스케일러로 불리는 초대형 인프라 업체들의 렌탈가는 높은 수준에서 변함이 없다. H100을 예로 들면 2023년 12월부터 시간당 10~12달러에서 유지되고 있다. 구글은 현재 11달러다.

관련 현상은 통상 기술 업계에서 벌어지는 것과 반대다. 가격 경쟁에서는 대기업이 자본력을 앞세워 저가 공세로 군소업체를 도태시키는 게 일반적이다. 하지만 GPU 렌탈시장에서는 오히려 군소업체가 저가 전략에 먼저 뛰어들었다.

◆역설 이유는

역설의 배경은 고객층 구조에서 찾을 수 있다. GPU 렌탈시장의 고객층은 최상위와 중간, 최하위 등 3개 계층으로 구분할 수 있다. ①첫째 최상위는 AI 모델 훈련이 필요한 스타트업과 연구기관이다. ②둘째 중간은 일반 기업이다. ③셋쨰 최하위는 저품질 콘텐츠 생산자 등이다.

3개 계층 모두 초기에는 군소업체의 고객이었지만 이제는 귀속 구조가 바뀌었다. ①최상위 고객층은 초대형 사업자에 고착됐다. AI 모델 훈련이 필요한 스타트업과 연구기관은 기존 클라우드 사업자와의 거래 관계를 유지하는 것이 연속성과 보안 측면에서 유리하기 때문에 비싼 가격을 감수한다.

*최상위 고객층이 하이퍼스케일러에 고착된 이유는 거액의 전환 비용 때문이다. 전환 시 데이터 이전 비용이 막대하게 발생하고 보안과 컴플라이언스 재인증 비용도 요구된다. 하이퍼스케일러들은 방대한 인증을 보유 중이다. 또 스토리지, 모니터링 도구 등 생태계 통합이 유인력이 된다.

▶②편에서 계속

bernard0202@newspim.com