AI 핵심 요약
beta- 구글이 24일 터보퀀트를 공개했다.
- KV 캐시를 6분의 1로 압축해 메모리와 속도를 개선했다.
- 메모리주 하락에도 제번스 역설로 HBM 수요 확대 전망이다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
비용 절감이 AI 확산 자극…'제번스 역설' 재현 가능성
"HBM 등 고성능 메모리 수요는 성장세 유지 전망"
[서울=뉴스핌] 서영욱 기자 = 구글이 공개한 새 기술 '터보퀀트(TurboQuant)가 인공지능(AI) 반도체 시장에 파장을 일으키고 있다. KV(key-value) 캐시를 압축해 메모리 사용량을 최대 6분의 1 수준으로 줄이면서 비용과 속도를 동시에 개선한 것이 핵심이다. 다만 비용 하락이 AI 확산을 자극하는 '제번스 역설'이 작동할 경우, 고대역폭메모리(HBM)와 같은 고성능 메모리 수요는 오히려 확대될 수 있다는 전망이 나온다.
◆메모리 6분의 1로…속도까지 끌어올린 '터보퀀트'
27일 반도체업계에 따르면 구글이 지난 24일(현지시간) 공개한 '터보퀀트'는 대규모언어모델(LLM)의 핵심 병목으로 꼽히는 메모리 사용량을 획기적으로 줄이는 기술로, 비용과 속도를 동시에 개선할 수 있는 해법으로 주목을 받는다.
LLM은 문장을 생성할 때 이전 대화 내용을 'KV 캐시' 형태로 저장해 활용한다. KV 캐시는 모델이 이미 처리한 단어들의 정보를 임시로 저장해두는 일종의 '작업 메모리'로, 같은 계산을 반복하지 않고 다음 문장을 빠르게 생성하도록 돕는 역할을 한다.
대화가 길어질수록 이 캐시가 기하급수적으로 늘어나며 GPU 메모리를 빠르게 소모한다. 그동안 업계는 연산 성능을 높이는 데 집중해왔지만, 실제 서비스 환경에서는 메모리 한계가 속도 저하와 비용 상승의 주요 원인으로 지목돼 왔다.
터보퀀트는 이 지점을 겨냥한 기술이다. 핵심은 데이터를 저장하는 방식을 바꿔 같은 정보를 훨씬 적은 용량으로 담아내는 데 있다. 기존에는 복잡한 수치 데이터를 그대로 저장했다면, 터보퀀트는 이를 '크기(magnitude)와 방향(direction)'으로 단순화해 표현한다. 구조 자체를 바꿔 압축 효율을 끌어올린 셈이다.
여기에 압축 과정에서 발생할 수 있는 오차를 최소한의 정보로 보정하는 방식이 더해졌다. 극히 적은 추가 데이터로 오류를 보정해 정확도를 유지하는 구조다. 이 덕분에 기존 압축 기술의 한계였던 성능 저하 문제를 피할 수 있었다.
구글에 따르면 터보퀀트를 적용하면 KV 캐시 메모리를 최대 6분의 1 수준으로 줄일 수 있다. 저장 용량도 기존 16~32비트에서 약 3비트 수준까지 낮아진다. 메모리 사용량이 줄어들면서 연산 속도도 함께 개선돼, 일부 환경에서는 최대 8배까지 처리 속도가 향상된 것으로 나타났다. 특히 별도의 재학습 없이 기존 모델에 적용할 수 있다는 점도 장점으로 꼽힌다.
◆메모리주 급락에도…"수요 감소는 과도한 우려"
터보퀀트가 공개되자 글로벌 금융시장이 출렁였다. 메모리 사용 효율이 크게 개선될 경우 향후 반도체 수요가 위축될 수 있다는 우려가 반영되면서 메모리 관련 종목이 일제히 하락했다. 미국 증시에서는 마이크론을 비롯한 메모리 업체 주가가 급락했고, 국내에서도 삼성전자와 SK하이닉스 주가가 동반 약세를 보였다.
다만 반도체업계에서는 이를 구조적 수요 감소로 해석하기에는 이르다는 분석이 우세하다. 터보퀀트가 메모리 사용량을 줄이는 것은 사실이지만, 이는 개별 AI 모델 단위의 효율 개선일 뿐 전체 수요 감소로 직결되지는 않는다는 것이다. 오히려 비용 절감을 통해 AI 서비스 확산을 가속화할 경우 전체 메모리 수요는 증가할 수 있다는 관측도 나온다.
특히 고대역폭메모리(HBM)와 같은 고성능 메모리는 단순 저장 용량보다 데이터 처리 속도와 대역폭이 핵심 경쟁력인 만큼, 터보퀀트와 직접적인 대체 관계에 있지 않다는 분석도 제기된다. 메모리 효율화 흐름과는 별개로 고성능 메모리 수요는 성장세를 이어갈 가능성이 크다는 분석이다.
◆효율 높일수록 수요 늘어…'제번스 역설' 재현할 수도
효율이 높아질수록 오히려 수요가 늘어나는 '제번스의 역설'이다. 기술 발전으로 비용이 낮아지면 활용 범위가 확대되고, 결과적으로 전체 수요가 증가하는 현상이다.
이 같은 흐름은 과거 산업 사례에서도 확인된다. 1990년대 인터넷 확산 초기에는 이메일과 디지털 문서 도입으로 종이 사용량이 줄어들 것이라는 전망이 우세했지만, 실제로는 PC와 프린터 보급, 웹 문서 출력 증가가 맞물리며 오히려 종이 사용량이 급증한 바 있다.
업계에서는 이를 효율 개선이 수요 감소로 이어지지 않고 오히려 전체 수요를 확대시키는 '리바운드 효과'의 대표 사례로 보고 있다. AI 역시 유사한 경로를 따를 가능성이 크다는 분석이다.
실제 최근 사례에서도 유사한 흐름이 나타났다. 저비용·고효율 AI 모델을 내세운 딥시크(DeepSeek) 공개 당시 반도체 업종 주가가 단기 급락했지만, 이후 AI 수요 확대 기대가 반영되며 빠르게 회복세를 보였다.
김일혁 KB증권 연구원은 "터보퀀트로 메모리 사용 효율이 개선되더라도 수요 감소로 직결되기보다는 AI 활용 확대를 통한 수요 증가 요인으로 작용할 가능성이 크다"고 분석했다. 이어 "컨텍스트 윈도우 확대와 AI 에이전트 확산, 온디바이스 AI 성장 등이 맞물리면서 메모리 수요는 구조적으로 확대될 것"이라고 덧붙였다.
syu@newspim.com
