[서울=뉴스핌] 김승현 서영욱 조승진 기자 = 최태원 SK그룹 회장이 인공지능(AI) 시대의 핵심 병목으로 지목된 데이터 이동 문제를 해결하기 위해 기존 컴퓨팅 구조 자체를 바꿔야 한다고 강조했다.

고대역폭메모리(HBM) 중심의 현재 접근만으로는 한계가 뚜렷한 만큼, 광통신 기반 연결과 메모리 풀링(pooling) 등 새로운 아키텍처 전환이 불가피하다는 진단이다.

최태원 회장은 28일 국회의원회관에서 열린 한중의원연맹(회장 김태년) 정책세미나 특강에서 고동진 국민의힘 의원의 관련 질문에 이같이 답했다.

이날 세미나는 '미·중 AI 기술 패권 경쟁 속 대한민국 성장전략'을 주제로 최 회장의 특강으로 진행됐다. 고 의원은 삼성전자 대표이사 출신의 정보통신(IT) 전문가다.

◆ 최태원 회장 "메모리가 AI의 병목이고 다양한 보완 기술이 연구되고 있다"

최 회장은 "폰노이만 구조(GPU와 메모리가 분리된 구조)를 깨는 새로운 기술이 필요하다"며 "이는 몇 년 내 현실화될 것"이라고 말했다. 데이터 이동 병목을 근본적으로 줄이기 위해 구조 자체를 바꿔야 한다는 의미다.

최 회장은 이날 "메모리가 AI의 병목이고 다양한 보완 기술이 연구되고 있다"며 "무조건 한 기술이 다른 기술을 지배할지 알 수 없는 상황"이라고 말했다.

현재 HBM이 핵심 해법으로 자리 잡았지만 장기적으로는 여러 기술이 병행될 수밖에 없다는 의미로 풀이된다. AI 모델이 커질수록 데이터 이동량이 급증하면서 단일 기술로 병목을 해소하기는 어렵다는 지적이다.

특히 "지금의 병목은 광통신으로 엮어버리는 것"이라며 "포토닉스(Photonics) 기술이 발전해 칩투칩(Chip-to-Chip) 연결을 바꿀 수 있다면 에너지를 절감하고 속도를 올릴 수 있을 것"이라고 언급했다.

메모리와 연산 장치 간 연결 방식을 전기 신호에서 광 기반으로 전환해 효율을 높여야 한다는 취지다. 단순히 메모리를 더 쌓는 경쟁을 넘어, 메모리와 연산 장치 간 연결 방식을 어떻게 구현하느냐가 병목 해소의 핵심 변수로 떠오르고 있다는 의미다.

◆ 최태원 회장 "메모리 효율 개선되더라도 병목 반복될 수밖에 없어"

다만 최 회장은 "이 같은 기술이 도입되더라도 메모리 병목은 이어질 것"이라며 "가격이 낮아지면 수요가 더 늘어나기 때문"이라고 덧붙였다. 메모리 효율이 개선되더라도 AI 연산 수요가 확대되면서 병목이 반복될 수밖에 없다는 설명이다.

실제로 SK하이닉스 측도 "빅테크 고객들은 메모리를 필수 요소로 보면서도 비용으로 인식해 가능하면 덜 쓰려 한다"며 "다만 가격이 낮아지면 결국 더 많이 사용하는 구조"라고 설명했다.

최 회장은 또 "에너지를 효율적으로 쓴다면 GPU 하나당 할당하는 방식이 아니라 최대한 활용하는 방식으로 병목을 해결할 수 있을 것"이라며 '메모리 풀링(pooling)'을 언급했다. 메모리 풀링은 메모리 자원을 하나의 풀로 구성해 필요에 따라 할당하고 재배분하는 방식으로 활용 효율을 높이는 개념이다.

이 같은 구조에서는 메모리를 특정 장치에 고정하지 않고 필요할 때마다 끌어다 쓰는 방식이 가능해진다. GPU별로 남거나 부족한 메모리를 전체 시스템 차원에서 공유해 활용 효율을 높일 수 있다는 설명이다.

HBM의 역할 변화 가능성도 제기된다. 현재는 GPU에 밀착된 초고속 메모리로 쓰이지만, 향후에는 일부는 로컬 캐시로, 일부는 외부 메모리와 병행하는 형태로 재편될 수 있다는 전망이다. 고객 요구에 맞춘 커스터마이즈 HBM 역시 확대될 것으로 예상된다.

kimsh@newspim.com