[뉴욕=뉴스핌] 김민정 특파원 = 메타 플랫폼스가 개인용 컴퓨터(PC)에서 구동할 수 있는 경량 인공지능(AI) 모델을 내놨다. 모델 가중치를 아파치 2.0 라이선스로 개방해 누구나 내려받아 고쳐 쓸 수 있게 했다.

메타는 10일(현지시간) 자사 초지능연구소(MSL)가 개발한 새 모델 '뮤즈 글리머'를 공개했다. 매개변수는 300억 개로, 소비자용 그래픽카드 한 장 수준의 PC나 맥에서 돌아갈 만큼 가볍다. 회사는 이 모델을 상시 구동하는 로컬 에이전트 작업에 최적화했다고 설명했다.

주된 용도는 에이전트형 AI다. 일정 관리와 메시지 초안 작성, 파일 정리처럼 개인 맥락을 깊이 파악해야 하는 작업이다. 코딩과 함수 호출, 다른 AI의 답변을 평가하는 작업에도 쓸 수 있다.

◆ 인터넷 없이 쓰는 AI

메타가 강조한 것은 클라우드 의존 탈피다. 회사는 기존 AI 모델 대부분이 클라우드 인프라와 네트워크 접속에 기대고 있다며, 로컬 구동은 인터넷 연결 여부와 상관없이 언제 어디서나 AI를 쓸 수 있게 한다고 설명했다. 오픈소스 진영에서 작은 모델도 제대로 훈련하면 특정 작업에서 최첨단에 근접할 수 있음을 보여줬다는 점도 언급했다. 다만 메타가 개방한 것은 학습이 끝난 모델의 가중치이며, 학습 데이터와 훈련 코드까지 공개하는 것은 아니다. 이 때문에 업계에서는 이를 오픈소스와 구분해 '오픈 웨이트'로 부르기도 한다.

기술적으로는 두 가지 최적화가 핵심이다. 매개변수 300억 개 모델을 온전한 정밀도로 돌리려면 55기가바이트(GB) 넘는 메모리가 필요하다. 소비자용 그래픽카드로는 감당할 수 없는 규모다. 메타는 양자화 기법으로 가중치를 4비트 수준까지 압축해 언어 모델 용량을 20GB 아래로 줄였다. 이렇게 하면 24GB나 32GB 환경에서도 작업 메모리와 이미지 인식용 인코더까지 함께 돌릴 수 있다는 설명이다.

속도도 끌어올렸다. 통상 언어 모델은 단어 조각을 하나씩 만들어내 반응이 느리다. 메타는 여러 조각을 한꺼번에 제안하는 소형 보조 모델을 붙이고, 본 모델이 이를 병렬로 검증하는 방식을 적용했다. 회사에 따르면 이 기법으로 생성 속도가 엔비디아 RTX 5090에서 3.1배, 맥북 M5 맥스에서 1.8배, M4 맥스에서 1.5배 빨라졌다.

성능은 매개변수 310억 개인 구글 젬마4, 270억 개인 알리바바 큐원3.6 등 비슷한 크기의 모델과 비교해 제시했다. 메타는 여러 벤치마크에서 자사 모델이 동급에서 강한 성적을 냈다고 강조했다.

제약을 최소화한 라이선스로 모델을 공개하는 방식은 중국 기업들의 전략을 닮았다. 딥시크와 문샷 같은 스타트업, 알리바바그룹이 최대한 많은 이용자를 확보하기 위해 같은 길을 걸어왔다.

가중치는 허깅페이스에서 공개된다. 내려받는 데 비용은 없지만 이용자가 자체 컴퓨팅 비용은 부담해야 한다. 메타는 조만간 올라마와 LM스튜디오 등 파트너를 통해 로컬 구동을 지원하고, AMD와 암(Arm), 델, 인텔, 엔비디아와 협력해 기기별 성능을 최적화한다고 밝혔다. 더 강력한 모델인 뮤즈 스파크도 일부 버전의 가중치를 공개할 계획이다.

◆ 막대한 AI 투자, 수익화가 관건

마크 저커버그 최고경영자(CEO)는 이날 정책 제안을 담은 장문의 에세이에서 "초지능을 중앙에 모으기보다 널리 퍼뜨리고 모든 사람이 이를 다룰 수 있게 해야 한다"고 밝혔다. 그는 경쟁사들이 "기업과 정부, 기관을 위한 AI를 만드는 데 집중"하는 반면 메타는 "모두를 위한 개인 초지능"을 만들고 있다고 강조했다.

메타와 아마존, 알파벳, 마이크로소프트 등 빅테크가 약속한 AI 투자액은 합산 2조 달러(약 2800조 원)가 넘는다. 이 같은 막대한 지출을 수익으로 돌려놓으려면 이용자를 붙잡을 모델과 도구가 필요하다. 메타는 지난달 뮤즈 스파크 1.1의 개발자 접근권에 처음으로 요금을 매겼다. 메타는 아마존웹서비스(AWS)와 비슷한 클라우드 인프라 사업도 준비 중이지만, 구체적인 계획이 없어 투자 회수를 우려하는 일부 투자자들의 불만을 사고 있다.

한편 메타는 데이터센터를 운영하는 미국 지역사회에 투자하기 위해 10억 달러 규모 기금을 조성하겠다고 밝혔다. 하이퍼스케일러(대형 클라우드 사업자)의 지출이 급증하면서 미국 곳곳에서 데이터센터의 토지·전력·용수 사용에 반발하는 움직임이 일고 있다.

mj72284@newspim.com