[알파경제=(고베)우소연 특파원] 마루베니가 생성형 AI 운용에 필요한 데이터센터 전력을 최대 80% 줄이는 서비스를 4월 시작한다고 니혼게이자이신문(니케이)이 24일 전했다. 스페인 신흥기업 멀티버스 컴퓨팅의 기술을 활용해 데이터 처리량을 압축하고, 국내 기업의 생성 AI 도입을 뒷받침하겠다는 구상이다.

생성형 AI는 문서와 이미지를 만들 때 복잡한 계산을 반복해 전력 소모가 크다. 미국 오픈AI와 앤스로픽 같은 개발사 모델을 기업이 데이터센터에서 활용할 경우 서버 냉각과 운영 투자도 함께 늘어나는 구조다. 마루베니는 계산량을 줄여 소비 전력을 억제하는 방식에 주목했다.

멀티버스는 2019년 설립된 뒤 2024년 유럽에서 자체 기술 판매를 시작했다. 대규모 언어 모델(LLM)의 계산 처리량을 압축하는 기술을 보유하고 있으며, 중요한 매개변수를 식별해 모델 전체를 재구성하는 방식으로 경량화를 구현한다. 미국 언론에 따르면 이 회사의 기업가치는 2026년 중 10억 달러를 넘을 것으로 예상된다.

마루베니는 금융, 제약, 자율주행 개발 등 기밀성을 유지한 채 자체 서버에서 생성형 AI를 운용하려는 기업을 주요 대상으로 삼고 있다. 처리 효율이 높아지면 GPU 부하와 발열이 줄고, 냉각에 들어가는 공조 전력도 낮아진다. 최첨단 GPU가 아니더라도 고성능 AI 모델을 운용할 수 있다는 점도 장점으로 제시된다.

멀티버스는 경량화 기술을 적용하면 데이터센터 전력 사용량을 5~80% 줄일 수 있다고 밝혔다. 스페인 통신 대기업 텔레포니카가 AI 챗봇에 도입했을 때는 전력 소비가 75% 줄고 응답 속도는 46% 빨라졌다고 전했다.

다만 압축 기술은 내부 구조가 공개된 AI 모델에만 적용할 수 있다. 오픈AI 등 최신 모델은 지속적 학습을 거듭하고 있어 적용 범위에 한계가 있다. 마루베니는 멀티버스와의 공동 출자 회사 설립도 검토하고 있으며, 일본 이외의 아시아 시장 전개도 염두에 두고 있다.

 

[ⓒ 알파경제. 무단전재-재배포 금지]