‘컴퓨팅 한계’ 구글, 메타의 제미나이 사용량 제한

7 hours ago 3

“요청한 인프라 용량 전부는 못줘”
메타는 직원에 “효율적 사용” 지시
MS 등 빅테크도 인프라 부족 겪어

구글이 폭증하는 인공지능(AI) 연산 수요를 감당하지 못해 경쟁사 메타의 ‘제미나이’ 사용량을 제한한 것으로 알려졌다. 빅테크들이 막대한 투자금을 쏟아붓고 있지만, AI를 가동하기 위한 데이터센터와 반도체와 같은 연산 인프라가 AI 수요를 따라가지 못하는 등 ‘AI인프라 병목’이 현실화되고 있다는 풀이가 나온다.

28일(현지 시간) 영국 파이낸셜타임스(FT) 보도에 따르면, 구글은 자사 대표 AI 모델인 ‘제미나이’에 대한 메타의 사용량을 제한했다. 메타가 원하는 수준의 대규모 컴퓨팅 자원을 제때 공급하기 어려웠기 때문이다. 페이스북과 인스타그램을 앞세워 AI 경쟁에 뛰어든 메타는 연산 자원 확보에 차질을 빚게 됐다. FT는 “구글이 3월경 메타에 ‘요청한 인프라 용량을 전부 할당해 줄 수 없다’고 통보했다”고 보도했다. 구글의 통보는 여러 고객사에 영향을 미쳤지만, 수요가 특히 컸던 메타가 더 큰 타격을 받은 것으로 알려졌다. 실제 이 여파로 일부 주요 내부 프로젝트가 늦춰졌고, 메타는 직원들에게 “AI 토큰(AI의 데이터 처리 단위)을 더 효율적으로 사용하라”고 지시한 것으로 전해졌다.

메타는 그동안 플랫폼 유해 콘텐츠 탐지와 사기 차단 등 연산 부담이 큰 업무를 자체 모델이 아닌 제미나이에 맡겨 왔다. 경쟁사 모델에 지나치게 의존하게 되자 최근 자체 대형언어모델(LLM) ‘뮤즈 스파크’로 전환해 외부 모델 사용량을 줄이고 있다. 자체 클라우드 사업이 없는 메타는 경쟁사들보다 인프라 병목에 더 큰 타격을 받을 수밖에 없는 상황으로, 향후 AI 인프라 확보를 위해 올해 설비투자 계획을 1250억∼1450억 달러로 크게 늘렸다. 5월에는 전체 인력의 10%인 약 8000명을 줄이는 한편 7000명을 AI 전문 직무로 옮겼다.

시장에선 구글의 이번 조치로 반도체·데이터센터·전력 등 AI 인프라 병목 문제가 다시 한번 드러났다는 지적이다. AI 모델 개발보다는 이를 실제 서비스하는 데 필요한 연산 능력 확보가 새로운 숙제가 됐다는 얘기다. 예를 들어 세계 최대 규모의 AI 인프라를 보유한 구글이 올해 1800억 달러(약 278조 1500억 원)가 넘는 천문학적인 시설 투자를 단행했지만, 여전히 연산 자원 부족에 시달리고 있다는 것. 결국 구글은 인프라 확충을 위해 스페이스X에 월 9억2000만 달러(약 1조 4300억 원)를 지급하고 엔비디아 GPU 약 11만 개를 대여하기로 계약했으며 앤스로픽 역시 데이터센터를 통째로 임차하는 고육지책을 썼다.

사실 이는 구글만의 문제는 아니다. 마이크로소프트(MS) 등 주요 빅테크 기업들도 인프라 부족으로 어려움을 겪고 있다. 순다르 피차이 구글 최고경영자(CEO)는 4월 실적 발표 당시 “분명 연산 능력이 부족한 상황”이라며 급증하는 AI 수요를 감당하기 어려운 상황임을 인정하기도 했다. FT는 “연산 능력이 테크 업계에서 가장 구하기 어려운 자원이 되고 있다”고 분석했다.

김재형 기자 monami@donga.com