“AI 경쟁은 효율 싸움”…알파벳, ‘터보퀀트’로 판 바꾼다

[주목!e해외주식]알파벳
LLM 병목 ‘KV 캐시’ 해결…메모리·속도 동시 개선
메모리 사용량 6배↓·연산 속도 최대 8배↑
“AI 경쟁, 성능에서 효율로 이동”
광고·에이전트 서비스 수익성 개선 기대

[이데일리 박정수 기자] 알파벳이 인공지능(AI) 효율을 획기적으로 개선하는 ‘터보퀀트(TurboQuant)’ 기술을 공개하며 AI 경쟁의 패러다임 변화에 대응하고 있다. 모델 성능 중심에서 비용·효율 중심으로 경쟁 축이 이동하는 가운데, 이번 기술이 수익성 개선의 핵심 변수로 부상할 전망이다.

사진=AFP

28일 금융투자업계에 따르면 알파벳은 대규모언어모델(LLM) 추론 과정에서 발생하는 병목 구간인 ‘KV 캐시 메모리’ 문제를 해결하기 위해 터보퀀트 기술을 도입했다.

터보퀀트는 attention 연산 과정에서 생성되는 데이터를 초저비트 수준으로 압축하는 방식이다. 기존 양자화 기술이 정확도 저하와 메모리 오버헤드 문제를 동시에 안고 있었던 것과 달리, 두 요소를 동시에 개선했다는 점에서 의미 있는 기술 진전으로 평가된다.

실제 성능 개선 폭도 크다. KV 캐시를 약 3비트 수준까지 압축하면서도 정확도 저하 없이 적용 가능하며, 메모리 사용량은 최대 6배 줄이고 연산 속도는 최대 8배까지 개선할 수 있는 것으로 나타났다.

특히 별도의 추가 학습 없이 기존 모델에 바로 적용할 수 있다는 점에서 상용화 가능성이 높다는 평가다. 이는 기업 입장에서 AI 도입 비용과 시간을 동시에 줄일 수 있는 요소로 작용한다.

증권가는 이번 기술이 AI 산업 경쟁 구도를 바꾸는 신호로 보고 있다. 장문영 현대차증권 연구원은 “AI 경쟁의 핵심이 모델 성능에서 효율성으로 이동하고 있다”며 “비용 대비 성능이 주요 경쟁 요소로 부각되는 흐름”이라고 분석했다.

사업 측면에서도 긍정적이다. 터보퀀트는 제미나이 기반 서비스 확장에도 기여할 전망이다. 광고, AI 에이전트 등 서비스는 높은 추론 비용이 주요 제약이었는데, 해당 기술이 비용 구조를 낮추면서 서비스 확장성과 수익성을 동시에 개선할 수 있다는 분석이다.

알파벳은 언어모델, 하드웨어, 효율화 기술까지 내재화하며 AI 스택 전반에 걸친 수직통합 구조를 강화하고 있다. 이는 향후 AI 서비스 경쟁에서 안정적인 수익 구조를 확보하는 기반이 될 것으로 평가된다.

일각에서는 메모리 사용량 감소가 반도체 수요 둔화로 이어질 수 있다는 우려도 제기된다. 다만 증권가는 비용 절감 효과로 AI 활용 범위가 확대될 경우 오히려 전체 수요는 증가할 가능성이 높다고 보고 있다.

장문영 연구원은 “터보퀀트는 AI 서비스 확장과 수익성 개선을 동시에 이끌 수 있는 기술”이라며 “AI 생태계 전반에서 경쟁력을 강화하는 계기가 될 것”이라고 평가했다.