HP “클라우드 AI 절반 로컬 PC로 옮겨 비용 45% 절감”…국내 반도체·의료·방송 현장 공략

짐 노팅엄 HP ACS 수석부사장 겸 사업부 총괄 HP가 클라우드에서 처리하던 사내 인공지능(AI) 작업 40~50%를 워크스테이션과 AI 스테이션으로 옮겨 관련 비용을 45% 줄였다. 장비 투자비는 12개월 만에 회수했다. 에이전틱 AI가 확산되면서 토큰 비용이 급증하자, 데이터가 생성되는 현장 가까이에서 AI를 운용하는 '로컬 AI'로 무게중심을 옮긴 것이다. HP는 이같은 경험을 앞세워 반도체·의료·방송 등 국내 AI 시장을 공략한다. 짐 노팅엄 HP 어드밴스드 컴퓨트 솔루션(ACS) 부문 수석부사장은 “AI 어시스턴트 도입으로 업무 시간은 크게 줄었지만 토큰 소비가 계속 늘었다”며 “분석해보니 프런티어 모델 대신 보다 작은 모델로도 같은 품질을 낼 수 있었다”고 말했다. HP에 따르면 워크스테이션급 소형 모델을 사내 장비에서 구동하자 추론 속도는 빨라지고 토큰 사용 제한도 사라졌다. 사내 개발 조직도 프라이빗 클라우드 요금이 토큰 종량제로 바뀌자 로컬 장비를 들였다. 덕분에 개발자 30~80명이 제약없이 AI에이전트를 쓰고 있다. 노팅엄 수석부사장은 기업이 AI를 클라우드 밖에서 운용하려는 이유로 △데이터 프라이버시·주권 △저지연 △데이터 중력 △비용을 꼽았다. 수요가 가장 뚜렷한 곳은 제조 현장이다. 일례로 글로벌 완성차 A는 생산 라인에 AI 추론 장비를 설치하려 했다. 하지만, 그래픽처리장치(GPU)를 대거 탑재한 대형 워크스테이션은 발열과 소음 탓에 라인에 설치가 어려웠다. HP는 워크스테이션 GPU를 여러 장비가 나눠 쓰는 'Z부스트'를 제안했다. 대형 장비는 백오피스에, 라인에는 소형 장비만 배치해 GPU를 빌려 쓰는 방식이다. A는 개념검증(PoC)을 거쳐 전사 도입을 진행 중이다. 또, 다른 완성차 B는 Z부스트로 대형 렌더링 모델을 매번 다시 불러오는 과정을 없앴다. 그 결과, 설계 생산성을 570% 높이고 총소유비용(TCO)은 23% 줄였다. 퇴근 이후 쉬고 있는 워크스테이션 300여대로 매일 밤 약 1000건 AI 모델 미세조정을 수행해 클라우드 비용을 낮춘 고객사도 있다. 노팅엄 수석부사장은 “로컬과 클라우드 중 하나를 고르는 문제가 아니라 둘을 적재적소에 통합하는 하이브리드가 핵심”이라며 “고객이 가장 큰 가치를 낼 수 있는 곳에 귀한 토큰을 쓰도록 돕겠다”고 말했다. HP는 한국을 로컬 AI 수요가 빠르게 커질 시장으로 보고 있다. 반도체·자동차·조선처럼 설계·공정 데이터가 핵심...