"엔비디아 의존 줄여라"…K-AI칩 생태계 커진다

국내 인공지능(AI) 반도체 기업 하이퍼엑셀의 AI 가속기 ‘베르다’는 거대언어모델(LLM) 추론에 특화된 국산 칩이다. 기업용 AI 플랫폼 스타트업 사이오닉AI는 베르다를 활용해 공공민원 분석 전용 플랫폼을 구축하고 상담 내용을 실시간 분석한다. 순수 국내 기술로 만든 반도체를 기반으로 ‘K-LLM’이 돌아가고 있는 셈이다. 이처럼 추론 중심 국내 AI 반도체 기술이 발달하면서 관련 자체 생태계가 빠르게 발달하고 있다는 평가가 나온다.

◇수출까지 시작한 K-AI 반도체

과학기술정보통신부는 4일 배경훈 부총리 겸 과기정통부 장관과 AI 반도체 기업, 클라우드·소프트웨어 등 수요 기업 관계자 등 300여명이 참석한 가운데 ‘K-AI 반도체 성장 포럼’을 열었다. 이날 포럼에 참석한 기업들은 함께 열린 우수 실증 성과 발표회에서 “국산 AI 반도체를 기반으로 한 생태계가 빠르게 커지고 있다”고 입을 모았다.

일례로 SK텔레콤의 AI 통화요약 서비스 ‘에이닷’은 일 평균 5000만 건의 통화를 처리하는데, 이를 위한 거대언어모델(LLM) ‘에이닷엑스’에는 리벨리온의 ‘아톰맥스’ 신경망처리장치(NPU)가 쓰인다. 국산 LLM이 국산 NPU를 통해 서비스되는 소버린 AI가 현실화되고 있는 사례다. 또 다른 AI 칩 기업인 딥엑스는 자사 NPU ‘DX-M1’ ‘DX-M2’를 활용해 현대자동차 로보틱스랩에 적용하고 양산까지 협력을 이어가기로 했다.

해외 진출도 늘려가는 중이다. 이날 영국 웨스트미들랜즈주 교통약자 이동지원 플랫폼에 쓰이는 디노티시아의 VPDU(벡터데이터전용) 칩 등 우수 사례가 발표됐다. 과기정통부 관계자는 “영국 대만 베트남 중국 등 해외시장에서 3000만 달러 규모 이상의 수출 계약을 체결했다”고 설명했다.

◇기술력 기반으로 생태계 확산

국산 AI 반도체 기반 생태계는 클라우드 업계로도 확산하고 있다. KT클라우드는 이날 국내 업계 최초로 국산 반도체 기반 공공 전용 NPU 서버 상품을 출시했다고 발표했다. 이른바 ‘구독형 NPU 서비스’(NPUaaS)로, 이 NPU 서버를 사용하는 공공기관은 공공 보안 가이드라인과 정책 가점 요건을 동시에 충족할 수 있다.

KT클라우드 관계자는 “최근 AI 비중이 학습에서 추론으로 빠르게 이동하고 있다”며 “추론에 최적화된 국산 NPU는 AI 인프라 운영 효율을 높이고 비용 부담을 낮출 수 있는 좋은 대안이 됐다”고 말했다. 삼성SDS 또한 다음달 퓨리오사AI의 레니게이드 NPU를 사용해 구독형 서비스를 위한 서버를 구축한다. 이 서버에 국내 LLM인 엑사원도 탑재할 계획이다.

이처럼 국내 AI 반도체 쓰임새가 확산하고 있는 것은 기술력이 그만큼 올라왔기 때문이라는 평가다. 과기정통부와 한국정보통신기술협회 등이 퓨리오사AI(레니게이드)와 리벨리온(리벨100) 칩을 대상으로 시험 검증을 진행한 결과 △사용자 응답 지연 최소화 △긴 답변 생성 시 속도 안정성 △단일 사용자 시간당 처리량 등 모든 항목에서 기준을 웃도는 것으로 나타났다.

박윤규 정보통신산업진흥원장은 “AI반도체는 미래 산업 주도권과 기술 안보를 뒷받침 하는 핵심 기반 산업”이라며 “이를 기반으로 실제 활용되는 산업 생태계를 만드는 게 중요하다”고 설명했다.

박한신/이영애 기자 phs@hankyung.com