프렌들리AI, AWS에 AI 추론 가속화 애드온 탑재… 엔터프라이즈 AI 시장 공략

허깅페이스 이어 AWS 탑재로 성장 박차

생성형 AI가속 플랫폼 기업 프렌들리AI는 AI 추론 가속화 솔루션 ‘프렌들리 컨테이너’를 아마존웹서비스(AWS)의 쿠버네티스 서비스인 AWS EKS에서 애드온 형태로 서비스한다고 13일 밝혔다. AWS가 전세계 클라우드 시장 점유율 1위인 만큼 AWS EKS 역시 쿠버네티스 분야에서 점유율이 높다.

이번 서비스 출시는 AWS 환경을 사용하는 엔터프라이즈 기업들을 위한 것이다. AWS EKS 환경에서 명령어(command) 하나로 프렌들리 컨테이너를 설치하여 AI 추론 가속화 기술을 사용할 수 있게 됐다.

AWS EKS에 애드온을 제공하는 기업은 시스코(Cisco), IBM, 데이터독(Datadog) 등 규모있는 글로벌 기업들인데, 프렌들리AI는 글로벌에서도 스타트업으로서는 이례적으로 애드온 기술 개발에 성공했다. 이로써 프렌들리AI는 AWS를 사용하는 엔터프라이즈급 글로벌 대기업들을 대상으로 서비스를 확장하게 됐다.

프렌들리 컨테이너는 프렌들리AI의 AI 추론 가속화 기술을 도커 컨테이너 형태로 제공하는 것이다. 이를 사용하면AI 서비스의 응답 속도가 빨라지고, GPU 자원 비용 절감 및 운영 효율성 증가 효과를 볼 수 있다.

프렌들리 컨테이너는 애드온 형태로 간단하게 설치할 수 있으므로 AWS 클라우드 환경에서 간편 도입할 수 있다. AWS 상에서 결제하여 구독하는 결제 편의성까지 갖췄다.

프렌들리AI는 추론 속도 부문 세계 1위(Artificial Analysis 벤치마크) GPU API 제공사이며, 스타트업으로는 세계에서 유일하게 선정된 허깅페이스의 공식 모델 배포 파트너이다. 프렌들리AI는 허깅페이스를 이용하는 전세계 AI 개발자･연구자들에게 이름을 각인시킨 데 이어서, AWS 엔터프라이즈 AI 시장도 동시에 공략하며 보폭을 넓히고 있다.

전병곤 프렌들리AI 대표는 “AWS 애드온 탑재는 AWS 환경을 이용하는 글로벌 엔터프라이즈 고객층에 직접 접근할 수 있는 전략적 발판이 될 것”이라며 “고객사들이 AI로 도약할 수 있도록 지원하면서 AI 추론 가속화의 대표 주자로 자리 잡을 것”이라고 말했다.

최용석 동아닷컴 기자 duck8@donga.com