기업 AI 확산의 역설…에이전트 난립 해결책 골몰

미국 기업들이 인공지능(AI) 에이전트를 대규모로 도입하면서 너무 많은 챗봇을 관리해야 하는 문제에 직면하고 있다. 생산성 향상을 위해 확산된 AI 도구가 보안 위험, 비용 증가, 중복 업무라는 새로운 부담으로 돌아오고 있다는 평가가 나온다.

직원 AI 에이전트 활용에 보안 문제 커져

19일 월스트리트저널(WSJ)에 따르면 리프트, 다비타, 깃랩 등 기업들은 최근 AI 에이전트 확산을 관리하는 문제를 다루고 있다. 이들 기업은 AI 활용을 위축시키지 않으면서도 무분별한 에이전트 증가를 억제하려 하고 있다.

이 문제는 ‘AI 에이전트 스프롤’로 불린다. 앤스로픽의 클로드 코워크 같은 플랫폼 덕분에 기술직이 아닌 직원도 독립적으로 움직이는 AI 봇을 쉽게 만들 수 있게 된 것이 원인 중 하나다. 여러 에이전트를 조율하는 오픈소스 도구 오픈클로도 직장 내 에이전트 확산에 영향을 주고 있다.

AI 에이전트가 많아지는 것은 기업 정보기술 부서에 사이버보안과 관리 문제를 만든다. 특히 같은 일을 하는 에이전트가 여러 개 생기면 결과가 충돌하거나 권한 관리가 복잡해질 수 있다. 컴퓨팅 비용도 늘어난다.

벤앤제리스를 보유한 매그넘아이스크림의 미주 지역 최고정보책임자 마이클 프리드랜더는 “누구나 할 수 있기 때문에 결국 많은 사람이 같은 유형의 에이전트를 갖게 될 것”이라고 말했다. 그는 "회사 내부에서 만들어진 AI 에이전트를 언젠가는 압축하고 중앙화해야 하지만, 그 과정에서 직원들의 창의성을 방해하지 않는 것이 목표"라고 설명했다.

비용도 중요한 변수다. 프리드랜더는 "토큰 사용량과 비용이 쌓이면 이를 어떻게 재정적으로 책임 있는 모델 아래 관리할지의 문제가 생긴다"고 말했다. 에이전트가 많을수록 사용량 추적과 비용 배분, 성과 평가의 중요성이 커진다는 의미다.

도입 속도 비해 관리 체계 미흡

시장조사업체 가트너는 향후 2년 안에 글로벌 포천500 기업 한 곳이 평균 15만개가 넘는 AI 에이전트를 운영하게 될 것으로 예상했다. 그러나 AI 에이전트 거버넌스를 충분히 갖췄다고 보는 조직은 13%에 그쳤다. 도입 속도에 비해 관리 체계가 뒤처져 있다는 뜻이다.

현재 대부분의 AI 에이전트는 사무직 근로자가 코드 작성, 이메일 요약, 고객지원, 데이터 분석 같은 업무에 사용한다. 더 복잡한 에이전트는 심층 조사나 전체 업무흐름 자동화에도 활용되고 있다. 업무 범위가 넓어질수록 에이전트가 기업 시스템에 미치는 영향도 커진다.

문제는 이들이 어디에서 실행되는지 파악하기 어렵다는 점이다. 사파이어벤처스 공동창업자이자 대표인 자이 다스는 "에이전트가 직원 노트북, 서버, 다른 회사 시스템에서 돌아갈 수 있어 IT 부서가 모두 추적하기 어렵다"고 말했다. 관리되지 않는 봇은 보안 취약점이나 규제 리스크가 될 수 있다.

신용평가 점수로 알려진 피코의 마이크 트케이 최고고객책임자 겸 최고정보책임자는 "직원 3500명이 매일 수십 개의 새 AI 에이전트를 만들고 있다"고 말했다. 그는 “매일 말 그대로 새로운 에이전트가 만들어지고 있으며, 거의 모든 조직 계층에서 발생하고 있다”고 설명했다.

이 회사의 AI 에이전트는 이메일 관리나 보고서 작성 같은 개인 수준의 봇부터 여러 프로젝트의 데이터 세트를 관리하는 대규모 에이전트까지 다양하다. 회사는 같은 문제에 대해 너무 많은 에이전트가 서로 다른 결과를 내놓는 상황을 막기 위해 거버넌스 관행을 도입하고 있다. 트케이는 “그 위험을 인식하고 있다”고 말했다.

AI 에이전트 통제 나선 기업들

다비타에서는 직원들이 1만개가 넘는 AI 에이전트를 만들었다. 매드후 나라심한 최고정보책임자는 "사이버보안 위험을 막기 위해 소비자용 AI 에이전트 도구를 회사 환경에 들여오지 않는다"고 말했다. 그는 “우리는 환자를 돌보기 때문에 안전하게 확장해야 한다”고 밝혔다.

다비타는 내부 플랫폼도 개발했다. 이 플랫폼은 필요할 때 추론 사용량을 줄이고 토큰 비용을 관리할 수 있게 한다. 동시에 성과가 가장 좋은 AI 에이전트에는 토큰 지출을 늘릴 수 있도록 했다. 비용 절감과 고성능 봇 육성을 함께 관리하려는 방식이다.

리프트도 선제적으로 대응하고 있다. 리프트의 AI 전환 담당 부사장 제이슨 보그리넥은 "회사가 직원들에게 클로드를 배포했고, 클로드 에이전트가 특정 업무를 처리하도록 돕는 지침 묶음인 ‘스킬’을 IT 승인 방식으로 공유하는 방법을 마련했다"고 말했다. 리프트는 모든 에이전트를 위한 IT 통제 기반 중앙 플랫폼도 만들고 있다.

보그리넥은 "에이전트가 너무 많아지는 것은 규제 의무가 많은 상장회사에 도전 과제"라고 말했다. 공개 기업은 데이터 접근, 감사 기록, 사용 권한, 비용 통제를 더 엄격히 관리해야 하기 때문이다.

앤스로픽은 IT 관리자를 위한 기능을 내놓고 있다고 밝혔다. 역할 기반 접근권한, 지출 통제, 사용 분석, 감사 기록, 선별된 플러그인 라이브러리 등이 포함된다. 기업 고객이 에이전트 확산을 통제하면서도 업무 활용을 유지하도록 지원하려는 조치다.

깃랩의 마누 나라얀 최고정보책임자는 "기존 거버넌스와 안전장치가 AI 에이전트 확산을 막는 데 버티고 있다"고 말했다. 다만 그는 "단기적으로 에이전트 스프롤이 발생할 것이며, AI가 제공하는 기회 때문에 회사가 이를 어느 정도 받아들이고 있다"고 밝혔다.

황정수 기자 hjs@hankyung.com