시스코 “AI 디펜스, 기업용 AI 보안 우려 해소”

시스코가 4월 3일 삼성동 코엑스에서 ‘시스코 커넥트 코리아 2025(Cisco Connect Korea 2025)’를 개최했다. 이는 최신 IT 기술 및 트렌드를 소개하는 시스코의 대표 연례 행사로, 올해는 기업의 AX를 돕는 시스코의 인공지능(AI) 전략이 핵심 주제였다.

시스코 커넥트 코리아 2025 / 출처=IT동아

이날 행사와 함께 진행된 미디어 라운드테이블에서 시스코는 AI 보안 솔루션 및 AI 에이전트를 소개했다. 최지희 시스코코리아 대표는 “지난 40년간 네트워킹 분야를 이끌어온 시스코는 향후 보안, AI, 데이터 기업으로 거듭날 것”이며, “AI 적용 사례가 본격적으로 등장하면서 네트워크, 스토리지, 컴퓨팅의 통합과 AI 보안이 큰 화두가 될 것”이라고 말했다. 시스코는 지난해 AI 보안 기업 5곳을 인수한 바 있으며, 특히 이번 행사는 보안·데이터 분석 기업 스플렁크(Splunk)와의 통합 이후의 첫 공식 행사다.

시스코의 AI 보안 전략의 중심에는 ‘AI 디펜스(AI Defense)’가 있다. AI 디펜스는 기업이 보안이 보장된 환경에서 AI 애플리케이션을 개발 및 배포할 수 있도록 지원하는 엔드투엔드 솔루션이다. 이 솔루션은 시스코의 통합 보안 플랫폼 ‘시스코 시큐리티 클라우드(Cisco Security Cloud)’에 통합돼 네트워크 단에서 AI 기반 보안을 구현한다. 아난드 라가반(Anand Raghavan) 시스코 AI 제품 총괄 부사장은 “시스코의 AI 디펜스는 기업 내에서 AI에 접근하는 직원을 보호하고, 기업의 AI 애플리케이션을 보호한다. 이로써 기업이 AI 보안을 정의하는 데 필요한 가드레일(안전장치) 역할을 한다”고 설명했다.

아난드 라가반(Anand Raghavan) 시스코 AI 제품 총괄 부사장 / 출처=IT동아

최근 기업들은 AI 앱 개발 시 여러 AI 모델 및 클라우드를 활용하며, 모델 개발자, 앱 개발자 등 다양한 이해관계자가 협력한다. 이러한 복잡성 때문에 새로운 보안 위협에 직면하고 있다. 시스코 커넥트 코리아 기조 연설에서 칼 솔더 시스코 호주 및 뉴질랜드 최고기술책임자(CTO)도 “거대언어모델(LLM)은 약 200개가 넘는 취약점을 가지고 있으며, 모델 개발부터 배포까지 사용자가 도달하는 모든 단계에 위험이 존재한다”고 말했다. 예컨대, ‘간접 프롬프트 인젝션 공격’은 조작된 입력 프롬프트를 통해 파인튜닝 과정을 거친 모델이 유해한 질문에도 답변을 만드는 공격을 말한다.

AI 디펜스는 기업 내에서 사용되는 AI 모델·애플리케이션·데이터셋을 탐색하고, 보안 취약점을 찾아낸다. 먼저 AI 디펜스는 기업 내 AI 앱 사용 기록을 가시적으로 보여줌으로써 직원을 보호하고, 사용자별 접근 권한을 부여할 수 있게 한다. 또한 기업이 AI 모델 개발 시 오픈소스를 자사의 환경에 맞춰 맞춤형 모델로 파인튜닝하는 과정에서 AI 디펜스는 개발 검증 단계의 AI 모델 취약성을 확인하고, 모델 배포 시 개인정보 보호를 보장한다.

아난드 라가반 부사장은 “기업에서 AI 활용 영역이 확대되면서 ▲모델 사용 가시성 확보 ▲배포 전 모델 검증 ▲배포 후 모델 보호를 위한 안전장치 마련 등 3가지가 중요해졌다”며, “시스코 AI 디펜스는 독점 데이터 확보, 자동화된 레드팀 테스트, 시스코 보안 플랫폼과의 통합 등에서 차별화된다”고 말했다. 특히 시스코는 내부 보안 전담 조직으로부터 위협 인텔리전스 데이터를 수집하고, AI 알고리즘 레드팀을 통해 200여 개 카테고리에 해당하는 보안 검증 테스트를 진행한다. 자체 생성 AI 개발을 위해 AI 전문기업 ‘로버스트 인텔리전스’를 인수하기도 했다.

아난드 라가반 부사장은 주요 클라우드 기업의 AI 보안 정책과 비교하며, 시스코의 강점으로 방대한 위협 인텔리전스 데이터를 꼽았다. 그는 “구글, 마이크로소프트 등 하이퍼스케일러들은 기본적인 안전장치를 제공하지만, 시스코는 데이터센터부터 네트워크 단에 이르는 데이터 수집을 기반으로 통합 보안을 제공한다”고 덧붙였다.

데이비드 코벤트리(David Coventry) 시스코 APJC(아시아태평양·일본·중국) 협업 부문 매니징 디렉터 / 출처=IT동아

한편, 이날 시스코는 비대면 업무 환경을 지원하는 협업툴 ‘웹엑스(Webex)’의 AI 에이전트를 함께 공개했다. 시스코의 단일 AI 인터페이스에서 작동하는 웹엑스 AI 에이전트는 사용자와 자연스럽게 대화하며, 결제 등 백엔드 시스템과 통합돼 편의성을 제공하는 멀티모달AI다.

데이비드 코벤트리(David Coventry) 시스코 APJC(아시아태평양·일본·중국) 협업 부문 매니징 디렉터는 “웹엑스의 AI 에이전트는 AI와 인간 상담원을 결합해 고객 응대 시간을 단축한다. 실시간 대화를 통해 고객의 요구를 분석해 해결책을 제안하거나, 스크립트 기반으로 사전 설정된 응답을 제공하는 가상 상담원 역할을 수행한다”고 말했다. 웹엑스 AI 에이전트는 2분기 중 9개 언어로 출시되며, 3분기에 한국어 지원이 시작될 예정이다.

시스코는 과거 네트워킹·보안·협업툴 등 다른 솔루션을 제공해왔지만, 앞으로는 AI 기술을 중심으로 ‘원 시스코’ 전략을 내세우며 모든 솔루션을 통합적으로 제공하는 데 박차를 가한다. 데이비드 코벤트리 매니징 디렉터는 “시스코는 앞으로 다양한 AI 포트폴리오 솔루션 개발에 약 10억 달러(한화 1조 4600억 원)를 투자할 계획이며, 기업의 수익 창출뿐만 아니라 고객 경험 향상에도 기여하겠다”고 포부를 드러냈다.

AI의 등장 이후, 지난해에는 생성 AI 모델 활용 방안을 고민하는 단계에 그쳤다면, 올해는 본격적으로 AI를 안전하게 활용하며 성과를 창출하는 게 화두가 됐다. AI 보안 위협이 끊임없이 고도화되는 가운데, 시스코의 AI 보안 솔루션이 기업의 AI 결실을 위한 방어막 역할을 할 수 있을지 주목된다.

IT동아 김예지 기자 (yj@itdonga.com)