“SW 약점 찾아내 스스로 방어”… AI, 이젠 성능 넘어 ‘보안’ 경쟁

21 hours ago 3

빅테크 ‘AI 주도권 잡기’ 2라운드
“악용 여부 검증후 보안패치 생성”
아마존, 기업 대상 AI 도구 공개… MS도 ‘보안 AI 에이전트’ 선보여
“공공 인프라, 사이버 범죄 방어”… 과기부-앤스로픽 ‘AI 보안’ MOU

앤스로픽이 개발한 인공지능(AI) ‘미토스’가 보안 취약점 탐지 능력을 선보이며 전 세계를 ‘미토스 쇼크’에 몰아넣은 데 이어 아마존이 보안 취약점을 보완하는 새로운 AI 보안 도구를 내놨다. AI 모델의 성능을 두고 경쟁해 오던 빅테크들이 이제는 보안 영역에서 새롭게 맞대결을 펼치며, 빅테크들의 AI 주도권 전쟁이 2라운드로 접어들었다는 평가가 나온다.

● 취약점 찾아 보안 패치까지… 기업 고객 겨냥한 AI 도구 봇물

17일(현지 시간) 아마존웹서비스(AWS)는 소프트웨어 코드의 보안 약점을 보완하는 AI 도구 ‘AWS 컨티뉴엄’을 공개했다. 컨티뉴엄은 프로그램 코드에서 발견된 보안 취약점을 위험도에 따라 우선순위를 매기고, 실제 악용될 수 있는지를 검증해 이를 보완하는 패치를 만드는 작업까지 스스로 수행해 낸다. 이전의 AI가 보안 취약점을 찾는 데 집중했다면, 컨티뉴엄은 취약점에 대한 ‘보안 패치’까지 생성해 내는 게 결정적 차이다. AWS는 보안 블로그를 통해 “미토스와 같은 AI 모델은 기계의 속도로 소프트웨어의 취약점을 찾아내고 복잡한 공격 경로를 추론할 수 있어, 발견된 보안 취약점의 수가 기하급수적으로 증가하고 있다”며 개발 배경을 설명했다.

최근 보안에 특화된 AI 도구를 내놓은 것은 AWS만이 아니다. 마이크로소프트도 올해 5월 여러 AI 에이전트를 이용해 보안 취약점을 찾아 대응까지 해내는 ‘MDASH’(다중 모델 에이전틱 스캐닝 하네스)를 출시했다. MDASH는 100개 이상의 특화 에이전트가 취약점 발견, 검증, 악용 가능성 증명까지 수행한다는 게 MS 측의 설명이다.

미토스가 사람이 수십 년간 발견하지 못한 보안 취약점을 단숨에 찾아내면서 기존 소프트웨어의 보안 시스템이 결코 안전하지 않음을 보여주자, 기업들 사이에서는 보안에 대한 불안감이 빠르게 확산되고 있다. 글로벌 클라우드 시장의 큰손인 AWS와 MS가 누구보다 빠르게 보안 패치용 AI 도구를 출시한 것도 이런 이유에서다.

AI 엔터프라이즈(기업) 시장에서 보안이 중요한 지표로 떠오르며, AI 연산 및 추론 성능을 평가하던 여러 ‘벤치마크’와 더불어 보안 평가 프레임워크들도 많은 관심을 받고 있다. 대표적 지표인 ‘사이버짐’에 따르면 현재 가장 보안 수준이 높은 모델은 MS의 MDASH이며 앤스로픽의 미토스, 오픈AI의 ‘GPT-5.5’와 ‘GPT-5.4’, 중국 지푸AI의 ‘GLM-5.1’ 등이 그 뒤를 잇고 있다.

● ‘보안 비상벨’ 울리며 韓 정부도 방어 체계 구축

전문가들은 공공 인프라 역시 사이버 범죄 조직의 주요 타깃인 만큼 사이버 공격을 효과적으로 방어할 수 있는 국가 차원의 대응도 중요해지고 있다고 지적한다. 이에 따라 과학기술정보통신부는 18일 앤스로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MOU)을 체결했다고 밝혔다. 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고, 자율형 AI 에이전트 레드팀 평가(취약점을 찾아내기 위해 적대적인 입장에서 파고들어 검증) 등을 추진할 예정이다. 국가AI전략위원회 역시 이날 ‘보안취약점 상시 신고조치제’ 제도화 방안을 구체화하겠다고 밝혔다. 화이트해커가 실제 운영 중인 기업 및 기관의 시스템을 허용된 범위 내에서 탐색하고 발견된 보안 취약점을 신고하고 조치하는 제도로, 현재 15개 기업과 기관을 대상으로 시범 사업을 진행하고 있다.

민간에서도 두나무, LG유플러스, 포스코DX, SK AX, 현대자동차그룹, LG전자, 금융결제원, 사이버보안 기업 티오리 등 총 27개 기업이 AI 보안 기술을 공유하는 협력체 ‘프로젝트 캐노피’를 17일 출범한 바 있다.

한편 미국 정부는 국가 안보를 앞세워 앤스로픽의 ‘미토스 5’ ‘페이블 5’의 수출을 여전히 통제하고 있다. 아마존 연구원들이 사이버 범죄에 악용되지 못하도록 마련한 페이블 5의 안전장치를 우회하는 데 성공하며, 이 사실을 정부에 알린 것이 이번 조치의 발단이 된 것으로 알려졌다.

최지원 기자 jwchoi@donga.com
김재형 기자 monami@donga.com