"앤스로픽 AI, 美공격에 악용될 가능성"…보안결함 제기되자 통제

“이건 초강력 무기다. 사용하려면 총기 허가증이 필요할 정도다.”

다리오 아모데이 앤스로픽 최고경영자(CEO)는 자사 최첨단 인공지능(AI) 모델 미토스를 초기에 사용한 기업의 반응을 이렇게 전했다. 미토스 개발을 마치고도 공개를 미룬 이유를 설명하는 과정에서다. 이 같은 우려는 결국 미토스 계열 AI 모델 미토스5와 페이블5에 대한 해외·외국인 접속을 전면 차단하는 결과로 이어졌다. 이들 모델이 사이버 공격에 악용될 수 있다는 게 미국 정부 판단이다. 최고 수준 AI 모델의 접근권을 미국이 사실상 독점하면서 AI 기술의 글로벌 불균형에 대한 우려와 논란이 커질 전망이다.

◇앤스로픽 반발에도 서비스 중단 명령

13일(현지시간) 폴리티코에 따르면 도널드 트럼프 행정부와 앤스로픽은 지난 11일부터 이틀간 페이블5·미토스5 서비스 중단을 두고 물밑에서 긴박하게 움직였다. 발단은 아마존의 제보였다. 페이블5를 자사 플랫폼 ‘베드록’에서 운용 중인 아마존의 앤디 재시 최고경영자(CEO)는 해커들이 이 모델에 적용된 안전 장치를 풀고 기업 사이버 공격에 악용할 수 있다는 우려를 트럼프 행정부 관계자에게 전달했다.

다음 날 백악관은 수지 와일스 백악관 비서실장, 숀 케언크로스 국가사이버국장 등의 주도로 긴급회의를 열었다. 회의 직후엔 아모데이 CEO에게 두 모델의 서비스를 자발적으로 중단하라고 요구했다. 아모데이 CEO는 “‘탈옥’으로 발견된 취약점은 단순하며 다른 모델에서도 재연될 수 있는 수준”이라고 맞섰지만 상무장관 명의의 서한이 전달되자 결국 서비스 중단을 결정했다.

미국 외 국가들은 첨단 AI 모델 접근권을 미국 정부 판단에 의존해야 하는 상황에 놓였다. 안톤 라이히트 카네기 국제평화재단 연구원은 “이번 조치는 미국을 제외한 대부분의 국가가 AI 정책 논의에서 배제됐다는 점을 잘 보여준다”고 말했다.

특히 미국 내 외국인에게까지 모델 이용을 금지한 것에 대해 최첨단 무기와 핵탄두, 반도체 분야 통제 수준을 적용했다는 평가가 나온다. 이들 산업에서 미국은 외국인 연구원에게 기술을 보여주는 행위만으로도 수출 통제를 어긴 것으로 간주한다. 앤스로픽이 서비스 전면 중단을 택한 것도 연구 인력 상당수가 외국인이기 때문인 것으로 알려졌다.

미 상무부는 올초 AI 모델의 ‘가중치’를 수출관리규정(EAR) 목록에 올리며 AI를 전략자원으로 바라보기 시작했다. EAR은 핵, 군수품, 반도체 등 민군 이중용도로 쓰일 가능성이 있는 물품의 수출을 통제할 수 있게 관리하는 규정이다.

◇국내 사용자 혼란·불만도 커져

최근 미토스 접근권을 확보하며 앤스로픽과 AI 보안 협력을 늘리려던 국내 기업·기관들도 수출 통제의 직격탄을 맞았다. 앤스로픽은 2일 미토스 기반 보안 협의체인 ‘프로젝트 글라스윙’ 참여 대상을 확대하면서 삼성전자, SK하이닉스, SK텔레콤, 한국인터넷진흥원 등을 포함시켰다. 하지만 이번 조치로 이들의 접근 또한 차단됐을 가능성이 높다. 과학기술정보통신부 관계자는 “앤스로픽 측과 지속적으로 소통해온 만큼 차분하게 사실관계를 파악 중”이라고 말했다.

잠재 적국뿐만 아니라 최우방국의 접근까지 전면 차단한 미국의 조치에 각국에선 ‘소버린 AI 모델’ 논의가 다시 불붙고 있다. 미국이 AI에서도 협력보다는 ‘미국 우선주의’를 적용할 수 있다는 우려에서다. 조르당 바르델라 프랑스 국민연합(RN) 대표는 12일 X(옛 트위터)에 “자체 AI 모델을 신속하게 개발하지 않는 국가는 다른 강대국의 선택에 점점 더 의존하게 될 것”이라고 경고했다. 호주 법률 AI 기업 아이자쿠스AI는 “해외 대규모언어모델(LLM)에 의존하는 서비스는 수출 통제 지침에 따라 언제든지 차단될 수 있다는 뜻”이라고 지적했다.

페이블5를 이용하던 국내 일반 이용자 사이에서도 불만이 속출하고 있다. 한 개발자는 “페이블5를 이용해 진행하던 작업이 갑자기 멈췄다”고 토로했다. 다른 사용자는 “페이블5 성능이 너무 뛰어나 이걸 계속 공개할 수 있을까 하는 생각이 들던 차에 서비스가 막혔다”고 했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com