미국의 앤트로픽 때리기…해묵은 갈등에 '보복' 분석도

미국 행정부가 앤트로픽의 최신 인공지능(AI) 모델에 적용한 외국인 사용 제한 조치를 다른 AI 기업으로 넓히지는 않을 것으로 알려졌다.

미 정보기술(IT) 전문매체 디인포메이션은 13일(현지시간) 미 정부 관계자를 인용해 이같이 보도했다.

미 정부는 앞서 12일 앤트로픽의 최신 AI 모델 '미토스5'와 '페이블5'에 대해 외국 기관과 개인의 접속을 막는 수출 통제 지침을 발표했다. 앤트로픽은 해당 지침을 따르기 위해 일단 모든 이용자의 접속을 차단했다.

미 정부가 문제 삼은 것은 '페이블5'의 안전장치 우회 가능성이다. 페이블5는 사이버 보안 등 민감한 영역의 명령, 즉 프롬프트를 차단하도록 설계된 모델이다. 정부는 이 안전장치를 우회하는 이른바 '탈옥'(jailbreaking)이 가능하다는 점을 우려한 것으로 전해졌다.

다만 앤트로픽은 정부 조치가 오해에 근거한 것이라고 반박했다. 앤트로픽은 같은 수준의 탈옥 가능성은 오픈AI의 'GPT-5.5'를 비롯한 다른 AI 모델에서도 나타날 수 있다고 주장했다.

데이비드 색스 대통령과학기술자문위원회 공동위원장은 앤트로픽의 반박을 정면으로 비판했다.

색스 위원장은 이날 엑스(X·옛 트위터)에 "페이블을 테스트 중이던 앤트로픽과 미국 정부 양측의 매우 신뢰할 수 있는 파트너가 안전장치를 우회하는 방법을 찾아냈다"고 밝혔다.

그는 "(미 정부) 관리자는 다리오(다리오 아모데이 앤트로픽 CEO)에게 우회 방법을 수정하거나 모델 배포를 중단할 것을 요구했으나 다리오가 이를 거절했다"고 했다.

색스 위원장은 "사이버 무기의 작동을 가능하게 하는 우회 방법을 어떻게 '심각하지 않다'고 규정할 수 있는지 이해하기 어렵다"고 했다. 이어 "앤트로픽의 반응은 안전한 AI 연구 커뮤니티로서의 브랜드 평판과도 크게 어긋난다"고 지적했다.

월스트리트저널(WSJ)은 색스 위원장이 언급한 '신뢰할 수 있는 파트너'가 아마존이라고 보도했다.

WSJ에 따르면 앤디 재시 아마존 CEO는 자사 연구원들이 앤트로픽의 페이블5 모델에서 사이버 공격에 활용될 수 있는 우회로를 발견했다고 정부에 알렸다. 이후 정부가 해당 모델에 대한 차단 지침을 내렸다는 것이다.

미 정부 보안 인력은 아마존의 주장을 검증한 뒤 외국 정부와 기업, 개인이 이 도구에 접근하지 못하도록 하는 것이 가장 직접적인 대응이라고 판단한 것으로 전해졌다. 백악관 고위 관계자는 도널드 트럼프 대통령이 이 조치를 최종 승인했다고 밝혔다.

아마존은 앤트로픽의 핵심 투자자다. 2023년부터 현재까지 앤트로픽에 총 130억달러를 투자했다. 향후 앤트로픽의 상업적 이정표 달성과 연계해 200억달러를 추가 투자하기로도 했다.

동시에 아마존은 올해 들어 오픈AI에도 최대 500억달러 투자를 약정했다. 앤트로픽과 오픈AI 양쪽에 모두 큰 규모의 투자를 걸고 있는 셈이다.

아마존은 이번 사안에 대해 "수많은 민간·공공 부문 고객을 지원하는 선두 클라우드 제공사로서 정부가 잠재적 보안 위험에 대해 우리에게 자문하는 것은 드문 일이 아니다"라고 밝혔다. 다만 "이와 같은 논의의 구체적인 내용은 공유하지 않는다"고 했다.

이번 조치를 두고 앤트로픽과 미 행정부의 기존 갈등이 영향을 미쳤을 수 있다는 관측도 나온다. WSJ은 앤트로픽이 국방부 등 미 행정부와 소송전을 벌이고 있다는 점을 짚었다.

싱크탱크 R스트리트 연구소의 애덤 티어러 선임연구원은 "우리는 현재 이 나라에서 AI의 정치화가 심화하고 첨단 컴퓨팅에 대한 통제권이 집중되는 것을 목도하고 있다"고 말했다.

상무부 산업안보국 출신인 케이트 코런 전략국제문제연구소(CSIS) 경제연구실 부실장은 안보 우려가 있다는 점은 인정하면서도 "앤트로픽에 대한 백악관의 반감이 이번 결정에 영향을 미쳤을 것으로 본다"고 분석했다.

백악관 고위 관계자는 이번 조치가 모델 안전성과 관련된 것이라며 국방부는 크게 관여하지 않았다고 설명했다.

색스 위원장도 "이번 조치를 과거 전쟁부-앤트로픽 갈등과 연관 지어 오도하려는 시도는 잘못된 것"이라고 했다.

홍민성 한경닷컴 기자 mshong@hankyung.com