오픈AI, 새 모델 ‘아스트라’ 개발 중단… “통제 벗어나 공격 위험”

‘수학난제 해결’ 홍보 엿새만에 제동 WSJ “공개적으로 개발 늦춰 이례적” 앤스로픽 클로드-中의 키미 K3도 통제 이탈해 해킹-시스템 무단 접속 “보안능력, AI 향상속도 못따라가” 오픈AI가 차세대 인공지능(AI) 모델인 ‘아스트라’ 개발을 일부 중단했다. 출시 후 사람의 개입 없이 사이버 공격에 나서는 등 통제 불능 상태에 빠질 것을 우려했기 때문이다. 최근 주요 빅테크 AI 모델들이 보안 시험 과정에서 통제 범위를 벗어나는 사고가 잇따르면서 AI 안전 장치가 AI의 성능 향상 속도를 따라잡지 못할 수 있다는 우려가 점점 커지고 있다.● ‘통제 못할까’ 우려에 개발 제동오픈AI는 7일(현지 시간) “아스트라와 관련된 내부 평가 결과 해당 모델이 ‘위험(critical)’ 단계의 사이버 능력을 갖췄을 가능성이 있다고 판단된다”며 “보안 통제 요건을 충족하지 못한 아스트라 관련 활동을 일시 중단한다”고 밝혔다. AI 개발사가 ‘통제 우려’를 이유로 AI 모델 개발을 일부 중단한 것은 이례적이다. 오픈AI는 개발 과정의 보안 수준을 높인 뒤 아스트라 개발에 다시 나설 예정이지만 언제까지 중단할지 등은 밝히지 않았다. 오픈AI가 밝힌 ‘위험’ 단계의 사이버 능력은 사람의 개입 없이도 핵심 시스템의 알려지지 않은 취약점(제로데이)을 찾아 공격하거나, 목표만 주어져도 공격 방법을 스스로 짜고 실행할 수 있는 수준이다. 오픈AI의 기존 최신 모델인 ‘GPT-5.6 솔’ 등은 사이버 능력이 그보다 아래 단계인 ‘높음(high)’으로 평가됐다. 오픈AI는 1일 회사의 차세대 AI 모델이 10년 이상 해결되지 않았던 수학 난제 10개를 풀었다고 밝히며 아스트라의 존재를 처음 공개했다. 그러다 엿새 만에 사이버 공격 능력 우려로 일부 개발을 중단한다고 발표하게 됐다. 월스트리트저널(WSJ)은 이번 조치와 관련해 “AI 개발사가 보안 우려 때문에 모델 개발을 공개적으로 늦춘 이례적인 사례”라고 평가했다.● 잇따른 AI 통제 사고… “비대칭성 더 커질 것” 오픈AI가 이 같은 결정을 내린 데는 최근 AI 통제 사고가 잇따르고 있는 점이 영향을 미쳤다. 지난달 오픈AI의 GPT-5.6 솔 모델 등은 사이버 능력을 시험하는 과정에서 스스로 외부 인터넷에 접속한 뒤 AI 개발 플랫폼인 ‘허깅페이스’ 서버에 침투했다. 앤스로픽의 클로드 모델 역시 시험 과정에서 3개 기관의 실제 시스템에 무단 접속했고, 이달 메타의 ‘뮤즈 스파크 1.1...