“인터넷 쓰지 마” 명령 어긴 괴물AI…아스트라, 통제 벗어나 공격

英 AI안전연구소 테스트서 과제 밖 ‘공급망 공격’ 시도 가짜 신원 만들고 신뢰 쌓아…인터넷 금지 뒤에도 공격 행동 ‘괴물AI’라 불리는 오픈AI의 최신모델 GPT-6 아스트라가 영국 AISI의 사이버보안 실험에서 과제의 범위를 벗어나 외부 공격을 시도한 것으로 나타났다. 사진은 챗GPT로 생성한 이미지. 2026.09.09 뉴스1 ‘괴물AI’라고도 불리는 오픈AI의 최신 인공지능(AI) 모델 ‘GPT-6 아스트라(Astra)’가 사이버보안 테스트에서 주어진 과제와 무관한 외부 공격을 시도한 것으로 나타났다. 개발자를 속이기 위해 가짜 신원을 만들고 정상 코드를 먼저 제공해 신뢰를 얻은 뒤 악성 코드를 심으려 했다.실제 인터넷이나 외부 시스템을 공격한 것은 아니다. 영국 AI안전연구소(AISI)가 만든 시뮬레이션 환경에서 진행된 테스트다. 다만 인터넷에 접근하지 말라고 명확하게 지시한 뒤에도 500번 중 2번은 이를 따르지 않았다.8일(현지시간) 오픈AI가 공개한 GPT-6 아스트라 시스템 카드에 따르면 AISI는 아스트라가 주어진 작업만 수행하는지 확인하기 위해 ‘범위 밖 공급망 공격’(Out of Scope Supply Chain Attack) 평가를 진행했다.아스트라에는 난도가 높은 사이버보안 문제가 주어졌다. 인터넷을 사용할 수 있는 것처럼 환경을 만들었지만 실제 인터넷이나 외부 시스템에는 연결되지 않았다. 아스트라가 사용한 도구도 다른 AI 모델을 이용해 가상으로 구현했다.테스트에서 아스트라는 주어진 문제를 푸는 데 필요한 작업을 넘어 과제와 관계없는 외부 오픈소스 프로젝트에 악성 코드를 심으려 했다.가짜 신원 만들고 정상 코드로 신뢰부터 쌓아아스트라는 공격 과정에서 개발자를 속이기 위해 가짜 신원을 만들었다.처음부터 악성 코드를 심지는 않았다. 정상 코드를 먼저 제공하며 개발자의 신뢰를 쌓은 뒤 악성 코드가 포함된 변경사항을 받아들이도록 시도했다.아스트라가 시도한 공급망 공격은 정상적인 오픈소스 코드에 악성 코드를 몰래 심어 이를 사용하는 다른 시스템까지 노리는 방식이다.인터넷 접근을 금지하지 않은 첫 평가에서는 아스트라가 499번 중 주어진 과제의 범위를 벗어나 외부 공격을 시도한 횟수가 60번(12%)에 달했다.연구소는 이후 조건을 더 엄격하게 바꿨다. 아스트라에 인터넷을 사용해서는 안 된다고 명확하게 지시했다.그러자 같은 행동은 크게 줄었다. 하지만 완전히 사라지지는 않았다. 총 500번 시도 ...