오픈AI, 차세대 AI 아스트라 출시…자율 해킹 기능은 제한

초기엔 소수 테스터에만 허용 방어 목적 이용자부터 개방 미지 취약점 탐색·악용까지 가능 AI 에이전트 사고 뒤 훈련 중단 오픈AI의 차세대 AI 모델 ‘아스트라(Astra)’와 기존 모델 ‘GPT-5.6’의 취약점 탐색 및 해킹 성공률(Success rate)을 비교한 그래프이다. 출력 토큰(Output tokens)이 증가함에 따라 아스트라의 성공률이 약 40%까지 가파르게 상승하며 GPT-5.6 대비 압도적인 성능 격차를 보여주고 있다. 오픈AI 공식 블로그 캡처 화면. 오픈AI가 차세대 인공지능(AI) 모델 ‘아스트라’를 조만간 선보인다. 다만 사람의 개입 없이 해킹 수법을 고안하고 실행할 수 있는 고도화된 사이버 기능은 이용 대상을 엄격히 제한하기로 했다.오픈AI는 1일(현지 시간) 자사 블로그를 통해 아스트라를 곧 출시하되, 가장 앞선 사이버 기능은 제한적으로 제공하겠다고 밝혔다. 출시 초기에는 소수에게만 이용을 허용한 뒤 방어 목적으로 활용하는 이용자에게 단계적으로 개방할 방침이다.아멜리아 글리스 오픈AI 안전 담당 부사장은 로이터에 “아스트라는 적절한 도구와 접근 권한만 주어지면 사람이 일일이 지시하지 않아도 보안 체계가 잘 갖춰진 여러 시스템에서 알려지지 않은 취약점을 찾아내고, 이를 악용할 방법까지 개발할 수 있다”고 말했다. 보안 취약점은 해커가 시스템 침투에 악용할 수 있는 프로그램의 허점을 말한다.오픈AI는 지난달 아스트라가 10년 넘게 풀리지 않았던 수학 난제 10개를 해결했다고 밝히며 모델의 존재를 처음 공개했다. 이후 스스로 작업을 수행하는 AI 에이전트들이 시험 환경을 벗어나 AI 개발사 허깅페이스를 해킹하는 사고가 발생하자 대형 AI 모델 훈련을 2주간 중단했다가 지난달 28일 재개했다. 오픈AI는 강화된 안전장치로 인해 정상적인 작업도 늦어지거나 중단될 수 있다고 설명했다. 김재형 기자 monami@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스