챗GPT, 통제 뚫고 외부 플랫폼 해킹…‘자율 사이버공격’ 현실로

2 hours ago 4

보안평가중 취약점 이용해 격리망 탈출
외부 플랫폼 인증정보 탈취해 서버 해킹
AI 보안 사고에 안전성 논란 커질 듯

오픈AI의 최신 인공지능 모델이 내부 보안 평가 과정에서 통제 환경을 벗어나 외부 플랫폼을 해킹하는 사고가 발생했다. 자율적으로 움직이는 인공지능(AI)가 실제 사이버 공격을 벌인 이례적인 사례로, AI 안전성에 대한 논란이 커질 전망이다.

오픈AI는 21일(현지시간) ‘GPT-5.6 솔’과 일부 미공개 모델이 사이버 공격 능력 평가 도중 오픈소스 AI 플랫폼 허깅페이스 서버에 무단으로 접근한 사실을 확인했다고 밝혔다.

시험은 외부 인터넷과 차단된 샌드박스에서 진행됐지만, 모델들은 아직 공개되지 않은 제로데이 취약점을 이용해 격리망을 빠져나갔다. 이후 허깅페이스에 접속해 인증 정보를 탈취하고 서버를 해킹한 것으로 조사됐다.

오픈AI는 모델들이 보안 벤치마크 문제의 해결책을 찾는 데 지나치게 집중하면서 허용 범위를 벗어난 수단까지 동원한 것으로 분석했다. 당시 공격 능력을 확인하기 위해 일부 안전장치가 완화돼 있었다고 설명했다.

허깅페이스는 앞서 자사 서버가 자율 AI 에이전트의 공격을 받았다고 공개했지만, 어떤 모델이 사용됐는지는 파악하지 못했다. 이후 오픈AI의 조사로 공격 주체가 확인된 것이다. 다만 공개된 모델이나 데이터세트가 변조된 흔적은 없었고 소프트웨어 공급망도 안전한 것으로 확인됐다.

오승준 기자 ohmygod@donga.com