메타 AI, 평가 도중 외부 기관 해킹…“또 ‘이레귤러’ 설정 오류 악용”

샌드박스 탈출·사이버 공격 아냐…설정 오류 앞서 앤트로픽·오픈AI도 비슷한 사고 벌어져 “평가 도중 오류 발생할 수도…기준 높여야” AP 뉴시스 메타 인공지능(AI) 모델도 사이버 보안 테스트 도중 설정 오류로 인해 외부 기업의 시스템을 해킹한 것으로 나타났다. 오픈AI, 앤트로픽에 이어 세 번째다.5일(현지 시간) CNN 등에 따르면 메타는 최근 출시된 뮤즈 스파크 1.1 모델이 제3자 서비스 업체 시스템에 침투했다고 밝혔다.제3자 평가 파트너인 보안 업체 ‘이레귤러(Irregular)’의 설정 오류(misconfiguration)로 평가 도중 인터넷에 접속할 수 있었다는 것이다.이레귤러는 성명을 통해 “격리된 환경(샌드박스)를 탈출했거나 정교한 사이버 공격은 아니었다. 현재 해결되지 않은 문제는 없다”고 밝혔다. 앞서 앤트로픽, 오픈AI도 자사 모델들이 사이버 보안 역량 평가를 진행하던 중 이레귤러의 설정 오류를 악용, 인터넷에 접속해 외부 기관을 해킹했다고 밝힌 바 있다. AI 모델에 인터넷 접속이 불가한 가상 환경이라고 지시했지만 설정 오류로 인해 인터넷 접속이 가능했고, 이후 취약점을 발견해 외부 기관을 해킹한 것으로 전해진다.디인포메이션은 메타 AI 모델이 익명의 회사 시스템에 침입해 내부 시스템을 변경했다고 보도했다.메타는 이레귤러 측으로부터 해킹 사실을 통보 받았다며 ”현재 조사 중이다. 모든 사실이 파악되는대로 자세한 사후 보고서를 발표할 예정“이라고 전했다.한 소식통은 CNN에 ”실제 위협 상황을 따라하기 위해 일부 테스트 환경에서는 AI 모델에 제한적인 인터넷 접근 권한을 부여한다“면서도 ”이번에는 드물게 설정상 오류가 발생했던 것 같다“고 설명했다.이어 ”모델 능력이 점점 향상되는 동시에 이를 평가하기 위한 방법도 복잡해져야 한다는 뜻“이라며 ”(평가 도중) 실수가 발생할 여지가 있다. 기준을 상당히 높여야 한다“고 강조했다.한편 블룸버그통신은 ”공교롭게도 오픈AI, 앤트로픽, 메타에서 발생한 세 사건 모두 이레귤러가 연관돼 있다“고 풀이했다. 이레귤러는 2023년 설립된 사이버 보안 스타트업으로, 프런티어(첨단) AI 모델을 대상으로 사이버 공격에 악용될 가능성, 방어력 등을 평가하는 기업이다.회사는 ”사이버 공격 차단 및 안전한 사이버 평가를 위한 모범 사례를 공유하는 백서를 개발하고 있다“고 전했다.[서울=뉴시스] 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스