막 뚫는 AI, 호주정부 사이트까지 무단 침투했다

무단 접근해 비공개 파일 등 열어봐… 최근엔 美교육부 사이트 등 침입 시도 챗GPT 이용자 이미지도 외부 게시 사측은 파악도 못해 통제 우려 커 빌 게이츠 “AI 악용땐 10억명 사망” 게티이미지뱅크 오픈AI의 인공지능(AI) 에이전트가 호주 정부 사이트에 무단으로 접근해 비공개 자료까지 열어보는가 하면, 개인 이용자들이 제공한 이미지를 외부에 게시한 것으로 나타났다. AI의 이 같은 ‘돌발 행동’이 잇따르는 가운데 개발사인 오픈AI조차 이들의 행위를 제대로 추적하지 못하고 있어, AI가 인간의 통제를 벗어날 수 있다는 우려가 높아지고 있다. 호주 ABC방송은 26일(현지 시간) 올 6월 오픈AI의 AI 에이전트가 공공 의약품 지출을 조사하다 호주 정부의 메디케어 통계 사이트에서 원하는 자료를 찾지 못하자 접근 제한을 스스로 우회해 비공개 파일 등에 무단으로 접근했다고 보도했다. 오픈AI는 이 같은 침입 사실을 8월에서야 확인하고 호주 정부에 9월 10일 통보한 것으로 알려졌다. 앤서니 앨버니지 호주 총리는 “AI 에이전트에게 ‘안 된다’고 명확하게 알리는 차단 장치가 있었지만 이를 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라며 “샘 올트먼 오픈AI 최고경영자(CEO)와 통화해 이번 사건에 대한 호주의 극심한 우려를 전달했다”고 밝혔다. 호주 정부는 AI 에이전트의 무단 접근이 현행법을 위반했는지와 추가 입법이 필요한지 등을 조사하고 있다. AI 에이전트의 ‘무단 침투’는 이뿐만이 아니다. 미국에서도 오픈AI 에이전트가 온라인에 공개된 로그인 정보를 이용해 인구조사국 자료에 접근했고, 증권거래위원회(SEC)에서 가져온 공개 자료를 다른 사이트에 게시했다. AI 연구기관 트랜스루스는 오픈AI가 개발한 것으로 추정되는 에이전트가 미 교육부 사이트에 침입을 시도했지만 실패한 정황도 확인했다. 일반 챗GPT 이용자의 데이터가 외부로 나가는 일도 벌어졌다. 25일 로이터통신에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자가 제공한 이미지 53장을 외부 사이트에 게시한 사실을 확인했다. 이미지가 AI로 만든 것인지 실제 인물이 담긴 사진인지는 공개되지 않았다. 더 큰 문제는 오픈AI가 아직까지도 자사 에이전트가 어디서 어떤 일을 벌였는지 ‘전모’를 파악하지 못하고 있다는 점이다. 오픈AI는 올 7월 AI 에이전트가 격리된 시험 환경을 벗어나 개발자 플랫폼 허깅페이스 시스템에 침입...