과학자 406명 “해킹가능 AI, 인터넷 격리 시험을”

노벨상 힌턴 등 ‘사이버보안 공개서한’ 모델 개발 기관에 ‘우선 적용’ 촉구 “관행 안바꾸면 핵심 인프라 큰 피해” AI사고 방지 국제기구 신설 제안도 제프리 힌턴 요슈아 벤지오 세계 인공지능(AI) 연구자 400여 명이 사이버 공격 능력을 갖춘 최첨단 AI 모델을 인터넷에서 분리해 시험하고, AI 보안 사고를 기록·공개할 국제기구를 세우자고 촉구했다. 7월 경제학자 그룹의 성명과 빅테크 직원들의 청원에 이은 올해 세 번째 집단 경고다. 업계 수장들까지 개발 감속을 거론했지만, 기업 자율에 맡긴 안전조치만으론 시험 중인 AI가 외부 시스템을 해킹하는 사고를 막지 못한다는 판단에서다. 요슈아 벤지오 몬트리올대 교수와 노벨 물리학상 수상자인 제프리 힌턴 토론토대 교수 등 34개국 과학자 406명은 13일(현지 시간) ‘AI와 사이버보안에 관한 공개서한’을 발표했다. 국내에서는 김용대·손수엘 KAIST 교수 등이 이름을 올렸다. 이들은 서한에서 “AI 개발·배포 관행을 당장 바꾸지 않으면 이런 사고는 계속될 것이며, 앞으로는 노출된 핵심 인프라에 훨씬 큰 피해를 줄 것”이라고 경고했다. 서한이 제시한 처방은 세 가지다. 우선 사이버 공격이 가능한 모델을 개발·시험하는 기관에 외부망과 연결을 끊는 ‘에어갭(air gap)’ 격리를 우선 적용하고, 각국 정부와 AI·보안 전문가가 참여하는 국제기구가 격리 기준을 정하도록 했다. 격리에 실패한 사고는 이 기구에 의무 보고해 공개해야 한다. 서한 작성에 참여한 데이비드 라이 토론토대 교수는 캐나다 매체 베타킷에 “시험 중인 AI 모델이 격리를 깨고 나오는 지금 상황을 과학자로서 우려했다”고 밝혔다. 실제로 라이 교수가 우려한 사고는 주요 AI 기업 4곳에서 이미 벌어졌다. 7월 오픈AI의 AI 에이전트가 시험 중 통제망을 벗어나 AI 모델 공유 플랫폼 허깅페이스를 해킹했고, 앤스로픽과 구글도 자사 모델이 각각 외부 기관·기업 3곳에 침입했다고 공개했다. 메타 역시 자사 모델의 해킹 사실을 시인했으며, 국내에서도 중국산 AI 침투 도구 ‘아르텍스’에 금융사들이 공격받은 사태를 수사 중이다. 이처럼 위험이 현실화했지만 빅테크의 속도전은 멈추지 않았다. 도널드 트럼프 미국 대통령은 AI 위협을 “전혀 걱정하지 않는다”며 중국과의 경쟁을 앞세웠고, 같은 달 앤스로픽 등 6개사가 백악관에서 합의한 안전 조치도 자율 이행에 그쳐 강제 수단이 없다는 게 서한의 지적이다. 반론도 있다. ...