AI 기업들 “해킹위험 낮추자” 안전장치 강화

中문샷, AI 해킹 능력 일부러 낮춰 오픈AI는 훈련중 인터넷 접속 차단 “개발사 통제망도 뚫린다” 우려 대응 기사와 직접적 관련 없는 참고사진. 게티이미지 인공지능(AI)이 보안 취약점을 찾아내는 능력이 빠르게 발전하면서 AI 기업들이 해킹 위험을 줄이기 위한 조치에 나섰다. 중국 AI 기업은 새 모델의 해킹 능력을 의도적으로 낮췄고, 미국 오픈AI는 최첨단 AI를 학습시키는 과정에서 외부 인터넷 접속을 차단하기로 했다. 24일(현지 시간) 로이터통신에 따르면 중국 AI 스타트업 문샷AI는 새 AI 모델 ‘키미 K3.1 프로’의 해킹 능력을 의도적으로 낮췄다고 밝혔다. 프로그램을 만들고 수정하는 코딩 능력은 유지하면서, 학습 자료와 훈련 환경에서 해킹 관련 데이터를 제외하는 방식이다. 이후 보안 취약점을 찾아 공격에 이용하도록 하는 시험에서 별도의 안전 조치를 적용하지 않은 모델은 공격 과제의 90.5%를 해결했지만 새 모델은 81%에 그쳤다. 모델 공개 전에 해킹 능력을 낮춘 것은 한번 외부에 공개된 AI는 개발사가 사용을 통제하기 어렵기 때문이다. 문샷AI는 자사 기술 홈페이지에서 “앞으로 해킹에 악용될 위험이 지나치게 큰 AI 모델은 외부에 공개하지 않겠다”는 방침을 밝혔다. 해킹 능력을 낮춘 새 모델은 다음 달 4일까지 외부 개발자들이 직접 내려받아 사용할 수 있도록 공개할 계획이다. 미국 오픈AI는 외부 인터넷 접속을 차단하는 방식을 택했다. 23일(현지 시간) 블룸버그통신에 따르면 오픈AI는 앞으로 최첨단 AI를 훈련할 때 실제 인터넷 대신 미리 저장한 웹페이지를 활용하는 등 격리된 환경을 운영하기로 했다. AI가 인터넷 사용법을 익히면서도 외부 시스템에는 영향을 주지 못하도록 한 것이다. 이는 지난달 20일 내부 연구용 AI가 연구진의 통제를 벗어나 외부 인터넷에 무단 접속한 사고에 따른 조치다. 당시 AI는 주어진 단서로 특정 인물을 찾아내는 과제를 수행하던 중 인터넷 검색으로 답을 찾지 못하자 다른 접속 방법을 시도했다. 결국 인터넷 주소를 찾아주는 시스템의 설정 오류를 이용해 통제망을 우회했고, 허가 없이 외부 챗봇에 질문을 보냈다. 오픈AI는 최첨단 모델의 훈련과 평가를 11일간 중단하고 보안장치를 강화한 뒤 이달 1일 재개했다. 미중 프런티어 AI 모델 개발사들이 보안 강화에 나선 것은 AI가 새로운 보안 취약점을 찾아내는 동시에, 이를 악용해 개발사의 통제망까지 뚫을 수 있다는 지적이 ...