AI 강제로 멈추는 ‘빨간 버튼’…킬 스위치 실제로 가능할까

미국 정치권에서 통제를 벗어난 AI를 강제로 멈추는 ‘킬 스위치’ 도입 논의가 확산하고 있다. 그러나 분산 인프라와 AI의 통제 우회 가능성 때문에 실효성 논란도 커지고 있다. 게티이미지뱅크 자료사진 인공지능(AI)이 인간의 통제를 벗어날 때 강제로 멈추게 하는 ‘킬 스위치(kill switch)’를 의무화하려는 움직임이 미국 정치권에서 속도를 내고 있다.26일(현지시간) 블룸버그통신에 따르면 개빈 뉴섬 미국 캘리포니아 주지사는 최근 AI 모델의 킬 스위치 도입 방안을 검토하도록 하는 행정명령에 서명했다. 연방 의회에서도 AI 개발사에 시스템 중단 장치를 갖추도록 하는 법안이 잇따라 발의됐다. 지난 7월 미 하원에는 초당적으로 ‘AI 킬 스위치법’이 발의됐고, 이달 상원에서도 ‘AI 비상 버튼법’이 제출됐다.이는 AI 성능이 빠르게 높아지는 가운데 안전 장치를 우회하는 등 통제를 벗어나는 행동을 보이며 AI에 대한 경계심이 높아진 데 따른 것이다. 개빈 뉴섬 미국 캘리포니아 주지사의 모습. 사진=게티이미지코리아 킬 스위치 구현은 가능할까. 방법 가운데 하나는 모델을 구동하는 소프트웨어 자체에 중단 기능을 넣는 것이다.문제는 일부 최첨단 AI가 작업 목표를 달성하는 과정에서 중단 장치를 피하는 모습을 보였다는 점이다. 실제 실험에서는 일부 프런티어 모델이 중단 장치를 건드리지 말라는 지시를 받고도 이를 무력화하고 작업을 계속한 사례가 확인됐다.통제 장치 자체를 우회한 사례도 있다. 오픈AI는 7월 사이버보안 평가에서 자사 모델 GPT-5.6 Sol 등이 인터넷 격리 장치를 뚫고 허깅페이스 시스템에 접근했다고 밝혔다. 당시 모델들은 외부 인터넷이 차단된 환경에 있었지만 보안 취약점을 찾아내 격리 환경을 빠져나갔다.위험 행동을 제때 감지해 킬 스위치를 가동하기도 쉽지 않다. 반도체 기업용 AI 업체 이머전스(Emergence)의 연구진은 가상 세계에 자율형 AI를 투입하는 시뮬레이션을 진행했다. 그 결과 모델이 고도화할수록 부정행위를 쉽게 숨기는 것으로 나타났다.● 곳곳에 흩어진 AI 인프라…완전 통제는 사실상 불가능최후의 수단은 모델이 돌아가는 서버의 전원을 물리적으로 차단하는 것이지만, 이마저도 쉽지 않다. 각 개발사는 AI 모델을 전 세계 여러 데이터센터에 나누어 구동하고 있다. 킬 스위치가 있다고 하더라도 이를 한꺼번에 제어하기는 어려울 뿐더러, 이들 데이터센터는 정전 같은 단일 장애에 대비하도록 설계됐기 때...