"AI 레드라인 넘지 말자던 기업들, 절벽 위로 달려가고 있어"

세계 주요 인공지능(AI) 기업들이 '레드라인을 넘지 않겠다'고 했지만 오히려 AI 개발을 가속화하고있다는 지적이 제기됐다.

AI 안전 싱크탱크 퓨처오브라이프 인스티튜트(FLI)는 8일 '2026 상반기 AI 안전성 지수'를 발표하며 "AI 위험이 군사·안보 영역에서 현실화하고 있지만 정작 개발 기업의 안전장치는 뒷걸음질치고 있다"고 밝혔다. 독립 AI 전문가 패널은 3개 대륙 주요 AI 기업 9곳을 대상으로 위험 평가, 현재 피해, 안전 프레임워크, 인류 생존 차원의 안전, 거버넌스 및 책임, 정보 공개·소통 등 6개 항목을 평가했다.

평가 결과 앤트로픽이 C+로 가장 높은 점수를 받았다. 오픈AI(C) 구글 딥마인드(C) 메타(D+)가 뒤를 이었다. 프랑스 AI 기업 미스트랄이 F로 최하점을 받았다. 스페이스X에 인수된 xAI는 지난해 하반기 4위였으나 중국 지푸AI(5위) 알리바바(6위)에 이은 7위로 내려갔다.

FLI 회장인 맥스 테그마크 메사추세츠공대(MIT) 교수는 "AI 기업들이 절벽을 향해 전력 질주하고 있다"고 말했다. 이어 "초인공지능(ASI)의 위험을 스스로 경고하면서도 그것을 만들기 위한 경쟁은 멈추지 않고 있다"며 "자발적 약속만으로는 애초에 충분하지 않았다"고 지적했다.

스튜어트 러셀 UC버클리 컴퓨터공학과 교수는 "업계에서 AI 안전에 관한 좋은 연구가 이뤄지고 있는 것은 사실이지만 경쟁은 더욱 극단으로 치닫고 있다"고 경고했다. 그는 "기업들은 AI 능력 수준에 걸맞은 안전조치를 갖춘 경우에만 새 시스템을 출시하겠다던 기존 약속에서 물러섰다"며 "이제는 명백히 안전하지 않은 경우에도 출시하려 하고 있다"고 비판했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com