[사설] 미·중 무력 충돌까지 부를 뻔했던 AI 허위 보고의 충격

인공지능(AI)이 만들어낸 허위 정보가 하마터면 미국과 중국 간 전쟁을 일으킬 뻔했다. 미국 언론 CNN 보도에 따르면 미군이 대이란 전쟁이 진행 중이던 지난 봄 AI의 허위 정보를 토대로 중동 지역 내 중국 선박에 대한 군사작전을 마련해 일부 실행에까지 나선 단계에서 오류를 발견해 중단했다고 한다. 해당 허위 정보는 중국 선박이 대이란 핵무기 프로그램 관련 화물을 적재하고 있다는 것이었다. 미군은 무장병력을 준비하고 군용기를 출격시켰다가 도중에 회항하게 했다.

문제의 허위 정보는 특수작전사령부 분석관이 AI의 도움을 받아 작성한 보고서에 실려 군 지휘부에 회람됐다. 다행히 작전 실행 직전에 보고서를 재검토하는 과정에서 분석관이 사용한 챗봇이 중국 선박의 화물을 잘못 식별한 사실이 드러났다. 이에 작전이 중단됐기 망정이지 그대로 실행됐다면 자칫 미·중 무력 충돌로 비화할 수 있었다. 이에 대해 CNN은 미 국방부와 정보기관의 AI 활용이 빠르게 확대하는 가운데 AI의 오류가 실제 군사적 오판으로 이어질 위험성을 보여준 사례라고 지적했다.

이번 사건은 핵무기와 군사 우선주의로 무장한 북한과 휴전선을 경계로 대치 중인 우리에게 시사하는 바가 크다. 우리도 미국만큼은 아니어도 군 운용과 군사작전에 AI를 점점 더 많이 활용하고 있다. 국방부에서는 물론이고 각 군별로도 평시 업무와 전시 작전에 활용할 수 있는 AI 시스템 개발을 서두르고 있다. AI 활용 능력이 국가간 전력 경쟁의 주요 요소로 떠오른 마당이니 당연한 일이다. 하지만 우리 군도 AI 정보를 너무 믿다가 상황 오판에 따른 잘못된 작전으로 위험을 자초할 가능성을 배제할 수 없다.

군사 분야에서는 AI를 통한 정보 수집과 분석의 속도 못지않게 허위 정보 거르기 등 안전성 확보가 중요하다. 이런 측면에서 국회 국방위원회에 계류 중인 국방인공지능법안에 눈길이 간다. 법안은 군사 분야 전반을 대상으로 AI의 빠른 전력화와 안전 검증을 균형 있게 도모하는 것을 목적으로 하고 있다. 이에 맞춰 국방 AI에 대한 민주적·인간적 통제를 구체적으로 제도화할 필요가 있다. 군은 각급 지휘관을 대상으로 AI 정보를 활용할 때 주의할 점을 충분히 교육해야 할 것이다.