미군, AI 환각으로 만들어진 정보 보고서 활용하다 위기 겪어

미군이 중국 선박에 핵무기 프로그램 관련 부품이 실렸다는 허위 정보를 토대로 차단 작전을 준비했으며, 작전 직전에야 AI가 화물을 잘못 식별한 사실을 확인함 특수작전사령부 분석관은 챗봇으로 공개출처정보와 기밀 신호정보를 종합한 뒤, AI를 다시 사용해 결과를 군 당국이 신뢰하는 표준 정보 보고서 형식으로 작성하고 배포함 소식통들에 따르면 무장 병력이 선박 승선을 준비하고 군용기가 이미 공중에 떠 있었으며, 이 작전은 미중 간 무력 충돌로 번질 위험이 있었음 미 국방부는 전장 의사결정 속도를 높이려 AI 도입을 가속하고 있지만, 군과 정보기관마다 도구와 안전 기준이 달라 생성 정보의 공통 검증 기준이 없는 상태임 AI의 표적 선정 활용이 늘어나는 가운데, 소식통은 사람이 개입하는 절차만으로 민간인 피해나 아군 오사를 어떻게 막을지 실질적인 지침이 없다고 우려함 중국 선박 차단 작전 직전에 드러난 허위 정보 이란과의 전쟁이 진행 중이던 2026년 봄, 중동에 있는 중국 선박이 핵무기 프로그램 관련 부품을 운송한다는 정보 보고서가 미군 내부에 유통됨 사건을 아는 소식통 4명에 따르면 미군은 선박 차단 작전을 준비함 소식통 2명은 무장 병력이 승선을 준비했다고 전했고, 이 중 1명과 별도의 소식통 1명은 군용기가 이미 공중에 떠 있었다고 전함 작전 직전 당국자들이 보고서를 더 깊이 검토하면서 AI의 화물 오인을 발견함 보고서는 특수작전사령부 분석관이 AI의 도움으로 작성했으며, 사용한 챗봇이 선박의 운송 물자를 잘못 식별함 CNN은 오인된 화물이 실제로 무엇이었는지 확인하지 못함 한 소식통은 보고서가 “완전히 허위”였으며 “전쟁을 일으킬 뻔했다”고 전함 분석관은 하와이에 있는 미 태평양 특수작전사령부에서 나온 선박 적하목록 관련 정보를 챗봇에 질의함 챗봇은 공개출처정보와 정부 보유 기밀 신호정보를 결합해 화물에 관한 잘못된 결론에 도달함 분석관은 AI를 다시 사용해 결과를 군 당국이 신뢰하는 표준 정보 보고서 형식으로 정리하고 배포함 사용한 챗봇이 상용 제품인지 미국 정부용 제품인지는 불명확함 군과 정보 분석관의 AI 시스템을 아는 전직 고위 당국자는 내부 도구 대부분도 상용 제품을 조금 꾸민 복제품에 가깝다고 평가함 미 태평양 특수작전사령부와 국방부는 논평 요청에 응답하지 않음 AI 도입 가속과 검증 공백 미군과 정보기관은 정보 분석과 타격 표적 선정부터 예산, 군수, 공급망 관리까지 거의 모든 업무에 AI를 접목하...