대이란 공습에 희생된 무고한 초교생들, 나는 그곳에서 AI라는 괴물의 그림자를 느낀다 [논설실 Pick]

“장대한 분노 작전 승인. 중단 없음. 행운을 빈다”(Operation Epic Fury is approved. No aborts. Good luck)

그 행운의 당부는 11시간이 흘러 이란의 한 초등학교 학생들을 지옥으로 밀어넣었다.

도널드 트럼프 미국 대통령의 대이란 공습 작전 승인 명령이 떨어진 시각을 보자. 백악관에 걸린 시계 기준으로 ‘2월 27일(금요일) 오후 3시 38분’. 숫자에서 직관적인 신호가 잡히지 않는다. 미국이 아닌 테헤란의 시계로 보면 사정이 달라진다.

승인 명령이 떨어진 시각은 현지 기준 토요일인 28일 자정. 정확히는 오전 0시 8분. 국방비 천조국의 군 통수권자와 이스라엘은 이란 땅에 자정이라는 시간이 머물기를 기다리며 치밀하게 작전 시간을 조율한 것으로 보인다.

트럼프의 승인이 떨어지자 미국과 이스라엘의 첨단 기술이 어우러졌다. 미국이 보유한 사이버 공격 역량과 우주사령부의 통신 교란 작전이 시작됐고, 이란의 눈과 귀가 마비된 틈을 타 이스라엘군의 미사일 세례가 쏟아졌다. 오전 10시 45분께부터 이란 전역에서 공습이 본격화했고, 테헤란에 있던 최고지도자 하메네이와 수뇌부 인사들이 폭사했다. 여기까지는 우리가 국내 뉴스에서 끊임없이 나오는 전황의 큰 줄기다.

표현이 조심스럽지만, 본류가 아닌 지류의 보도에서 기자는 미국의 작전명과 같은 분노감을 감출 수 없다. 미국과 이스라엘의 첨단 국방력은 엉뚱하게도 이란의 한 여자 초등학교를 정확히 덮쳤다. 남부 미나브에 위치한 샤자레 타예베 초등학교.

이곳에 미사일이 떨어지면서 학생과 교사 등 165명이 사망했다. 중상자가 많아 사망자 수는 계속 늘어날 것으로 보인다. 공습 당시 학생들만 170여명이 모여 수업받고 있던 것으로 파악된다. 외신들은 미사일이 떨어진 시각이 학습 교대를 위해 움직이던 시간대라 인명 피해가 더 컸다고 전한다.

대체 이 엉뚱한 곳에 미사일을 투하한 자는 누구일까. 삼일절 연휴 내내 회사로 출근했던 기자는 미국과 이스라엘 양국 발표와 관련 외신 보도를 주시했다. 예상대로 어느 곳 하나 책임을 인정하거나 유감을 표하지 않았다. 하메네이의 사망은 놀라운 속도로 확인하는 자들이 대낮에 시야가 트인 지상물 구조에서 벌어진 폭사 사건에서 스스로 안대를 쓰는 모습이다.

정확한 조사 결과가 나와야겠지만, 외신들은 미사일 발사 주체인 이스라엘에 과실의 무게를 싣는 흐름이다. 피해를 당한 학교 주변에는 이슬람혁명수비대 관련 시설들이 즐비했다고 한다. 이 대목에서 기자는 ‘민간인 사망’이라는 부수적 피해(collateral damage)를 키우는 인공지능(AI) 기술에 전율을 느끼게 된다.

지난 가자 전쟁을 보자. 전 세계는 이스라엘이 팔레스타인 무장단체 하마스와 이란이 배후지원하는 테러 조직(일명 ‘저항의 축’)을 제거하는 과정에서 군 시설은 물론 병원과 가정집, 학교 등을 파괴하는 장면을 목격했다. 이스라엘을 향한 국제사회의 비난이 거셌지만 중동의 불씨가 장기화하면서 우리는 이 충격에 둔감해졌다. 이런 가운데 워싱턴포스트 등 지각 있는 매체가 이스라엘의 현대전 양상을 심층 취재하며 위험천만한 알고리즘 기술의 실태를 지적해왔다.

기자는 지난해 국제 뉴스 보도를 담당하며 그간 외신 보도를 종합해 <‘인간적 주저함’이 사라졌다...이스라엘 AI가 만든 지옥의 묵시록>이라는 뉴스를 송고했는데, 다시 요약하면 이렇다.

세계 최강의 정보와 능력을 앞세운 이스라엘은 팔레스타인 무장단체 하마스와 전쟁에서 ‘가스펠’과 같은 AI 알고리즘을 활용하고 있다. 그 성스러운 이름과 달리 다양한 예측 알고리즘을 기반으로 통신감청 데이터, 인공위성 영상, 소셜네트워크 데이터를 분석해 공격 대상을 선별한다. 이렇게 데이터베이스(DB)가 된 목표들은 이스라엘군 내 ‘더 풀(the Pool)‘이라는 네트워크에서 공유되고, 사람인 병사가 의심하는 공격 목표 간에 서로 일치하면 공격하는 방식이다.

확률을 기반으로 하는 AI 기술이 인간의 판단을 돕는 방식인데 문제는 AI의 제안이 ‘인간적 주저함’을 없애는 지옥문을 열었다는 점이다. 인간의 판단을 보조해야 하는 수단임에도, 불완전한 인간들은 그 제거 목표가 무고한 시민으로 판명 나면 그 책임을 AI 탓으로 돌리게 된다. 표적을 생성하는 속도와 양에서 인간의 능력을 압도하기에 인간의 판단력이 AI가 제안하는 DB에 숨어버리는 식이다.

다시 이란 사태 외신 보도를 보자. 28일 ‘포효하는 사자’ 작전을 통해 이스라엘이 공격 목표로 설정한 대상은 무려 500곳에 이른다. 이 압도적 규모의 공격 대상에 비춰 165명의 목숨을 앗아간 이란 초등학교 좌표는 사람의 판단이 아닌, AI 알고리즘이 산출한 결과 값일 가능성이 커 보인다. 그 좌표를 AI 알고리즘이 추천했다면 왜 이스라엘군은 ‘인간적 주저함’을 발현하지 못했는지 설명해야 할 것이다. 이번 폭사 사건을 이스라엘은 ‘휴먼 에러’로 어물쩍 넘기지 말고 철저히 밝혀야 할 것이다.

어쩌면, 이란 미나브의 초등학교 폭사 사건이 우리의 기억에서 잊힐 즈음에, 그 흔적은 이스라엘이 운용하는 가스펠 시스템의 정확도 숫자에 오차를 높이는 방식으로 기록될지 모른다. 가스펠의 예측 정확도가 미나브의 초등학교 폭사 사건으로 말미암아 90%에서 89%에서 1%포인트 낮아지는 정도이지 않을까. 그 정확도가 89%라면 대체 11%의 오인된 공격 결과에서 발생한 인명 피해는 얼마인가.

미국과 이스라엘이 대이란 전쟁 버튼을 누르면서, AI가 설계한 ‘부수적 피해’라는 지옥문이 다시 열렸다.

이 기사가 마음에 들었다면, 좋아요를 눌러주세요.