“AI가 맞다고 하던데”… 잘못된 정보로 민원

‘AI 환각’ 믿고 민원에 현장 골머리

이달 초 서울의 한 소방서에 “상가 복도에 쌓인 물건이 대피로를 막고 있다”는 민원이 접수됐다. 담당 소방관이 “쉽게 이동 가능한 물건이고 대피로에 여유가 있어서 단속 예외에 해당한다”고 안내하자, 민원인은 “인공지능(AI)에 물어봤는데 처벌 대상이 맞다고 했다”며 따졌다. 민원인이 근거로 삼은 건 AI가 2022년 개정 전 법령을 바탕으로 내놓은 ‘환각’(할루시네이션·오류) 답변이었다. 이 소방관은 결국 야근까지 하며 관련 규정을 일일이 찾아 민원인에게 증명해야 했다.

최근 법률과 정책, 의료 등 전문 분야에서 챗GPT 등 생성형 AI가 내놓은 잘못된 답변을 맹신한 문의가 쏟아지면서 현장 근무자들이 골머리를 앓고 있다. 세부 조건에 따라 적용이 천차만별인데, AI의 환각 현상이나 학습 데이터의 한계를 인지하지 못한 채 무리한 주장을 펴는 경우가 늘고 있기 때문이다. 한국연구재단 부설 정보통신기획평가원에 따르면 주요 AI 모델이 법률 분야 답변에서 환각을 환각으로 감지하는 비율은 64%에 불과했다. 하지만 많은 사람들이 AI의 그럴듯한 오답을 절대적 기준으로 삼으면서 이를 수습하는 실무진의 업무만 가중되는 상황이다.

전문가들은 AI에 대한 맹목적 신뢰가 행정 낭비로 이어지지 않도록 해야 한다고 지적했다. 최호택 배재대 행정학과 교수는 “공공기관은 AI발(發) 허위 정보 민원에 대응할 명확한 실무 매뉴얼을 마련해야 한다”고 말했다.

정서영 기자 cero@donga.com

© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지