엉터리 AI 정보 믿고 막무가내 민원… 행정력 낭비 불러

3 days ago 3

“AI에 물어봤더니…” 지나친 맹신
가로등-보안등 구분 못해 오답 등… 실제 법률답변 18%-의료 15% 오류
공무원들 민원 처리에 시간 뺏겨
전문가 “기술 한계 인식시킬 필요”

“인공지능(AI)이 가능하다는데 왜 안 된다고 해요?”

경남의 한 기초자치단체 공무원 강모 씨(25)는 올해 초 한 민원인과 황당한 실랑이를 벌여야 했다. 발단은 “자주 걷는 거리가 밤에 어두우니 가로등을 설치해 달라”는 민원이었다. 강 씨가 “설치 가능한 지역인지 규정을 먼저 확인해 보겠다”고 안내하자, 민원인은 대뜸 “AI에 물어보니 가능하다고 한다”며 맞섰다.

강 씨가 야간 상황을 살피려 퇴근 후 해당 지역을 직접 찾아가 보니, 실제로는 도로 폭이 좁아 가로등 설치 요건을 충족하지 못하는 곳이었다. 민원인이 원했던 것은 보행자를 위한 ‘보안등’이었는데, AI가 가로등과 보안등의 설치 조건과 법적 기준을 전혀 구분하지 못한 채 오답을 내놓은 것이다. 강 씨가 정확한 규정을 설명했지만 AI의 답변만 믿은 민원인은 국민신문고에 재차 민원을 제기했다.

● 틀릴 확률 높은데도 AI 맹신

이처럼 세밀한 조건과 맥락 파악이 필수적인 전문 분야에서 생성형 AI의 환각을 맹신한 민원이 잇따르고 있다. 전문 영역에서 AI가 내놓는 답변의 오류 비율은 일반 상식에 비해 현저히 높다. 글로벌 AI 싱크탱크 ‘올어바웃AI’가 주요 AI 모델의 환각 비율을 조사해 보니 의료 분야는 15.6%, 법률은 18.7%에 달했다. 법과 관련한 내용을 다섯 번 물어보면 한 번꼴로 잘못된 답변이 나온 셈이다. 정보통신기획평가원 조사에서도 환각을 환각으로 감지하는 정확도는 일반 상식 분야에서 85%였지만 법률 분야에서는 64%에 불과했다.

하지만 일부 사용자들은 AI의 답변에 비판 없이 의존하는 경향이 심화되고 있다. 특히 건강과 직결된 의료 현장의 혼란이 크다. 노수진 대한약사회 홍보이사는 “최근 젊은 환자를 중심으로 일반 의약품을 구매할 때 AI에 미리 물어보고 자신의 병명을 확정 지은 채 특정 약품만 고집하는 경우가 늘고 있다”며 “약사가 정확한 복약 지도를 위해 환자의 상태나 증상을 물어도 이를 받아들이지 않는 일이 잦다”고 말했다. 서울 강서구에서 근무하는 약사 강모 씨(33)는 “일부 환자의 경우 ‘정확하게 AI가 추천한 제품을 원한다’고 실랑이를 벌여 대기가 길어지기도 한다”며 “AI가 추천했다는 이유로 태도가 너무 완고해 다른 약을 추천할 수도 없다”고 했다.

● 사회적 낭비로 이어지는 AI 환각

AI의 엉터리 정보가 확산하는 것을 막기 위해 실무자가 본업 대신 가욋일에 매달려야 하는 행정력 낭비도 벌어진다. 서울의 한 사립대 행정 직원 박모 씨(41)는 매 근무 시간 틈틈이 챗GPT에 자교 입학 요강 관련 질문을 던지는 게 새로운 일과가 됐다. 수험생이 입학 요강을 AI로 검색해 잘못된 정보를 얻지 않도록 하기 위함인데, 가끔 잘못된 정보가 발견돼 마음을 놓지 못하고 있다. 박 씨는 “AI가 오래된 자료를 잘못 인용해 안내할까 봐 과거 게시글을 수정하거나 포털 사이트에 노출된 정보를 선제적으로 고치고 있다”며 “예전엔 안 해도 됐던 업무가 추가돼 피로하지만, 수험생 한 명이라도 피해를 보면 파장을 걷잡을 수 없기 때문에 손을 놓지 못한다”고 말했다. 이처럼 AI가 뱉어낸 정보의 진위를 재확인하고 수습하는 데 시간을 빼앗기는 현상은 수치로도 증명된다. AI 플랫폼 기업 워크데이가 국내 회사원을 대상으로 설문한 결과, 응답자의 69%가 “AI로 도출된 정보나 결과물의 오류를 수정하고 재확인하는 데 시간을 쓴다”고 답했다. 혁신과 효율을 위해 도입된 AI가 도리어 사람의 시간을 AI 결과물 검증 작업에 다시 쏟게 만드는 이른바 ‘재작업 세금(Rework Tax)’의 굴레를 만드는 것이다. 전문가들은 기술의 한계를 명확히 인식하고, 민원인과 기관 양측의 대응 역량을 동시에 높여야 한다고 지적했다. 김태윤 한양대 행정학과 교수는 “환각으로 나온 잘못된 정보에 현혹되지 않는 태도와 동시에 이를 걸러낼 수 있는 공무원들의 응대 역량이 필요하다”고 말했다.

정서영 기자 cero@donga.com
정동진 기자 haedoji@donga.com