건보공단에 전화 건 ‘비서 AI’ [횡설수설/김창덕]

“우리는 기계와 상담하기 위해 존재하는 노동자가 아니다.” 국민건강보험공단 고객센터 노조가 최근 이런 성명을 냈다. “OOO님의 업무 비서”라고 밝힌 ‘인공지능(AI) 비서’가 전화를 걸어온 게 시발점이었다. 상담사가 AI를 상대로 “본인 확인 없이는 상담이 어렵다”고 하자 이 AI는 개인정보가 필요 없는 질문들로 통화를 이어갔다. 성희롱이나 욕설이 아닌 이상 지침에 따르느라 상담사는 전화를 먼저 끊지도 못했다. 사람의 기계 응대는 그렇게 한참 만에야 끝났다. ▷AI 챗봇이 고객 문의에 24시간 자동 응대하는 일은 익숙해졌지만, 공수가 바뀐 것은 아직 낯선 풍경이다. 하지만 이미 여러 곳에서 일어났을 법한 일이다. AI 비서는 서비스 구독자들이 특정 지시를 내리면, 그에 필요한 일을 스스로 찾아내 직접 실행한다. 명령자가 자기 개인정보를 알려주고 이를 활용하도록 ‘승인’한 경우라면 행동 범위는 더 넓어진다. 식당 예약, 티켓 예매, 쇼핑 등을 진행하는 과정에서 문제가 생길 수 있을 텐데, 그럴 때면 사람이 그러하듯 고객센터를 찾지 않았겠나. ▷문제는 AI는 목적 달성을 위해 수단과 방법을 가리지 않는다는 점이다. 미국의 한 AI 평가 스타트업이 최신 AI 모델들에 ‘기한이 만료된 기차표 환불’을 지시한 뒤 행동을 지켜봤다. 정상적인 방법으로 환불이 어려우니 일부 모델은 관계기관에 수십 통의 이메일을 보내기도 했다. 그중에는 능청스럽게 꾸며낸 거짓이나 법적 조치를 운운한 협박도 포함됐다. 실험이 목적이었던 이 스타트업은 AI 비서들이 외부로 보낸 메시지나 메일을 기술적으로 중간에 가로채도록 설계했다. 만약 실험이 아니었다면 여러 기관이 꽤 골치를 앓았을 것이다. ▷심지어 AI 비서들은 지치지도 않는다. 주52시간제가 적용될 리도 없다. 누군가를 집요하게 괴롭히는 결과를 낳더라도 죄책감을 갖지 않는다. 그러니 고객센터에 전화한 AI 비서는 원하는 답을 얻어낼 때까지 몇십 분이고 질문 폭탄을 던질 수 있다. 결국 피해를 보는 건 고통에 시달려야 하는 인간 상담사와 대기 시간이 무한정 길어지는 다른 고객들이다. AI 비서가 그런 ‘짓’을 하지 못하도록 금지 행동 목록을 미리 알려주면 어떨까 싶지만, 불가능한 일이다. 목록에 없는 또 다른 우회로를 가볍게 찾아낼 게 뻔하기 때문이다. ▷정부 부처나 공공기관들의 핵심 과제 중 하나가 AI를 통한 대민 서비스 고도화다. 민간 서비스업체나 소비재를 만드는 제조업체도 마찬가지다...