법원, ‘AI 가짜 판례’ 검증 진땀… 재판장이 변호인 공개 질책도

법관 68% “허위 판례 등 인용 경험” 변호사가 AI에 물어 제출한 의견서… 존재하지 않는 판례 버젓이 포함 법관 92% “제도적 대응 필요” 응답 국회, 최대 500만원 과태료 추진 “다시 한번 이런 일이 있으면 서면을 받지 않겠습니다.” 최근 한 민사재판에서 재판장은 소송대리인으로 출석한 변호사를 법정 앞으로 불러 이렇게 경고했다. 변호사가 재판부에 제출한 서면에 인용된 판례들이 실제로는 존재하지 않았기 때문이다. 재판장은 “서면에 기재한 판례들을 다 찾아봤는데 실제 판례가 하나도 없었다”며 “챗GPT를 이용해 보니 해당 판례들이 나온다”고 지적했다. 소송 서면을 쓸 때 인공지능(AI)을 활용하는 사례가 늘면서 AI가 지어낸 허위 판례를 가려내느라 애를 먹는 재판부도 늘고 있다. 법정에서 재판장이 변호사를 공개적으로 질책하는 일까지 벌어졌다. 이에 따라 법원행정처는 처음으로 법관을 대상으로 AI 허위 판례 관련 실태조사를 했다. ● 10명 중 6명 넘게 “AI 허위 인용 경험” 2일 법원행정처에 따르면 지난달 6∼16일 실시한 설문에 응답한 법관 360명 중 243명(67.5%)이 “허위·부존재 판례 등의 인용을 경험했다”고 답변했다. 243명 중에서 존재하지 않는 판례(부존재 판례)를 소송 서류에서 접한 판사는 196명(80.7%)이었다. 실제 판례의 주요 내용을 다르게 인용한 허위 판례를 접했다는 판사는 159명(65.4%)이었다. 대법원 판결서 형식을 그대로 본떠 AI로 만든 허위 판결서를 제출한 사례도 있었다. AI와의 대화 내용이나 소송 전략에 관한 문구가 서면에 그대로 포함된 사례도 있었다고 한다. 올해 수도권 법원의 한 부장판사는 변호사가 낸 항소심 서면에 적힌 사건번호를 검색하다가 황당한 일을 겪었다. 1심 판단을 뒤집어야 한다는 주장의 근거로 변호사가 판례를 제시하면서 사건번호까지 써놨는데 막상 찾아보니 실제로 존재하지 않는 허위였던 것. 재판 기일 직전에야 제출된 서면을 살펴보느라 시간이 빠듯했다던 부장판사는 “황당할 따름이었다”고 당시 상황을 떠올렸다. 다른 수도권 법원의 한 판사도 최근 변호사가 AI에 판례를 물어본 흔적이 그대로 담긴 서면을 실제로 받았다. 해당 판사는 “서면을 급하게 썼는지 ‘요청하신 사항에 대한 답변입니다. 판례는 다음과 같습니다’라는 AI 답변 문구까지 서면에 그대로 담겨 있었다”며 “일선 재판에서는 이런 일이 비일비재한 것 같다”고 말했다. 결국 판결문에 허위...