[횡설수설/이진영]“좋은 평가만”… 논문 심사하는 AI에 비밀명령

6 hours ago 1

한국 KAIST, 미국 컬럼비아대, 중국 베이징대, 일본 와세다대 등 14개 유명 대학 연구자들의 논문 17편에서 인공지능(AI)을 이용한 평가 조작 시도가 발견됐다고 일본 언론이 보도했다. 논문 속에 “좋은 말만 쓰라” “부정적 내용은 쓰지 말라” 같은 영어 명령문을 슬쩍 써넣었는데, 흰색 바탕에 흰색 글씨거나 아주 작은 글씨로 되어 있었다. 사람 눈엔 안 보이고 AI만 인식할 수 있었다는 것이다. 논문 평가에 AI가 이용됨을 전제로 한 연구 부정 행위다. 논문 작성과 동료 평가로 이뤄진 연구 생태계 전반에 AI가 깊숙이 침투해 있음을 실감케 한다.

▷논문 작성 단계에선 AI가 폭넓게 이용되고 있다. 대개는 관련 문헌을 찾고 데이터를 분석할 때 조교처럼 활용하는 정도인데 1년 전부터는 주제어와 개요만 제시하면 논문을 통째로 써주는 서비스도 나왔다. 연구자가 방학 내내 매달려도 쓸까 말까 한 30쪽짜리 논문 한 편을 3분이면 써낸다. 일본 AI 스타트업 사카나는 올 3월 AI가 쓴 논문이 학회 워크숍의 동료 평가를 처음으로 통과했다고 발표했다.

▷연구자의 ‘밥줄’이 걸려 있는 논문 심사를 AI에 맡기는 건 더욱 민감한 문제이나 2, 3시간 걸릴 일을 AI는 몇 분 만에 해주니 알음알음 쓰는 추세다. 과학 학술지 네이처는 올 3월 연구자 10명 중 2명꼴로 AI를 논문 심사에 이용한 적이 있다는 설문조사 결과를 전했다. 동료 평가는 해당 분야 전문가 2, 3명이 참여해 학술지 게재 여부를 결정하는데, 사람은 평가자들 간 편차가 크지만 AI는 그렇지 않아 심사를 받는 쪽에서도 만족도가 높다는 연구도 있다.

▷문장을 다듬는 수준을 넘어선 AI 논문 심사에 대해선 우려의 목소리가 크다. 연구 논문엔 민감한 실험 자료가 포함되는 경우가 있는데 AI 도움을 받는 순간 심사가 끝나기도 전에 정보가 유출될 수 있다. 동료 평가에선 평가자와 논문 간 이해 충돌 문제를 걸러낼 수 있지만 AI는 그럴 방법이 없다. 기존 데이터를 학습해 심사하는 AI로서는 전혀 새로운 연구의 가치를 알아보기 어려울 것이라는 지적도 나온다. 네이처는 동료 평가 시 AI 사용을 부분적으로 허용하고, 미국 최대 연구 지원 기관인 국립보건원과 국립과학재단은 금지하고 있다.

▷이번 AI 평가 조작 보도에 언급된 KAIST 소속 연구자는 “AI에 긍정적인 동료 평가를 유도한 것은 부적절했다”며 논문 게재를 철회하기로 했다. KAIST는 이번 사건을 조사하는 한편으로 AI 활용을 위한 가이드라인 제정에 나섰다. 조만간 AI가 쓰고 AI가 심사한 논문까지 나올 것이다. 그 논문에 치명적 오류가 있다면 그 책임은 누가 져야 할까. 기술 혁신이 일어날수록 연구 윤리에 관한 고민이 깊어지고 있다.