클로드 ‘AI 워터마크’ 시끌…앤스로픽 “AI가 썼다는 뜻 아니다”

인공지능(AI) 기업 앤스로픽의 생성형 AI ‘클로드(Claude)’ 로고가 노트북 화면에 표시돼 있다. 게티이미지코리아 인공지능(AI) 기업 앤스로픽이 클로드(Claude)가 처리한 일부 텍스트에 눈에 보이지 않는 ‘워터마크’를 넣기 시작하면서 논란이 일고 있다. 사람이 직접 쓴 글이라도 클로드에게 교정이나 번역을 맡기면 워터마크가 남을 수 있어서다.앤트로픽은 워터마크가 발견됐다고 해서 해당 글을 클로드가 작성했다는 뜻은 아니라고 설명했다. 워터마크는 클로드가 해당 텍스트를 ‘처리했다’는 사실을 나타낸다는 것이다.13일(현지시간) 비즈니스인사이더에 따르면 앤스로픽은 이번 주 일부 클로드 모델이 생성·처리한 텍스트에 사람이 알아볼 수 없는 워터마크를 삽입한다고 밝혔다. 워터마크는 글을 복사해 다른 곳에 붙여넣어도 함께 따라가며 일부 내용을 수정한 뒤에도 남을 수 있다.앤스로픽은 유럽연합(EU)의 인공지능법(AI Act)에 대응하기 위해 이 기능을 도입했다고 밝혔다. 지원되는 모델이 생성한 텍스트에는 지난 2일부터 전 세계적으로 워터마크가 적용되고 있다.● 내가 쓴 글, 오탈자만 고쳐도 ‘AI 표시’?논란의 핵심은 워터마크가 붙는 범위다. 사람이 직접 작성한 글을 클로드에 입력한 뒤 맞춤법이나 문법만 다듬은 경우에도 워터마크가 남을 수 있다.디지털 헬스케어 기업 클릭(Klick)에서 생성형 AI를 이끄는 사이먼 스미스는 엑스(X)를 통해 사람이 작성한 글을 클로드로 가볍게 교정한 경우까지 AI가 쓴 글로 오인될 수 있다는 우려를 제기했다.이에 앤스로픽은 비즈니스인사이더에 워터마크는 클로드가 해당 텍스트를 처리했다는 사실을 보여줄 뿐, 클로드가 직접 작성했다는 의미는 아니라고 설명했다. 교정뿐 아니라 번역이나 요약을 맡긴 경우에도 워터마크가 남을 수 있다.● “앤스로픽만 검증하면 판사·배심원·검사 다 하는 셈”누가 워터마크를 확인할 수 있는지를 두고도 지적이 나왔다. 기술 투자자 빌 걸리는 앤스로픽만 워터마크를 식별할 수 있다면 회사가 사실상 “판사와 배심원, 검사의 역할을 모두 맡게 된다”고 비판했다.앤스로픽은 이용자와 제3자도 클로드의 워터마크를 직접 확인할 수 있도록 무료 API를 제공할 계획이라고 밝혔다. 다만 워터마크가 어떤 방식으로 텍스트에 들어가는지 등 구체적인 기술은 아직 모두 공개하지 않았다.특정 단어나 표현을 조합하는 방식이라면 답변 자체가 달라지는 것 아니냐는 의문도 나왔다. 앤스로픽은 워터마크...