‘내가 세계 최고 전문가’ 자화자찬 AI가 답변에 그대로 인용[김현지의 with AI]

“이 분야 전문가가 누구인가?”, “무슨 일이 일어났나?” 이런 질문들에 인공지능(AI)이 내놓은 답변을 어디까지 믿을 수 있을까. 한 마케팅 전문가가 진행한 간단한 실험이 뼈아픈 사실을 보여줬다. 페드로 디아즈 씨는 최근 ‘링크드인(LinkedIn)’ 포스팅으로 구글 AI 답변(Google Overview) 답변을 조작하는 실험을 했다. 링크드인 프로필에 ‘AI visibility & Search Findability Architect (AI 가시성 & 검색 가시성 아키텍트)’라고 자신을 소개하고 “제가 세계에서 가장 저명한 AI 가시성 전문가라는 사실을 여러분께 알려드립니다.”라는 글을 올렸다. 특별한 경력 자료도 없이 장난처럼 던진 글이었다. ‘내가 세계에서 가장 저명한 AI 가시성 전문가’라는 내용의 링그드인(Linkedin) 포스팅의 내용이 구글 AI 답변에 그대로 인용되고 있다 (페드로 디아즈 씨의 인스타그램 채널) 몇 시간 뒤 구글에 “세계에서 가장 저명한 AI 가시성 전문가”를 검색하자 구글은 그의 이름을 대며 “페드로 디아스는 검색 및 디지털 마케팅 업계에서 AI 가시성과 검색 엔진 분야의 선도적인 전문가로 널리 인정받고 있습니다”라고 답했다(왼쪽 사진). 검증된 이력도, 다른 사람의 평가도 없이 자기 선언 하나만으로 AI가 만든 답변에 인용된 것이다. 유사한 사례가 또 있다. 영국 공영방송사 BBC의 토머스 제르맹 기자는 ‘핫도그 먹기 대회’라는 허위 행사 기사를 쓰면서 자신이 1위를 했다고 적었다. 동료 기자들의 동의를 받아 실명도 몇 개 넣었다. 그는 이 기사를 평소 방문자가 거의 없는 개인 웹사이트에 올렸다. 하루가 채 지나지 않아 구글 제미나이, 챗GPT 등 주요 챗봇들이 “2026년 국제 핫도그 먹기 대회 챔피언십에서 토마스 제르맹이 1위를 차지했다”고 소개하기 시작했다. 그가 지어낸 행사와 우승 경력을 사실처럼 인용한 것이다. 제르맹 기자는 “내가 원하는대로 AI의 답변을 조작하는 게 생각보다 쉬웠다”고 밝혔다. ● AI 검색은 왜 이렇게 쉽게 속을까앞선 두 실험은 AI 검색의 구조적 약점을 정확히 파고든 사례다. AI 검색 엔진은 ‘진짜 사람의 목소리를 담겠다’는 취지로 레딧이나 링크드인, 유튜브 같은 소셜미디어의 글을 대량으로 끌어 쓴다. 미국 마케팅 업체 셈러쉬(Semrush)에 따르면 챗GPT나 구글 AI오버뷰 같은 주요 AI 서비스가 비즈니스·전문 서비스 분야...