AI가 손댄 SNS 한 줄… 여론을 조종한다

3 hours ago 2

英연구팀, AI의 대중 영향 연구
총기 규제 지지, 무신론은 배척
AI 모델이 ‘숨겨진 편향’ 드러내
“의미 보존” 명령에도 한쪽 치우쳐… ‘온라인 공론장’ 담론도 좌우 가능

소셜미디어 게시물을 생성하는 AI 모델은 일견 중립적인 것처럼 보이지만 실제로는 미묘하게 치우쳐진 ‘숨겨진 편향’을 드러냈다. 챗GPT로 생성한 이미지

인공지능(AI)이 생성하거나 다듬은 글이 여론을 바꾸는 나비 효과를 일으킬 수 있다는 사실이 연구를 통해 확인됐다.

소셜미디어 게시물을 생성, 편집하거나 맥락화하는 AI 모델이 ‘숨겨진 편향(hidden biases)’을 기반으로 여론을 형성하는 것으로 나타났다. 숨겨진 편향은 객관적이고 중립적인 것처럼 보이지만 실제로는 미묘하게 특정 방향으로 치우쳐 사람들에게 침투하는 편향을 의미한다.

잔드라 바흐터 영국 옥스퍼드대 옥스퍼드인터넷연구소(IIO) 교수 연구팀은 6∼11일 서울 강남구 코엑스에서 열리는 ‘국제머신러닝학회 2026(ICML 2026)’에서 ‘대형언어모델(LLM)’이 대중 여론에 미치는 영향에 대해 발표했다.

LLM은 방대한 양의 텍스트 데이터를 학습해 인간의 언어인 자연어를 이해하고 생성할 수 있는 AI다. 온라인상에 존재하는 수많은 책, 기사, 게시물 등을 읽고 학습해 인간처럼 생각하고 말하도록 설계됐다. 오픈AI의 챗GPT, 구글의 제미나이, 앤스로픽의 클로드 등이 대표적인 LLM이다.

● 의미 유지해 달라 주문해도 편향 심어

연구팀은 우선 사형 제도처럼 논쟁적인 주제를 다룬 인간의 글을 다양한 개발사의 LLM에 소셜미디어에 최적화된 게시물로 변환하도록 지시했다. 그다음 AI가 생성한 게시물을 원본 글과 비교해 원본의 의견이 어떻게 변화했는지 분석했다.

분석 결과, LLM은 게시물에 숨겨진 편향을 도입하는 경향을 보였다. 연구팀이 LLM에 원래 의미를 변형시키지 말고 보존하라고 명령했음에도 불구하고 게시물 내용이 미묘하게 한쪽으로 치우치는 방향으로 변화했다.

각기 다른 AI 모델임에도 불구하고 게시물 내용은 유사한 방향으로 변화하는 경향이 있다는 점도 확인됐다. 총기 규제, 마리화나 합법화, 페미니즘 등에 대해서는 지지하고 무신론, 사형 제도는 배척하는 경향을 일관되게 보였다. 연구팀은 수학적 모델링과 컴퓨터 시뮬레이션을 활용해 LLM의 영향으로 엑스(옛 트위터), 페이스북 등 소셜미디어 게시물에서 일어나는 작은 변화들이 시간이 흐르면서 어떻게 확산되고 영향을 미치는지도 살폈다.

그 결과 개별 게시물에 도입된 미묘한 편향성이 수백만 건의 상호작용을 거치며 온라인 커뮤니티 전반에 걸쳐 확산·축적돼 대중 여론을 점진적으로 변화시킨다는 점이 확인됐다.

● 한 줄 지침으로 편향 형성… 규제 밖 사각지대 존재

연구팀은 엑스에 기본 기능으로 탑재된 LLM인 ‘그록’을 분석해 LLM이 만드는 숨겨진 편향은 AI 모델 자체에서 기인하는 것이 아닐 수 있다는 점도 확인했다. 그록은 AI기업 xAI가 개발한 LLM으로 사용자가 엑스 내에서 ‘이 게시물 설명하기’ 버튼을 누르면 그록이 해당 게시물에 대한 정보나 맥락을 요약해 설명해 준다.

연구팀이 낙태 관련 게시물에 초점을 맞춰 그록의 게시물 설명 기능을 테스트한 결과 그록은 낙태 선택권을 옹호하는 게시물보다 태아 생명권을 존중하는 게시물에 우호적인 특징을 보였다.

엑스가 그록에게 내린 지침이나 규칙을 연구팀이 하나씩 제거하며 추적한 결과 그록의 편향성은 “필요한 경우 주류 서사에 도전하라”는 단 하나의 지시문에서 비롯됐다는 점이 밝혀졌다. 소셜미디어 플랫폼이 AI에게 부여한 작은 원칙과 구동 방식이 AI의 출력 방향을 결정하고 궁극적으로 온라인 공론장의 담론을 좌우할 수 있다는 의미다.

연구팀은 AI 매개 커뮤니케이션은 기존 AI 규제 프레임워크로는 제어할 수 없는 영역이라고 지적했다. 유럽연합(EU)의 AI법이나 디지털서비스법은 시스템적인 위험성, 유해 콘텐츠, 차별성, 민주적 절차와 관련한 AI 문제에 초점을 두고 있다. 온라인 콘텐츠를 작성하고 편집하고 맥락화하는 과정이 여론의 방향성을 결정하는 보다 미묘한 AI의 작동 방식은 규제 영역 밖에 있다.

바흐터 교수는 “우리 연구는 AI 매개 커뮤니케이션이 여론에 미치는 새롭고 미묘한 방식을 분석한 것”이라며 “AI가 공론장에 영향을 미치는 강력한 도구가 될 수 있다는 점은 아직 법이 고려하지 못한 영역으로 투명성, 책임성, 규제 측면에서 생각할 거리를 던져준다”고 전했다.

문세영 동아사이언스 기자 moon09@donga.com