메타, 유해 콘텐츠 심사 AI로 대체

출처= 로이터연합뉴스

메타가 유해 콘텐츠와 광고 심사를 사람 대신 생성형 인공지능으로 대체하는 작업에 속도를 내고 있다. 대규모 AI 투자 부담을 상쇄하는 비용 절감 효과가 크지만, 오심과 감독 부족에 대한 우려도 커지고 있다.

26일 파이낸셜타임스(FT)에 따르면 메타는 자사 플랫폼의 콘텐츠와 광고를 검토하는 업무에 대형언어모델(LLM)을 더 많이 투입하는 방안을 빠르게 추진하고 있다. 메타는 그동안 자동화 시스템과 사람 검토자를 함께 활용해 게시물이나 광고가 회사 규정을 위반했는지 판단해 왔다. 여기에는 외부 계약업체 소속 심사 인력도 포함됐다. 이용자의 이의제기도 대체로 사람 검토자가 처리해왔다. 하지만 메타는 올해 이미 사람 검토 요청의 약 50%를 LLM으로 대체했다. 메타는 연말까지 이 비율을 더 낮추려 하며, 특정 유형의 콘텐츠에서는 사람 검토를 90% 이상 줄일 가능성도 있는 것으로 전해졌다.

메타는 "이 변화가 비용 절감보다 빠르게 발전하는 기술을 더 효과적으로 쓰기 위한 것"이라고 밝혔다. 3월 이후 초기 테스트에서 LLM이 규정 위반 콘텐츠를 집행할 때 사람보다 평균 13% 적은 실수를 했고, 실제 위반 사례는 10% 더 많이 찾아냈다고 설명했다. 메타는 “이 작업의 목적은 집행 노력을 개선하는 것”이라며 기존 콘텐츠 집행 방식보다 일관되게 더 나은 성능을 보일 때 더 발전한 AI 시스템을 배치하고 있다.

이번 AI 심사 확대는 저커버그가 이른바 ‘개인 슈퍼인텔리전스’ 개발에 막대한 자금을 투입하는 가운데 진행되는 것이다. 메타는 운영비를 줄이기 위해 코딩 등 내부 업무도 AI로 자동화하려 하고 있다고 복수의 관계자가 전했다. 회사는 여러 차례 감원과 조직개편을 거쳤고, 이 과정에서 직원 사기는 크게 악화됐다.

메타는 지금까지 심사와 고객 지원 업무 대부분에 구글의 대형언어모델 제미나이를 사용해왔다. 그러나 최근 직원들은 메타의 새 기반 모델인 '뮤즈 스파크'로 전환하라는 지시를 받은 것으로 전해졌다. 하지만 전통적 기계학습 분류기에 기반한 기존 AI 심사는 풍자나 빠르게 변하는 언어처럼 맥락이 중요한 사안을 다루는 데 어려움을 겪을 수 있다.

광고 영역에서는 이번 전환이 더 민감한 사안이 될 수 있다. 메타는 이미 자사 플랫폼의 '사기성 광고' 규모를 둘러싸고 압박을 받고 있다. 로이터는 지난해 메타가 내부적으로 2024년 연간 매출의 약 10%, 160억달러를 사기 광고와 금지 상품 광고에서 벌어들일 것으로 전망했다고 보도했다. 메타는 캘리포니아주 샌타클래라 카운티와 호주 광산 재벌 앤드루 포리스트 등으로부터 사기 광고 관련 법적 도전도 받고 있다.

이달 초에는 메타의 사진 앱 인스타그램에서 수만 개 계정이 해킹당했다. 해커들이 AI 기반 고객지원 챗봇을 악용한 사건으로, 일부 이용자들의 반발을 불렀다. FT는 "광고 사기와 계정 보안, 무해한 게시물 제재 같은 문제가 겹치면서 실제 신뢰성은 계속 검증을 받게 될 전망"이라고 분석했다.

김동현 기자 3code@hankyung.com