인권단체 ‘아동착취’ 누명 씌워 계정 삭제…메타 “AI가 실수했다”

17년 운영 단체·100만 팔로워 강사 계정도 정지 AI가 심사…김명주 교수 “사람이 최종 검토해야” 메타(Meta) 로고가 표시된 스마트폰 화면. 최근 메타의 AI 계정 심사 시스템이 인권단체와 사업자 계정을 잘못 정지한 사례가 알려지며 논란이 커지고 있다. 게티이미지코리아 최근 국내 스레드와 인스타그램 이용자들 사이에서 이유를 알 수 없는 계정 정지와 영구 정지 사례가 잇따르면서 메타(Meta)의 AI 계정 관리 시스템에 대한 불만이 커지고 있다. 이런 가운데 미국에서는 17년 동안 활동해 온 인권단체와 100만 명의 팔로워를 보유한 사업자 계정이 AI의 오판으로 삭제됐다가 언론 취재 이후에야 복구된 사실이 알려졌다. 21일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 애틀랜타에서 흑인 해방 기념행사 ‘준틴스(Juneteenth)’ 관련 활동을 해온 시민단체 ‘준틴스NY’ 운영자 아테니아 로드니는 지난해 페이스북과 인스타그램 계정이 한꺼번에 정지됐다.메타는 해당 계정이 아동착취물 관련 정책을 위반했다고 통보했다. 그러나 로드니는 행사 사진과 지역사회 활동 내용을 공유해 왔을 뿐 관련 콘텐츠를 게시한 적이 없다고 주장했다.로드니는 신분증 제출과 소비자 보호기관 신고, 링크드인을 통한 메타 직원 접촉 등 여러 방법으로 계정 복구를 시도했지만 실패했다. 결국 NYT가 취재 과정에서 사례를 전달한 뒤에야 계정이 복구됐다.메타는 조사 결과 해당 계정이 해킹 피해를 입었고, AI 시스템이 이를 문제 계정으로 잘못 분류했다고 설명했다.● 100만 팔로워 사업자도 계정 삭제비슷한 사례는 또 있었다. 포르투갈에서 영어 교육 사업을 운영하는 카밀 한슨 부부는 올해 3월 페이스북과 인스타그램 계정이 삭제된다는 통보를 받았다. 두 사람은 SNS를 기반으로 사업을 운영하며 약 100만 명의 팔로워를 보유하고 있었다.메타는 이들의 계정이 ‘사기 및 기만 행위’ 정책을 위반했다고 판단했다. 이의신청도 기각됐다. 계정에 저장된 게시물과 메시지, 팔로워 정보까지 모두 삭제될 수 있다는 안내가 이어졌다.하지만 NYT 취재 이후 메타는 해당 계정 역시 잘못 정지된 사례라고 인정하고 복구했다.NYT는 메타가 AI를 활용해 계정 정지 여부를 판단하고 있으며, 이용자들의 항소 절차 역시 상당 부분 자동화돼 있다고 지적했다. 이용자들은 문제 발생 시 실제 담당자와 연결되기 어려워 구제 절차가 사실상 막혀 있다고 주장하고 있다.● 한국서도 계정 정지...