성착취·폭력 표현에 칼 빼든 플랫폼…과도한 제재 우려도

소셜미디어(SNS)나 채팅앱 등을 통해 극단적인 발언을 일삼거나 범죄 모의를 하는 사례가 증가하면서 플랫폼 기업들이 규제를 강화하고 있다.

22일 ICT 업계에 따르면 네이버 스트리밍 서비스 치지직은 지난 3일 대통령 선거일 당시 이재명 후보를 향해 극단적 발언을 한 스트리머 채널을 최근 접근 제한 조치했다.

개인 방송 중이던 스트리머는 이 후보의 당선이 확실시되자 시청자들을 향해 암살을 부추기는 발언을 해 논란을 빚었다.

애초 네이버는 일정 기간 방송 정지 제재로 대응했으나, 제재 수위가 약하다는 비판 여론이 거세지자 채널 접근을 제한한 것으로 알려졌다.

카카오는 지난 16일부터 테러 모의 등 극단적 폭력주의에 대한 콘텐츠 및 아동·청소년 성착취 대화 등에 대해 영구 이용 정지 제재를 가할 수 있는 내용의 강화된 정책을 시행했다.

기업들이 ‘표현의 자유’ 침해 논란 속에서도 이 같은 정책을 시행하는 이유는 ‘N번방’ 사건 등 플랫폼이 범죄 수단의 온상이 된 사례들 때문이다.

특히, N번방 사건 이후 포털 등에서 디지털 성범죄 등 불법 촬영물 등의 온라인 유포 사전 방지를 위한 기술·관리적 조치의무를 부담하는 내용의 전기통신사업법·정보통신망법이 시행 중이다.

지역생활 커뮤니티 당근은 무료 세차 서비스를 빌미로 차량을 훔치는 신종 범행이 발생하자 관련 게시글을 차단하고, 비슷한 수법에 대한 모니터링을 지속하고 있다.

당근은 일괄적으로 ‘세차’라는 단어가 포함된 게시물을 제재할 순 없다는 입장이다. 선량한 의도의 이용자가 ‘세차 용품’ 중고거래 게시글을 올려도 제재를 받을 수 있기 때문이다.

대신에 당근은 이용자 신고가 있거나, 영장이 접수되는 등 사기 행각이 적발된 계정에는 즉시 이용을 정지하고, 해당 계정과 대화한 이용자들에게 자동으로 주의 메시지를 발송하며 대응하고 있다고 설명했다.

해외 플랫폼 기업들도 폭력적 극단주의 관련 규제를 강화하고 있다.

구글은 2023년 검색 정책을 강화해 테러 그룹 등이 정치·종교적 목적을 위해 시민을 상대로 하는 폭력적 행위가 담긴 콘텐츠를 허용하지 않는다고 밝혔다.

메타는 폭력·선동 가이드라인을 통해 청부살인, 암살 등 심각한 폭력 행위를 제안하거나, 사람을 해하는 목적이 명시된 무기 제작·사용 방법 이미지 등을 삭제 처리할 수 있다고 규정하고 있다.

관건은 얼마나 정확하게 극단적 표현, 범죄 행위 등을 판단해 제재하느냐다.

최근 메타가 강화된 아동·청소년 보호 조치를 시행한 이후, 국내외 다수 인스타그램 이용자의 계정이 중단된 사례도 기술적인 한계를 드러냈다는 분석이 나온다.

메타코리아는 자동화된 AI 시스템이 과대 집행을 일으킬 수 있다며, 불의의 피해가 발생할 경우 회복 조치한다는 입장이지만, 약 2주가 지나도록 계정을 복구 받지 못한 이용자들의 불만이 이어지고 있다.

지난해에는 아기 사진을 주로 올리는 이른바 ‘아기 계정’을 운영하는 인스타그램 이용자들이 메타의 계정 보호조치 강화에 따라 계정 비활성화·삭제 조치를 받기도 했다.

이에 대해 분쟁해결기구 등 권리 구제 시스템을 통해 부당하게 표현의 자유를 침해받은 이용자가 플랫폼 결정에 이의를 제기할 수 있도록 이용약관 등을 적극적으로 알릴 필요가 있다는 의견이 나온다.

이성엽 고려대 기술법정책센터장은 “불법, 유해 콘텐츠를 삭제, 차단하는 문제와 표현의 자유가 보장돼야 한다는 가치가 충돌하는 측면이 있다”며 “플랫폼 기업들이 어느 범위에서 제재할 수 있는지 이용약관 등을 명확히 해야 한다”고 말했다.

이 기사가 마음에 들었다면, 좋아요를 눌러주세요.

좋아요 0