메타, 얼굴 인식 기술로 사칭 계정 탐지 테스트…계정 액세스 복구에도 활용

페이스북과 인스타그램에는 문제가 있다. 사실 문제는 매우 많지만, 이들이 해결하려고 하는 대표적인 문제는 '유명인 사칭 광고 및 사기'다. 모회사 메타는 새로운 게시물을 통해 사칭 문제를 해결하기 위해 다시 한번 얼굴 인식 기술을 사용할 계획이라고 밝혔다. 그렇다. 또다시 얼굴 인식 기술이다. 
 

ⓒ Facebook

메타는 이 긴 게시물에서 이 새로운 도구의 가장 큰 효과는 유명인을 사칭하는 사기 계정을 차단하기 위한 노력을 확장하는 것이라고 설명했다. 최근 1년 정도 페이스북을 사용해 본 적이 있다면, 유명인이 친구 추천으로 뜬 것이 있을 것이다. 파파라치 사진을 사용하거나 고의적인 이름 철자 오류 등으로 명백한 가짜 계정임을 식별할 수 있다. 

이제 메타는 사기성 계정이거나 부주의한 사용자의 정보를 유출하려는 이런 사칭 계정을 발견하면, 이들 계정을 해당 유명인의 실제 페이스북이나 인스타그램 계정과 얼굴 인식을 통해 비교할 예정이다. 이 시스템은 소셜 미디어의 거의 모든 시스템과 마찬가지로 자동화될 예정이며, 광고에도 확대 적용된다. 

좋다. 문제가 많은 얼굴 인식 기술을 이런 식으로 사용하는 것은 의미 있어 보인다. 하지만 누군가가 합법적인 페이스북이나 인스타그램 계정을 해킹한다면 어떨까? 혹은 비밀번호를 잊어버려서 이메일 계정에 액세스할 수 없게 된다면? 현재로서는 공식 신분증을 업로드해 메타 지원팀에 도움을 요청해야 한다. 하지만 현재 메타가 테스트하는 방식은 셀카 동영상을 업로드하고 게시물에 저장된 사진을 비교해 얼굴을 인식하는 시스템이다. 

데모에서는 얼굴 전체를 스캔할 수 있도록 사용자가 다양한 각도로 고개를 기울이는 모습을 보여준다. 메타는 이런 동영상이 “암호화되어 안전하게 저장되고” 공개적으로 게시되지 않으며, 프로세스가 완료되면 얼굴 인식 기술과 함께 즉시 삭제된다고 말했다. 

페이스북이 얼굴 인식 기술을 도입한 것은 이번이 처음은 아니다. 이전에는 사진과 동영상에 자동으로 사용자를 태그하는 더 기본적인 시스템을 사용했지만, 개인정보 보호 문제가 제기된 후 2021년에 해당 옵트인 도구를 폐지했다. 새로운 시스템 구현은 비교적 덜 광범위하고 안전에 더 초점을 맞췄다. 

그렇긴 하지만, 현재로서는 사용자가 메타와 페이스북이 하는 거의 모든 일에 회의적이라고 해도 비난할 수 없다. 필자는 수년간 페이스북 시스템과 거리를 두려다가 올해 초 마지못해 일부 지역 커뮤니티에 참여하기 위해 다시 돌아왔다. 하지만 곧바로 산더미처럼 쌓인 AI 생성형 콘텐츠 홍수에 시달려야 했다.
 

"진짜 사람들"의 진심 어린 댓글이 가득한 진짜 "아늑한 오두막" ⓒ Facebook

AI가 생성한 '아늑한 오두막'과 닷지 파워 왜건, 불쾌한 골짜기 건너편에 있는 동물과 사람의 사진이 매일 필자의 뉴스 피드를 공격했다. 이런 계정들을 신고하려고 헛되이 노력했지만, 수백만 개의 ‘좋아요’와 공유(대부분은 사람이 아닌 것으로 추정됨) 덕분에 계속 올라오고 있다. 

따라서 사용자를 보호하려는 진정한 의도는 말할 것도 없고, 소셜 미디어 사칭의 흐름을 막을 수 있는 메타의 능력에 대해 확신이 서지 않는다. 만약 메타가 필자의 앱 화면에서 AI의 헛소리를 차단하는 데 더 많은 관심을 보인다면, 진정으로 헌신하고 있다는 믿음이 조금은 생길지도 모르겠다. '딥페이크'도 점점 더 쉽게 구현되는 시대에 자동화 시스템이 동영상으로 실제 사람과 사기꾼을 신뢰할 수 있게 구별할 수 있을지 의문이다. 
editor@itworld.co.kr