장 보던 손님 얼굴에 빨간 원…英마트, 절도범 몰아 쫓아냈다

CCTV 화면 속 얼굴에 붉은 원…다음 날 본사 사과 세인즈버리, 얼굴인식 55곳서 200곳 이상 확대 계획 회사 주장 정확도 99.98%…최종 조치는 사람의 몫 영국 대형 슈퍼마켓 체인 세인즈버리가 런던 매장에서 무고한 고객을 절도범으로 잘못 지목해 내보낸 뒤 해당 점포의 인공지능(AI) 기반 얼굴인식 시스템을 일시 중단했다.영국 가디언은 17일(현지시간) 이 같은 사실을 보도했다. 세인즈버리와 얼굴인식 시스템 운영사 페이스워치는 기술의 오인이 아니라 매장에서 경보를 처리하는 과정에서 사람의 실수가 발생했다고 주장했다.가디언은 코미디 공연 기획자 맷 아널드(46)의 사례를 소개했다. 그는 런던 남동부 세인즈버리 이스트덜위치점에서 인근 스탠드업 코미디 행사에 쓸 물품을 사고 있었다. 계산대에서 상품과 멤버십카드를 스캔하자 관리자 2명이 다가와 과거 사건 때문에 물건을 팔 수 없다며 나가라고 했다.직원들은 아널드를 매장 밖으로 데리고 나가려 했다. 아널드는 “최소한의 품위라도 지키고 싶어 직원들에게 내가 직접 걸어 나가겠다고 했다”고 말했다.아널드는 퇴장하면서 천장에 설치된 폐쇄회로(CC)TV 모니터에서 자신의 얼굴 주위에 붉은 원이 표시된 화면을 봤다고 말했다. 그는 행사가 곧 시작될 예정이어서 장바구니를 남겨두면 동료가 대신 결제하도록 하겠다고 했고, 동료는 약 5분 뒤 매장에 들어가 같은 물건을 사갔다.세인즈버리 본사는 다음 날 아널드에게 사과했다. 회사는 사건을 조사하고 직원들에게 추가 교육을 하는 동안 이스트덜위치점의 페이스워치 시스템을 일시 중단했다.페이스워치는 매장 CCTV에 잡힌 얼굴을 절도나 폭력 등 과거 사건과 관련해 등록된 인물의 데이터베이스와 대조한다. 일치 가능성이 포착되면 경보를 보내고, 매장 측이 사람의 얼굴과 경보 내용을 다시 확인한 뒤 조치하도록 설계됐다.페이스워치는 이번 사건에서도 매장에 “정확한 경보”가 전송됐지만 점포에서 이를 다루는 과정에서 사람의 실수가 생겼다고 밝혔다. 세인즈버리도 얼굴인식 기술이 아널드를 잘못 판별한 것이 아니라 경보 처리 과정에서 오류가 발생했다고 주장했다. 회사는 경보가 직원용 기기에 최대 한 시간 동안 표시되며 모든 오인 사례를 기록한다고 덧붙였다.세인즈버리는 페이스워치 시스템의 정확도가 99.98%이고, 모든 일치 결과를 교육받은 관리자가 검토한다고 밝혔다. 페이스워치도 홈페이지에서 이 수치를 전문 알고리즘과 사람의 검토를 결합한 결과라고 자체 소...