AI를 이용한 근로감독 - 알고리즘 사장님의 군림? [지평 테크레이더]

인공지능(AI)은 근로자의 업무를 수월하게 하는 도구로 활용되고 있지만, 근로를 감독하고 평가하는 도구로 사용되기도 한다. 이미 세계 곳곳에서 이 ‘알고리즘 사장님’의 근로감시와 관련해 많은 논란이 야기되고 있다. 인공지능이 나의 근로일상을 실시간으로 감시하고, 그렇게 수집한 데이터로 인사평가를 감행하며, 그에 따라 인사상 승진이나 해고 여부가 결정된다면 어떨까? 아마도 쉽게 받아들일 수 있는 근로자는 없을 것이다.

우버ㆍ올라 그리고 EU 플랫폼 노동 지침

인공지능의 근로감독과 관련하여 노동인권 침해 우려가 제기된 초창기 사례로 언급되는 것은, 우버ㆍ올라 사건이다. 택시경제를 대표하는 플랫폼 운영사인 우버ㆍ올라는 소위 알고리즘 기술을 이용해 택시 노동자들에 대한 평점을 내거나 부정행위 등을 추정해 해고 결정을 내려왔다. 이에 플랫폼노동조합(The App Drivers and Couriers Union; ADCU)은 우버ㆍ올라를 상대로 “자동화된 시스템으로 노동자를 부당하게 해고(Robo-firing)하는 것을 멈추라”며 네덜란드 법원에 소를 제기했다.

네덜란드 항소법원에서는 2023년 4월 장기간의 심리 끝에 노동자들의 손을 들어주었다. 이 판결을 통해, 인간의 개입 없는 자동화된 의사결정만으로 근로자를 해고하는 것은 허용되지 않는다는 원칙이 확인됐다. 또한 플랫폼 사업자로 하여금, 근로자 개인의 평가데이터와 어떤 알고리즘 로직에 의해 해고가 되었는지를 설명하도록 의무화했다. 즉 인공지능 알고리즘이 근로자 위에 사장으로 군림하는 것을 방치하지 않겠다는 취지다.

이 판결은 곧바로 EU 플랫폼 노동자들의 노동인권 보호에 관한 EU 플랫폼 노동 지침 제정의 배경이 되었다. 이 지침은 1) 플랫폼 노동자가 업무위탁계약이나 용역계약 등의 외관을 띠고 있더라도, 플랫폼 알고리즘에 의한 업무배정, 지시, 통제를 받을 경우 고용관계를 추정하도록 했다. 또한 2) 노동자의 감정 상태나 사적 대화 내용, 근무 외 시간의 행태 데이터 등에 관한 데이터 수집을 금지하고 플랫폼 계정해지 및 해고 등의 중대한 의사결정에는 반드시 인간의 개입이 이루어지도록 의무화했다. 3) 플랫폼 운영사로 하여금 인공지능을 통한 모니터링 및 의사결정 시스템 사용 사실을 근로자들에게 고지하도록 했으며, 알고리즘이 내린 결정에 대해 설명 내지 재검토를 요청할 근로자의 권리를 명시했다.

Meta, 그리고 현대판 ‘감시와 처벌’

미국은 인공지능 알고리즘을 활용해서 근로자의 생산성 점수를 메겨 정리해고 대상자를 선정해 논란이 된 메타(Meta) 케이스로 시끌시끌하다. 바로 지난 주 해고근로자인 원고들은 메타를 상대로 해고무효 소송을 제기했다. 메타가 직원들의 키보드 입력, 화면 활동, 이메일 기록, 브라우징 기록, 사내 커뮤니케이션 데이터를 수집해 AI 기반 성과 지표를 산정했다고 주장한 것이다. 그야말로 근로자들에 대한 ‘감시와 처벌’의 시대로 접어들고 있다. 이 소송은 미국 내 그 어떤 소송보다 뜨거운 관심을 받고 있다.

이렇게 디지털 활동량으로 개인의 업무성과를 평가하게 될 경우, 활동량은 많지 않지만 효과적으로 양질의 업무성과를 내는 근로자들이 과소평가되는 문제가 발생할 수 있다. 알고리즘 로직이 갖는 편향성이나 차별적 성격으로 인한 수치 왜곡도 문제다. 이렇게 산출된 수치와 순위 데이터가 사용자 내지 관리자에게 주어질 경우, 최종적으로 인적 개입을 통해 의사결정이 이루어진다 해도 주어진 산출결과의 범위를 벗어나기 어렵다. 인적 개입만으로 이러한 편향성과 차별성이 해소될 수 있는지는 여전히 물음표다.

AI를 통한 근로감시, 아직은 규제 사각지대에 있나?

국내의 경우는 어떠한가? 근로자들은 벌써부터 두려워하고 있다. 올해 2월 글로벌리서치에서 진행한 여론조사 결과에 의하면 근로자들 중 73.5%가 AI로 인한 노동 감시가 더 강화될 것이라고 믿고 있다. 무려 80.4%의 근로자들이 법제를 통해 AI를 통한 근로감시를 규제해야 한다고 목소리를 높인다. 이미 국내에서도 직장 내 CCTV를 통한 실시간 근로감독, 이메일 및 브라우저 사용기록, 메신저 대화내용에 대한 감시 등 인공지능 기술을 활용한 근로감독이 본격화되고 있다.

그렇다면, 법제도는 어떠한가? 개인정보보호법은 ‘완전히 자동화된 시스템(AI 시스템 포함)으로 개인정보를 처리해 이루어지는 결정이 자신의 권리의무에 중대한 영향을 미칠 경우 해당 결정을 거부할 권리를 갖는다’고 규정한다. 소위 ‘알고리즘 사장님’이 내린 결정에 대해서는 거부할 권리가 있다. 하지만 AI 시스템의 평가 결과를 참고해 인간이 내린 결정에 대해서는 설명요구권이 있을 뿐이다. 이 설명요구권에는 의견제출권이 포함되며 자신의 의견을 의사결정에 반영해 줄 것을 요구할 권리도 있지만, 이를 반영하지 않는다고 하여 제재가 따르는 것도 아니다. 즉, 인공지능 기술에 전적으로 의존하지 않는 경우에는 인사평가 내지 해고 등의 최종 의사결정을 뒤집기 쉽지 않을 수 있다.

인공지능기본법은 ‘채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가’를 고영향 인공지능의 한 유형으로 열거하고 규제하고 있다. 하지만, ‘고영향 인공지능 판단 가이드라인’은 위 규정의 ‘채용’의 의미에 대해 “배치된 인재에 대한 관리, 평가, 퇴직의 모든 과정을 아우르는 포괄적 의미가 아니라, 인재의 탐색부터 선발까지 과정을 나타내는 소극적 의미로 사용한다”고 밝히고 있다. ‘근로계약 관계에서 승진, 해고 등 중대한 의사결정에 영향을 주는 AI’를 고위험 AI로 분류하는 EU와 조금의 차이가 있다. 마치 채용 후 인사평가나 해고결정에 활용되는 것은 위 규정의 적용대상이 아닌 것처럼 오해될 소지도 있다.

이처럼 표면만을 놓고 보면, 아직은 법 규정만으로 이 새로운 문제를 일거에 해소하기는 어려울지도 모른다. 우버ㆍ올라 사건이나, Meta 사건에서 볼 수 있듯, 때로는 역사의 이정표를 제시할 사법부의 판단을 기다려야 할지도 모르겠다.

[지평 테크레이더]에서는 ­AI, 데이터, 디지털 기술 발전에 따라 급변하는 법·제도 환경을 기업ㆍ기관 실무자가 이해하기 쉬운 형태로 전달하고자 합니다. 허종 변호사는 지평 IPㆍIT 부그룹장으로 IPㆍIT, 엔터테인먼트&미디어, 제약ㆍ바이오ㆍ의료 분야 자문 및 소송 업무 등을 수행하고 있습니다.