Kaiser 간호사들 “AI 감시가 업무와 환자 돌봄을 악화”

• Kaiser Permanente 상담·트리아지 간호사들은 15분 이상 통화, 통화 간격, 지침 준수 여부를 추적하는 성과 관리가 전문적 판단과 환자 돌봄을 위축시킨다고 말함
• 2024년 시험한 AI는 간호사의 공감과 목소리 톤까지 평가했으며, 간호사들은 업무 맥락을 이해하지 못한 채 잘못된 점수를 매겼다고 비판함
• 자살 위험 환자, 복합 증상, 통역이 필요한 환자처럼 긴 상담이 불가피해도 월간 점수와 평가 면담을 의식해야 하며, 바쁜 시간에는 통화 후 기록·회복 시간이 30초 이하로 줄어듦
• Kaiser는 평균 처리 시간으로 성과를 평가하지 않으며 모든 도구에 사람의 검토와 감독이 있다고 반박했지만, 내부 시스템의 구체적인 목록과 운영 방식은 공개하지 않음
• 노조는 25,000명의 계약 협상에서 AI를 주요 의제로 다루며, California 의회도 자동화 권고를 거부한 의료진 보호와 감정 예측 AI 제한 등을 담은 법안을 검토 중임

15분 통화 기준이 만드는 성과 압박

• Kaiser의 상담·트리아지 간호사 7명은 환자와 15분 넘게 통화하면 경영진의 비판을 받거나 성과 평가 면담에 불려가는 일이 반복된다고 말함
  • 통화 시간은 간호사들이 매월 받는 성과 점수에 반영됨
  • 소프트웨어는 매일 간호사가 비생산적인지, 전화를 충분히 빨리 받지 않는지를 예측하려 함
• Vallejo에서 2010년부터 일한 Raquel Alvarez Sanchez는 자살 위험이 있는 환자와 경찰이 도착할 때까지 1시간 넘게 통화함
  • 장시간 통화가 몇 주 동안 평균 통화 시간을 악화시키고 경영진의 질문으로 이어질 수 있음을 의식하면서도 전화를 끊지 않음
  • 노조 간부로서 동료들과 평가 면담에 참석했을 때, 통화 처리 자체는 모두 적절했지만 15분을 넘겼다는 이유만으로 문제가 된 사례를 목격함
  • 이 때문에 해고된 간호사는 보지 못했으나, 압박이 지속되면 퇴직이나 조기 은퇴로 이어질 수 있다고 우려함
• 간호사들은 통화 중 정해진 지침을 따르고 조언을 2~3개 이하로 제한하라는 지시를 받음
  • 필요한 조언을 보류할지, 성과 평가를 감수할지 선택해야 하는 상황이 생길 수 있음

환자 돌봄에 미치는 불확실한 영향

• 알고리듬 기반 관리와 통화 시간 제한이 실제 환자 결과에 미치는 영향은 명확하지 않음
  • 상담 간호사는 통화를 종료한 뒤 환자를 추적하지 않아 부정적 결과가 발생했는지 확인하기 어려움
  • CalMatters가 2024년 California Department of Managed Health Care에 공공기록을 요청했지만, Kaiser의 통화 시간과 관련된 환자 민원은 발견되지 않음
• 간호사들은 다음과 같은 상담에는 15분보다 긴 시간이 필요하다고 말함
  • 여러 증상이나 만성질환을 함께 진단해야 하는 환자
  • 조언과 안심이 필요한 초보 부모
  • 추가적인 건강 교육을 원하는 환자
  • 삶을 바꾸는 진단을 받고 충격이나 불안에 빠진 환자
  • 통역이 필요한 통화로, 대개 30분 이상 걸릴 수 있음
• California 주민 약 10명 중 4명은 영어 이외의 언어를 사용하며, 그중 절반은 영어를 능숙하게 구사하지 못함
• 한 간호사는 말기 암 진단을 받은 고령 환자가 처음에는 자살 위험이 있다고 생각했으나, 실제로는 충격 속에서 대화 상대가 필요하다는 점을 파악함
  • 공감과 위로를 더 제공하고 싶었지만 월간 점수 하락과 관리자의 질책을 우려해 말을 줄임
  • 정해진 지침을 벗어나거나 필요한 것보다 더 말하면 징계를 받을지 스스로 따져야 했음
• Consumer Watchdog의 Michele Ramos는 많은 Kaiser 환자가 상담 전화로 진료를 시작하기 때문에 통화 단계의 제약이 이후 문제의 출발점이 될 수 있다고 봄
  • Kaiser는 정신건강 예약을 법정 기한보다 늦추고 개인 치료 대신 집단 치료를 지나치게 활용했다는 조사 결과로 5,000만 달러의 기록적인 벌금을 포함한 합의를 체결한 바 있음
  • 2002년에는 비간호사 콜센터 직원에게 짧은 통화의 대가로 보너스를 지급해 비판받았으나, 현재 간호사들은 같은 관행을 경험하지 않았다고 말함

공감과 목소리 톤을 채점한 AI

• Kaiser는 2024년 여름 간호사와 환자의 목소리에서 공감과 톤을 평가하려는 AI 도구를 시험함
  • 간호사들은 환자 개인정보 보호, 투명성, 전문적 판단권, 기술 도입 과정의 간호사 참여를 요구하는 청원에 서명함
  • 같은 해 병원 밖 시위에서 사용한 “Trust nurses, not AI” 구호를 캠페인에도 사용함
  • 시험은 2024년 11월 종료됐지만, 노조 관계자들은 경영진이 향후 프로그램을 다시 도입할 수 있다는 말을 들음
• Sanchez는 기존 감시만으로도 간호사들이 괴롭힘을 느꼈으며, AI가 통화를 평가하고 점수화한다는 계획이 이를 심화했다고 말함
• 익명의 간호사에 따르면 AI는 간호사의 업무를 이해하지 못해 지속적으로 잘못 채점함
• Kaiser는 해당 도구와 간호사 성과 평가에 쓰이는 자동화 시스템, 공감·톤 평가 사실을 환자에게 알렸는지에 관한 질문에 답하지 않음

통화 사이 30초와 정서적 소진

• 간호사들은 과거 통화 후 환자 기록을 정리하거나 힘든 상담에서 회복할 시간으로 약 10분을 받았음
• 현재는 통화량이 많을 때 다음 전화까지 보통 30초 이하만 주어짐
  • 늦은 밤처럼 한산한 시간에는 더 길 수 있음
  • 특히 힘든 상담 뒤에는 관리자의 허가를 받아 추가 시간을 얻을 수 있음
• 자살 위험, 정신건강 위기, 임종에 가까운 환자와 통화한 뒤에도 시간이 거의 없으며, 이런 속도는 환자 상태의 중요한 단서를 놓치는 실수로 이어질 수 있다는 우려가 나옴
• 4개 선진국 콜센터를 조사한 2023년 연구는 AI 기반 관리·감시를 사용하는 직원에게 통화 사이 시간이 더 적고 정서적 소진이 더 많이 나타났음을 확인함
  • 응답자의 거의 절반은 AI 도구가 업무 스트레스를 키웠다고 답함
  • 같은 연구진의 이전 연구는 성과 감시와 높은 정서적 소진 비율의 연관성을 확인함
• Cornell University의 Virginia Dolleghast는 Kaiser 사례가 복잡하고 감정적인 문제를 해결하는 노동자를 지속적으로 감시하는 산업 전반의 흐름에 속한다고 봄
  • 의료 현장에서는 스트레스와 번아웃으로 인한 실수가 사람의 생명과 건강에 직접 연결돼 위험이 더 큼
  • 업무 속도와 시점을 스스로 결정할 재량이 큰 노동자는 직무 만족도가 높고 결근이 적음

알고리듬과 의료진의 전문적 판단

• National Nurses United가 2024년 간호사 2,000여 명을 조사한 결과, 절반은 고용주가 건강 기록을 분석하는 알고리듬 시스템을 사용한다고 답함
  • 이런 시스템은 환자의 취약도나 필요한 돌봄 시간을 예측할 수 있음
  • 응답자의 3분의 2는 자신의 판단이 컴퓨터 예측과 불일치한 적이 있다고 답함
  • 10명 중 6명은 고용주가 AI를 사용할 때 환자 안전을 우선할 것이라고 신뢰하지 않음
• Kaiser 간호사 Pa Vue는 통화 효율을 두고 관리자와 정기적으로 대화하며 매월 평가 점수를 받음
  • 특이 증상과 심장 문제 가능성이 우려돼 환자에게 조언을 반복했다가 점수가 낮아진 적이 있음
  • 소프트웨어 권고를 전문적 판단으로 거부하거나 의사와 상의하지 않고 환자 예약을 잡으면 점수가 낮아지는 사례도 목격함
• Vue는 환자에게 이익이 되는 AI 자체에는 반대하지 않지만, 공감·톤 감시는 생산성 향상과 비용 절감에 초점이 맞춰져 있다고 판단함
• 전국적으로 AI 도입이 늘면서 노조들은 신규 계약 협상에서 AI가 일으키는 문제를 다룰 것을 고용주에게 요구하고 있음
• Kaiser의 Northern California 정신건강 노동자 2,400명도 계약 협상 중임
  • 치료 세션 녹취를 AI 모델 훈련에 사용하는 문제와 AI가 일자리를 대체할 가능성을 우려함

Kaiser가 의료 과정에 도입한 AI

• Kaiser는 상담센터 외에도 의료 과정의 여러 영역에서 AI를 사용하거나 시험함
  • 전자건강기록을 분석해 병원 환자의 부정적 사건 위험을 식별함
  • Preventus로 환자 퇴원 시점을 판단함
  • 의사와 치료사는 Abridge로 대면 진료를 녹음하고 음성을 텍스트로 변환함
  • Bay Area 시설에서는 추가 돌봄이 필요한 환자를 위한 AI 원격 모니터링을 시험함
• National Nurses United와 CNA의 Cathy Kennedy는 공감 감지 AI가 간호사의 자율성을 제한하고 효율을 높이려는 연속적인 조치라고 봄
  • AI가 간호 업무를 자동화하고 분절할 수 있으므로, 개발·도입 기업은 배치 전에 시스템의 효과성과 형평성을 입증해야 한다고 요구함
• Kaiser와 간호사 노조의 계약에는 신기술 도입 통지가 포함되지만, CNA에 따르면 통지가 누락될 때가 있음
  • 노조 지도부는 회원들에게 새로운 기술을 발견하면 알리도록 요청하며 Kaiser에서 사용되는 AI 모델 수를 추적하고 있음
  • 이 방식으로 공감·톤 AI에 대응했고, 혼란 상태 환자의 침상 곁 간호사를 카메라로 대체하려던 시험도 중단시킴
• Coalition of Kaiser Permanente Unions도 현장 노동자가 AI 도입을 신고하는 “see something, say something” 캠페인을 운영함
  • 조합 측은 경영진이 노동자 통지나 의견 수렴 없이 AI를 업무 흐름에 넣는 일이 너무 잦다고 말함
  • 방사선사 Debru Carthan은 목소리 톤 감지기가 문화적 배경이 다른 간호사를 차별할 가능성을 우려함

Kaiser의 반박과 노사 협상

• Kaiser는 평균 처리 시간(Average Handle Time) 으로 상담 직원의 성과를 평가하거나 통화 시간 기준을 강제하지 않는다고 반박함
• 콜센터 도구는 품질 보증을 지원하며 사람의 검토와 감독을 거친다고 밝힘
• AI 사용에서 환자 안전, 개인정보 보호, 형평성을 우선하지만 보안과 운영상의 이유로 내부 기술 시스템의 구체적인 정보는 공개하지 않음
• Kaiser는 California 최대 민간 고용주로, 주내 900만 명과 다른 지역 미국인 300만 명에게 의료 서비스를 제공함
• California Nurses Association은 2026년 7월 Kaiser와 신규 계약 협상을 시작하며, 대상은 콜센터 간호사 1,000명을 포함한 25,000명임
  • 간호사들은 3월 AI에 반대해 하루 동안 파업함
  • 전년도 가을에도 AI 사용에 반대하는 피켓 시위를 벌임
  • CNA는 협상 전 AI 관련 세부 요구 조항을 공개하지 않음

California의 직장 AI 규제

• CNA가 지지한 AB 1018과 SB 7은 승진, 징계, 성과 평가 등에 자동화 시스템을 사용하기 전에 고용주가 노동자에게 알리도록 요구했음
  • Gavin Newsom 주지사가 SB 7에 거부권을 행사함
  • Kaiser를 포함한 기업들의 강한 반대 속에 AB 1018은 3년 연속 통과에 실패함
• 의원들은 SB 7의 새 버전인 SB 947을 다시 발의함
• 별도 법안들은 다음 규제를 추진함
  • 고용주가 AI로 직원의 감정 상태를 예측하는 행위를 금지함
  • 의사와 간호사가 자동화 시스템의 권고를 무시해도 보복받지 않도록 보호함
  • 의료 제공자가 매년 직원에게 자동화 시스템 목록을 제공하도록 요구함
• CNA와 California Labor Federation은 직장 AI 사용을 규제하는 약 6개 법안을 지지함
• 간호사들은 감시와 점수화가 사람을 돌보는 간호사를 체크박스를 채우는 자동기계로 바꾼다고 우려함
  • 통화가 녹음되므로 환자에게 유머나 개인적인 공감을 표현하기 어려워짐
  • 정해진 지침에 없는 인간적 교류가 줄어들면서 간호 업무의 본질과 환자가 기대하는 돌봄이 훼손된다고 봄