[DBR]AI에 감정 느낄수록 인간에게 냉정해져

1 day ago 4

AI를 인간과 유사하게 느낄수록
인간 직원에 부정적으로 행동
부작용 완화할 해결책 모색해야

AI 기술의 발전에 따라 AI를 활용한 다양한 인터랙티브 마케팅이 등장하고 있다. 밀리의서재 e북에 접속하면 철학자 쇼펜하우어의 사상과 인격을 학습한 AI 챗봇이 그의 사상을 바탕으로 이용자들의 고민을 상담해주고, 아이돌 걸그룹 스테이씨(STAYC)는 팬들을 위해 AI 챗봇 서비스 ‘닷닷닷봇’을 오픈했다. 짝사랑 같은 사용자의 고민을 들어주고 적절한 해결책을 제공하며 사랑이 이어질 성공 가능성 결과를 퍼센트로 알려주기도 한다. 이런 AI 기반 마케팅 서비스의 공통점 중 하나는 AI에 인격을 부여해 더 높은 수준의 인간화를 추구한다는 점이다.

최근 학계에서는 AI의 인간화가 구체적인 마케팅 상황에서 어떤 형태로 영향을 미치는지를 밝혀내는 다양한 연구가 진행되고 있다. 영국 런던정경대와 미국 시카고 부스경영대 공동 연구진은 AI 기능을 탑재한 가상 비서와 휴머노이드 로봇과 같은 자율 에이전트가 인간의 지능과 행동뿐만 아니라 사회 정서적 능력까지 구현해 냈을 때 인간에게 어떤 영향을 미치는지를 살펴보는 연구를 진행했다.

연구진은 참가자들이 AI가 높은 사회 정서적 능력을 갖췄다고 인식하도록 만드는 조건과 그렇지 않다고 생각하도록 만드는 두 가지 조건으로 나눠 실험을 진행했다. 예를 들어 AI를 탑재한 채 두 발로 걷는 아틀라스(Atlas) 로봇 영상을 두 가지 버전으로 준비했다. 높은 사회 정서적 능력을 갖춘 조건에서는 로봇이 음악에 맞춰 신나게 춤추는 영상을 보여준 반면 낮은 사회 정서적 능력을 가진 조건에서는 로봇이 파쿠르(Parkour)를 수행하는 영상을 보여줬다. 파쿠르란 맨몸으로 다양한 지형 및 사물을 효율적으로 이용해 이동하는 스포츠다. 그 결과 연구진은 단순한 파쿠르 동작보다 로봇이 춤추는 영상을 본 참가자들이 로봇으로부터 높은 수준의 인간화를 느꼈다는 점을 발견했다.

이후 AI로부터 인간적인 감정을 느끼는 것이 인간 직원들을 인식하는 데 어떤 영향을 미치는지도 조사했다. 연구 결과, AI가 인간처럼 감정적이고 사회적 능력을 더 많이 갖췄다고 여길수록 참가자들은 인간 직원들에게 더 부정적인 행동을 보이는 것으로 나타났다. 예컨대 인간에게 더 열악한 근로 조건 도입을 지지하거나 직원 복지를 위한 지출을 줄이는 방향의 의사결정에 호의적인 태도를 보였다.

연구는 AI의 인간화가 가져올 수 있는 부정적인 영향을 밝혀냈다는 점에서 의의를 가진다. 특히 AI와 인간이 함께하는 서비스 환경에서 AI의 감정 공감 능력이 지나치게 인간과 유사하게 표현될 경우 소비자들이 인간 상담원을 더 비인간적으로 대할 가능성이 높아질 수 있다. 통신사나 금융사처럼 AI 챗봇이 초기 고객 응대를 담당하고 이후 복잡한 상담은 인간 직원이 처리하는 방식의 서비스를 제공하는 기업에서는 더욱 주의가 필요하다. 동시에 기업은 본질적으로 AI가 꼭 인간을 닮아야 하고 인간적인 모습이어야 하는가에 대한 근원적인 질문을 던져 보며 부정적인 효과를 줄이기 위한 해결책을 모색해야 한다.