극단주의 사상 유포·중독 우려에…中 인간형 AI 에이전트 기능 중단

중국의 대표적인 인공지능(AI) 앱인 바이트댄스의 ‘더우바오’와 알리바바의 ‘큐원’이 맞춤형 AI 에이전트 기능을 잇달아 중단한다. 오는 15일부터 인간 유사형 AI 상호작용 서비스에 대한 중국의 새 규제가 시행되는 데 따른 조치로 풀이된다.

5일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 더우바오는 최근 공지를 통해 제품 기능 조정을 이유로 에이전트 기능을 오는 15일 종료한다고 밝혔다. 이에 따라 10월 15일 이후 관련 데이터는 앱 내에서 조회하거나 복구할 수 없게 된다.

큐원도 “인간 유사형 상호작용 에이전트·사용자 생성 에이전트 기능”을 오는 10일 비활성화하고, 전체 에이전트 기능과 서비스는 15일 종료한다고 공지했다. 앞서 6월에는 텐센트도 자사 AI 비서 앱 ‘위안바오’에서 유사 기능을 제거한 바 있다.

그동안 기업과 이용자들은 해당 서비스를 통해 특정 말투, 업무나 기술을 탑재한 에이전트를 제작해왔다. 일반 챗봇을 개인 비서, 롤플레잉 캐릭터, 정서적 동반자 등으로 설정한 이른바 ‘맞춤형 AI 에이전트’로 활용할 수 있었던 것이다.

하지만 중국 규제당국이 오는 15일부터 ‘AI 인간유사 상호작용 서비스 관리 잠정조치’를 실시하면서 이와 맞물려 해당 서비스들도 운영을 중단한다.

해당 규정은 인간의 성격, 사고 패턴, 의사소통 방식을 모사해 지속적인 정서적 상호작용을 제공하는 AI 서비스를 규율 대상으로 삼고 있다. 고객센터 봇, 지식 질의응답, 업무 보조, 교육·과학연구 도구 등은 지속적 정서 교류가 수반되지 않는 경우 규제 대상에서 제외된다.

중국 당국은 극단주의 사상 유포, 개인정보 유출, 신체·정신 건강 훼손, AI 중독 등을 주요 위험 요인으로 제시했다.

AI가 단순 챗봇을 넘어 기억, 계획, 도구 호출, 작업 수행 기능 등을 갖춘 시스템으로 발전하면서 당국의 관리 강도도 높아지는 모습이다. 지난달에는 ‘AI 에이전트 상호연결을 위한 국가 표준’도 발표됐는데, AI 식별 코드·신원 관리·에이전트 설명·검색·상호작용 등이 내용에 포함됐다.

판허린 중국 공업정보화부 전문가위원회 위원은 “에이전트를 사용하는 데에는 일정 수준의 이해 역량이 필요하다”며 “현재의 에이전트는 아직 성숙하지 않았다”고 말했다.

SCMP는 이번 조치가 중국이 AI 에이전트를 식별 가능하고, 권한 부여와 추적이 가능한 체계 안으로 편입하려는 의지를 보여준다고 분석했다. 생산성 인프라로서의 AI 에이전트는 장려하되, 사용자와 정서적·준사회적 관계를 형성할 수 있는 인간 유사형 동반자 에이전트에 대해서는 통제를 강화하려는 방향이라는 설명이다.

갑작스러운 기능 중단에 중국 사회관계망서비스(SNS) 내에서 반발도 이어지고 있다. 한 웨이보 이용자는 더우바오 공식 계정을 태그하며 “왜 에이전트를 없애는 것이냐. 오랫동안 우리의 정서적 지지 역할을 해왔는데”라고 토로했다.