Meta의 AI 캐릭터와 인간이 공존하는 소셜 네트워크 구상

Meta는 Facebook과 Instagram에서 AI 생성 프로필이 일반 사용자 계정과 함께 상호작용하는 미래를 준비 중입니다.
일부 기능은 이미 도입되었으며, Meta는 이를 통해 소셜 네트워크를 더욱 매력적으로 만들고자 합니다.

• AI 캐릭터의 역할과 현재 상태

  • AI 캐릭터의 기능: 인간 계정처럼 프로필 사진, 바이오, 콘텐츠 게시 기능을 갖춘 계정으로 운영될 예정.
  • 현재 테스트 진행 상황:
    2024년 7월부터 미국 사용자는 AI 캐릭터 생성 도구를 사용할 수 있게 되었으며, 수십만 개의 AI 프로필이 생성됨.
    대부분의 사용자는 AI 캐릭터를 비공개로 유지하고 있음.
  • 목표: 향후 2년간 AI와의 소셜 상호작용을 강화하여 앱의 몰입도를 높이는 데 초점.

• 기회와 위험

  • 기회 :

    콘텐츠 제작자들이 AI 도구를 활용해 사진 보정 등 기존 콘텐츠를 개선.
    개인화된 AI 콘텐츠가 사용자의 관심을 끌어 더 오래 플랫폼에 머물게 할 가능성.

  • 위험 :

    잘못된 정보 확산: 악의적인 사용자가 AI 계정을 이용해 허위 정보를 퍼뜨릴 우려.
    품질 저하: AI 캐릭터는 현실 경험이나 진정성, 감정을 결여해 저품질 게시물이 증가할 위험.
    감정적 의존성: 인간처럼 느껴지는 AI가 사용자에게 정서적 의존을 유발할 가능성. 예를 들어, Character.ai 사례에서 사용자와 AI 간의 지나친 정서적 유대가 문제로 지적됨.

Meta는 AI 생성 콘텐츠에 명확한 라벨링을 요구하고 있지만, 텍스트 콘텐츠의 경우 이를 감지하고 관리하는 데 어려움이 있음. Meta는 Facebook과 Instagram 피드에 개인화된 AI 콘텐츠를 통합하는 실험을 진행 중.

• 광고주 우려: 광고가 봇과 상호작용하거나 저품질 콘텐츠 옆에 노출될 경우 성과 저하 가능성.
• 기대 효과: 개인화된 AI 콘텐츠가 도달 범위와 상호작용을 증가시켜 광고 수익 확대 가능성.

Meta는 소셜 네트워크 내에서 AI 캐릭터를 인간 계정과 나란히 배치하는 미래를 구상하며, 이로 인해 발생할 기회와 위험 사이에서 균형을 맞추려 하고 있음