AI 영상에 ‘디지털 지문’, 딥페이크 막는다

[안전을 경영하다]카카오 카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성을 높이기 위한 기술 파트너십을 체결했다. 카카오 제공 카카오가 구글 딥마인드와 손잡고 인공지능(AI)이 만든 이미지와 영상에 사람 눈에는 보이지 않는 ‘디지털 워터마크’를 심는다. AI 생성물이 편집되거나 재가공된 뒤 온라인에 퍼지더라도 AI가 만든 콘텐츠인지 확인할 수 있도록 해 딥페이크와 허위 정보 확산 등에 대응한다는 취지다. 카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성을 높이기 위한 기술 파트너십을 체결했다고 20일 밝혔다. 카카오는 자체 개발 AI 모델 ‘카나나’에 구글 딥마인드의 디지털 워터마킹 기술 ‘신스 ID(Synth ID)’를 적용한다. 신스 ID를 AI 생성 콘텐츠에 적용하는 것은 아시아 기업 가운데 카카오가 처음이다. 신스 ID는 AI가 만든 이미지와 영상, 텍스트, 오디오 등에 이용자가 눈이나 귀로 알아차리기 어려운 디지털 정보를 심는 기술이다. 콘텐츠 자체에 AI로 생성됐다는 일종의 ‘흔적’을 남기기 때문에 겉으로 보이는 표시가 사라져도 AI 생성 여부를 확인할 수 있다. 콘텐츠 품질을 떨어뜨리지 않으면서도 AI가 만든 콘텐츠인지 추적할 수 있다. 카카오는 올해 하반기(7∼12월)부터 이미지 생성 모델 ‘카나나 콜라주’와 영상 생성 모델 ‘카나나 키네마’에 신스 ID를 적용한다. 우선 카카오톡에서 사진을 AI로 짧은 영상으로 만들어주는 ‘카나나 템플릿’에 도입할 예정이다. 현재 카나나 템플릿으로 만든 영상에는 화면에 카나나 로고가 표시된다. 다만 영상을 편집하거나 재가공하는 과정에서 이 같은 표시가 사라질 수 있다. 카카오는 신스 ID를 적용해 결과물이 재가공되더라도 AI가 만든 콘텐츠인지 식별할 수 있도록 할 계획이다. 올해 AI 기본법 시행과 함께 AI 생성물 표시제가 본격 도입된 가운데 카카오는 법적 의무에 따른 표시를 넘어 비가시적 워터마크까지 적용하기로 했다. 눈에 보이는 표시와 별개로 콘텐츠 자체에 AI 생성 여부를 확인할 수 있는 정보를 남겨 AI 생성 콘텐츠의 투명성과 신뢰성을 높이겠다는 것이다. 김경훈 카카오 AI 세이프티 리더는 “신스 ID 적용을 시작으로 구글과 책임감 있는 AI 영역에서 기술 협력을 지속하며 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공해 나갈 것”이라고 말했다. 한채연 기자 chaezip@donga.com© dongA.com All rights res...