“AI가 만든 콘텐츠 구분한다”…진화하는 워터마크

생성형 인공지능(AI)을 활용해 만든 콘텐츠가 늘어나면서 가짜뉴스, 딥페이크 등 위험 사례도 함께 증가하는 추세다. 생성형 AI의 악용 가능성이 커지면서 이를 방지하기 위한 워터마크 기술의 중요성도 부각되고 있다.

과학기술정보통신부와 한국정보통신기술협회(TTA)가 최근 발간한 ‘AI 워터마크 기술 동향 보고서’에 따르면 국내외 기업이 AI 생성물에 대한 오남용 방지를 위해 자체적으로 워터마크 기술을 도입하고 있다.

국내 기업은 ‘인지 가능 워터마크’를 주로 도입하고 있고, 해외 기업은 C2PA 및 자사 알고리즘 개발을 통한 ‘인지 불가능 워터마크’ 도입을 추진 중이다.

워터마크는 13세기 이탈리아에서 종이의 제조업체를 식별하기 위해 처음 사용됐다. 이후 디지털 콘텐츠로 활용 영역을 넓히고 있다. 이미지 등의 매체에 로고나 텍스트 형태 식별자를 추가하거나, 사람이 인지할 수 없는 패턴을 삽입해 콘텐츠 출처와 소유권을 확인하려는 목적이다.

워터마크는 사용자 시각을 기준으로 인지 가능 워터마크와 인지 불가능 워터마크로 분류된다. 인지 가능 워터마크는 원본 이미지에 로고나 텍스트 등 표시를 추가한다. 인지 불가능 워터마크는 생성물 품질과 시청각 경험에 영향을 주지 않으면서 사람이 인지할 수 없는 방법을 사용해 원본 콘텐츠에 워터마크를 포함하는 방법을 뜻한다.

인지 불가능 워터마크는 활용 방법에 따라 공간 기반, 변형 기간, 학습 기반 등으로 구분할 수 있다. 공간 기반 워터마크는 이미지, 비디오, 음원 등의 특정 값을 직접 변형해 워터마크를 삽입한다. 변환 기반 워터마크는 AI 생성물을 주파수 도메인으로 변환해 워터마크를 삽입한다. 최근 도입된 학습 기반 워터마크는 AI 기술을 이용해 학습 또는 추론 과정에 워터마크를 삽입하거나 추출하는 방법이다.

AI 생성물 서비스를 제공하는 기업은 생성물 제작 시 워터마크 등 기술을 사용해 활용 여부를 공개하는 것이 필요하다. AI 생성물을 배포 플랫폼 등을 통해 업로드할 경우 AI 활용 기술 여부에 대해 소유자가 자체적으로 밝힐 것을 권고하는 동시에 관련 시스템을 구축할 것이 권장된다. 유튜브의 경우 크리에이터가 동영상을 제작할 경우 생성형 AI 사용 여부를 공개하도록 의무화하고 있다. 이를 지속해서 위반할 경우 콘텐츠 삭제, 유튜브 파트너 프로그램 정지 등 제재를 부과한다.

이미지 생성물 서비스의 경우 상당수가 인지 가능 워터마크를 적용하고 있다. 삼성전자 갤럭시 스마트폰의 갤럭시 AI를 이용하면 좌측 하단 갤럭시AI의 로고와 ‘AI로 생성한 생성물’ 문구가 삽입된다. SK텔레콤의 에이닷에서 AI 증명사진 등 이미지 생성 서비스를 쓸 경우 좌측 하단 에이닷 로고를 통해 AI 생성 여부를 확인할 수 있다. 어도비의 생성형 AI 서비스인 어도비 파이어플라이는 로고 삽입과 C2PA(콘텐츠 진위 출처 확인을 위한 연합) 메타데이터 표준을 적용한 방법을 동시에 활용 중이다. C2PA는 검증 가능한 메타데이터를 통해 AI 생성물 여부를 알려주는 오픈소스 인터넷 프로토콜을 제공한다. 어도비를 비롯해 구글, 마이크로소프트, 오픈AI 등 주요 AI 기업들이 참여하고 있다. 최근 삼성전자도 C2PA에 참여했다.

동영상 생성물의 경우 루마 랩스(드림 머신), 캔바(매직 미디어), 틱톡(심포니 아바타), 메타(무비 젠) 등 주요 서비스의 상당수가 인지 가능 워터마크를 적용하고 있었다. 구글 딥마인드가 만든 비오의 경우 인지 불가능 워터마크인 ‘신스ID’를 동영상 각 프레임에 추가하는 방식을 사용 중이다.

텍스트의 경우 워터마크 적용이 쉽지 않은 상황이다. 국내의 경우 텍스트 AI 생성물에 대한 워터마크 적용 기업은 현재 없다. 실질적 워터마크 도입 권고안 등이 마련되지 않은 영향으로 분석된다.

오픈AI의 챗GPT의 경우 인지 불가능한 방법으로 생성한 텍스트에 표식을 남기는 기술 출시를 검토하고 있는 것으로 알려졌다. 구글 제미나이는 신스ID를 적용해 생성형 AI 활용물을 확인하고 있다.

워터마크 도입은 AI 생성물 여부를 명확히 할 수 있어 가짜 생성물에 속아 발생하는 피해를 예방할 수 있을 것으로 기대된다. 하지만 성범죄, 가짜뉴스 등 불법 AI 생성물을 제작하는 AI 프로그램의 경우 대부분 음지에서 유통되고 있어 단속이 쉽지 않다. 이 때문에 워터마크 한계점을 보완하기 위한 AI 생성물 탐지 기술에 대한 필요성도 커지고 있다. 국내외에서 다양한 AI 생성물 탐지 솔루션이 나오고 있지만 실용화까지 기산이 더 필요하다는 평가다.

이승우 기자 leeswoo@hankyung.com