[신문과 놀자!/디지털 세상과 정보]AI로 ‘딸깍’해 만든 글-영상, ‘디지털 지문’으로 구분

늑구 목격 사진-네팔 대홍수 영상 등 AI로 만든 가짜, 온라인 허위 유포 AI 콘텐츠 구분할 ‘워터마크’ 삽입… 한국-유럽 등 법적으로 표기 적용 놀라운 사진은 한번 더 생각해보고, 콘텐츠 출처 확인하는 습관 길러야 올해 4월 대전 동물원에서 늑대 ‘늑구’가 탈출한 뒤 40대 남성이 인공지능(AI)을 활용해 만든 가짜 늑구 사진. 이 사진 한 장으로 경찰과 소방은 초기 수색에 혼선을 빚었다. 대전경찰청 제공 올해 4월 대전의 한 동물원에서 늑대 ‘늑구’가 우리를 빠져나갔습니다. 온 나라가 늑구의 행방을 궁금해하던 그때, ‘늑구가 오월드 사거리를 돌아다닌다’는 사진 한 장이 인터넷에 올라왔습니다. 사진을 본 대전시는 ‘늑대가 사거리 쪽으로 나갔다’는 안전 문자를 시민들에게 보냈고, 소방청 브리핑에도 이 사진이 쓰였습니다. 그런데 그 사진은 40대 남성이 인공지능(AI)으로 만든 가짜였습니다. 경찰은 폐쇄회로(CC)TV 영상과 사진을 대조하고 AI 프로그램 사용 기록까지 확인한 뒤에야 그를 붙잡았습니다. 지난달 26일 네팔에서 큰 홍수가 났을 때도 마찬가지였습니다. 급류가 다리를 무너뜨리는 영상이 유튜브와 페이스북에 ‘네팔 홍수 현장’이라며 퍼졌지만, 상당수가 AI로 만든 것이거나 2021년 일본 산사태 영상을 좌우로 뒤집어 붙인 것이었습니다. 이제 “사진이 있으니 진짜”라는 말은 통하지 않게 됐습니다.● 만드는 기술보다 가려내는 기술 AI는 이제 말 한마디로 그림을 그리고 영상을 만듭니다. 지난달 구글은 4K 화질의 영상까지 만들어 내는 모델을 내놓았습니다. 진짜 카메라로 찍은 것과 구별되지 않는 수준입니다. 그래서 전 세계 기술자들의 고민이 바뀌었습니다. ‘얼마나 진짜 같은 것을 만들까’에서 ‘무엇이 AI가 만든 것인지 어떻게 알아볼까’로 말입니다. 그 답으로 나온 것이 ‘AI 워터마크(watermark)’입니다. 워터마크는 원래 종이를 빛에 비추면 나타나는 무늬를 뜻합니다. 지폐를 불빛에 비춰 보면 숨어 있던 그림들이 떠오르지요. 위조지폐를 가려내려고 넣어 둔 표시입니다. AI 워터마크도 같은 원리입니다. AI가 만든 그림, 영상, 글에 사람 눈에는 보이지 않는 ‘도장’을 찍어 두는 것입니다. 그림의 경우 화면을 이루는 수많은 점(픽셀)의 색을 아주 조금씩 바꿔 특정한 규칙을 심어 둡니다. 눈에는 원래 그림과 똑같아 보이지만, 검사 프로그램은 이 규칙을 읽어 내 ‘AI가 만든 그림’이라고 알려 줍니다. 구글...