AI 생성 콘텐츠 식별법 "이미지부터 영상, 오디오, 텍스트 가려내기"

1 week ago 20

그 어느 때보다 인터넷 인공지능 콘텐츠에 속기 쉬운 시대다. 교황이 푹신한 발렌시아가 재킷을 입은 사진이나 트럼프가 태클을 당하고 체포되는 사진 등 AI가 생성한 이미지는 너무 가까이서 보지 않는 한 매우 사실적으로 보여서 사실과 허구를 구분하기 어렵다. AI는 문화적 또는 역사적 맥락을 제대로 이해하지 못한다. AI가 만든 이미지 일부는 무해하지만, 유명인이나 정치인과 관련된 일부 이미지는 잘못된 정보를 퍼뜨리며 큰 피해를 입히고 보는 이를 속일 수 있다.

비교적 기술에 정통한 사람이라고 자부하는 필자도 한두 번 속은 적이 있다. 현대인은 정치 지도자가 오해의 소지가 있거나 감정을 자극하는 방식으로 AI 이미지를 사용하는 시대에 살고 있기 때문에 지금 보는 사진이나 영상이 진짜인지 아닌지 식별할 수 있는 능력을 갖추는 것이 좋다. AI가 만든 이미지와 동영상에 자꾸만 속아 넘어간다면, 생성형 AI 콘텐츠를 정확히 식별하는 방법을 알아보자.

AI 이미지를 식별하는 방법

AI 생성 이미지를 식별하는 가장 쉬운 방법은 이상하게 꺾인 팔이나 손가락, 발가락의 개수가 틀리는 등 해부학적으로 이상한 점이 있는지 살펴보는 것이다. AI는 이미지의 미세한 디테일을 파악하기 어렵기 때문이다. 그 밖에도 피부색이 부자연스럽거나 흐릿한 부분, 구조적으로 전혀 이해가 되지 않는 구조물 등이 눈에 띄는 징후이다. 하지만 미묘한 실수도 있으므로 시간을 들여 이미지를 자세히 살펴보는 것이 중요하다.

구글 제미나이에게 두 사람이 시간을 보내고 있는 사실적 이미지를 만들어 달라고 요청했다. 꽤 간단하다. 언뜻 보기에는 이상한 점을 발견하기 어렵다. 하지만 확대해보면 오른쪽에 있는 남자의 치아뿐 아니라 목도 의심스러워 보였다. 맨 아랫줄의 치아는 거의 썩은 것처럼 보인다. 목도 기형적이며, 목젖이 제 위치보다 훨씬 바깥쪽으로 튀어나와 있다.

이미지가 생성형 AI 이미지인지 아닌지 확실하지 않은 경우, 언제든지 사이트 엔진(Sight Engine)의 AI 이미지 감지기로 확인할 수 있다. 문제되는 이미지를 업로드하기만 하면 백분율 등급이 표시된다. 확률이 높을수록 AI일 가능성이 높다.

AI 동영상을 가려내는 방법

요즘 인터넷의 거의 모든 곳에서 AI 동영상을 볼 수 있다. 이상한 동영상으로 기분이 나빠지는 경우도 있을 것이다. 윌 스미스가 스파게티를 먹어치우는 악명 높은 AI 동영상을 본 사용자도 있을 텐데, 이런 경우는 너무 비현실적이고 터무니없기 때문에 인공지능이 만든 것임을 쉽게 알 수 있지만, 좀 더 현실적인 영상은 어떨까?

지금 보고 있는 동영상이 AI로 생성된 것인지 의심스럽다면, 그림자와 그림자의 행동을 주의 깊게 살펴보자. 방향이 잘못되어 있지는 않는가? 가장 문제가 되는 AI 콘텐츠는 딥페이크다. 딥페이크 동영상은 사람의 몸이나 얼굴을 디지털 방식으로 바꾼 동영상이다. 특히 위험한 행동을 하는 동영상으로 만들어지면 개인의 평판을 크게 훼손할 수 있다.

딥페이크 동영상을 식별하는 확실한 방법은 얼굴 부분을 주의 깊게 살펴보는 것이다. 가짜 얼굴이라면 고개를 돌릴 때 약간의 왜곡이 보이거나 웃거나 눈을 깜빡일 때 얼굴이 부풀어 오르고 줄어드는 것을 확인할 수 있다. 확대해서 눈에 반사되는 모습을 확인해 볼 수도 있다. 때로는 두 가지 다른 물체가 반사되기도 한다. 옷에 적힌 텍스트 철자가 틀렸다면 또한 강력한 지표다.

그래도 여전히 난감하다면 딥웨어(Deepware)의 비디오 AI 도구를 사용하는 것이 좋다. 링크를 붙여넣거나 동영상을 직접 업로드하고 파란색 '스캔' 버튼을 클릭하기만 하면 된다.

AI 오디오 식별 방법

오디오는 무서울 정도로 사실적으로 들릴 수 있기 때문에 구별하기가 까다롭다. 누구에게나 원하는 말을 하게 만들 수 있으니 정말 무서운 힘이다. 그렇기 때문에 말하는 목소리의 억양을 주의 깊게 듣는 것이 중요하다. 완전히 밋밋하게 들리거나(고저가 없는), 전혀 사람 같지 않게 들리지 않을 수도 있다. 때로는 속도가 너무 빠르거나 단어 사이에 이상한 공백이 있거나 심지어 화자가 임의의 단어를 잘못 발음할 수도 있다.

또한 단어 자체에 귀를 기울이고 약간의 회의적인 태도로 접근하는 것이 좋다. 뭔가 수상하게 들리거나 사실이라고 하기에는 너무 내용이 좋다고 생각되면 의심해 보자.

확신이 서지 않는다면 언제든지 생성형 AI 오디오를 가려내도록 설계된 탐지 도구를 사용할 수 있다. 샘플을 직접 업로드할 수 있는 일레븐랩(Eleven Labs)의 도구를 사용하는 것을 추천한다.

AI 텍스트 탐지 방법

생성형 AI 텍스트도 식별하기 어려운 유형이다. 현재 학교 환경에서 실제 문제가 되고 있다. 가장 큰 힌트는 주제나 문체가 갑자기 바뀌는 것이다. 반복되는 구절이나 무의미한 문장도 주의해야 한다. 다음은 AI가 생성한 텍스트의 예시다. 구글 제미나이에게 화성 행성을 탐험하는 호기심 많은 그레이하운드에 대한 이야기를 만들어 달라고 요청했다. 아주 간단한 질문이다. 제미나이가 작성한 내용은 다음과 같다.

러스티는 평범한 그레이하운드가 아니었다. 물론 빠르고 털도 매끈했으며 추격전을 좋아했다. 하지만 러스티는 끝없는 호기심을 가지고 있었고, 그 호기심이 그를 가장 특별한 모험으로 이끌었다.

모든 것은 하늘에서 떨어진 이상한 빛의 구슬에서 시작되었다. 언제나 호기심 많은 강아지였던 러스티는 조사하지 않을 수 없었다. 구슬에서 에너지가 뿜어져 나오자 러스티는 그것을 만지면서 이상한 감각을 느꼈다. 그 다음 순간, 러스티는 우주를 질주해 먼지가 자욱한 붉은 화성의 표면에 부드러운 쿵 소리와 함께 착륙하고 있었다.

러스티의 심장은 흥분으로 두근거렸다. 다른 행성에 와 있었다! 공기는 희박했고, 태양은 더 따뜻하게 느껴졌으며, 하늘은 숨막힐 듯 아름다운 분홍빛으로 물들었다. 러스티는 긴 다리로 바위가 많은 지형을 힘겹지 않게 넘으며 화성의 풍경을 가로질러 달렸다. 공중에 떠다니는 이상한 먼지 악마를 쫓고 무한대로 뻗어 있는 듯한 우뚝 솟은 협곡을 탐험했다.

하루가 일주일로 바뀌면서 러스티는 진정한 화성 탐험가가 되었다. 반짝이는 수정으로 가득한 숨겨진 동굴을 발견하고, 작은 초록색 화성 생명체 가족과 친구가 되었으며, 짖는 소리와 몸짓을 통해 그들과 소통하는 법까지 배웠다.

그러던 어느 날, 러스티는 화성의 모래 아래에 묻혀 있는 거대한 고대 구조물을 우연히 발견하게 된다. 새로운 친구들의 도움으로 러스티는는 오랫동안 사라진 문명의 유적을 발견했다. 그 안에서 자신을 다시 고향으로 데려다줄 수 있는 기기를 발견했다.

러스티는 무거운 마음으로 기기를 작동시켰다. 그리고 화성 친구들에게 작별 인사를 하고 포털을 통과했다. 순식간에 러스티는 자신의 집 뒷마당으로 돌아왔고, 따뜻한 화성의 태양은 익숙한 지구의 빛으로 바뀌었다.

화성에서의 모험은 러스티를 변화시켰다. 러스티는 낯선 신세계에 대한 이야기를 떠올리며 화성 친구들이 그리웠지만, 마음속에는 언제나 화성의 일부가 남아 있다는 것을 알았다. 그리고 밤하늘을 올려다볼 때마다 반짝이는 붉은 행성을 보며 자신의 특별한 여정을 떠올리곤 했다.

러스티가 화성의 생명체를 만나는 장면에서 모래 밑에서 고대 구조물을 우연히 발견하는 장면으로의 전환은 갑작스럽고 어색하게 느껴진다. 흐름은 엉망진창이다. 애초에 어떻게 처음이 시작된 걸까? 화성 생물이나 고대 유적에 대한 세부 정보는 거의 없다. 또한 너무 장황하고 화려한 단어로 가득 차 있다. 이야기 자체가 나쁘게 쓰여진 것은 아니다. 다만 어색하게 쓰였을 뿐이다. 인간은 디테일과 맥락을 능숙하게 추가하는데, 이 이야기에는 그 두 가지가 정말 부족하다.

여전히 확신이 서지 않는다면 언제든지 AI 감지 도구를 통해 텍스트를 실행할 수 있다. 그래멀리(Grammarly)는 사용하기 매우 쉬운 무료 AI 감지 도구를 제공한다. 사이트를 불러와서 흰색 상자에 텍스트를 붙여넣고 '검사 목록' 버튼을 클릭하기만 하면 된다. 실제로 앞서 소개한 러스티의 이야기를 그래머리 도구로 검증해 보았는데, 몇 분 정도 걸리기는 했지만 100% AI가 생성한 이야기라는 결과가 나왔다.
editor@itworld.co.kr

Read Entire Article