Ghost Font - 사람은 읽지만 AI는 읽기 어려운 글꼴
8 hours ago
4
- Ghost Font는 배경과 같은 점들의 움직임으로 글자를 만들어, 사람은 영상에서 메시지를 인식하지만 개별 프레임을 분석하는 AI는 쉽게 해독하지 못하게 하는 시각 커뮤니케이션 실험임
- 전통적인 TTF 글꼴 대신 움직임·영상·노이즈·미끼 메시지를 결합하며, 영상을 멈추거나 화면을 캡처하면 점들이 배경에 섞여 메시지가 드러나지 않음
- Claude Fable과 GPT Sol 5.6 Ultra는 정확한 해독 기법을 프롬프트로 알려주기 전까지 어려움을 겪었고, ChatGPT 5.5 Pro는 19분간 분석한 뒤 존재하지 않는 메시지를 생성함
- 로컬에서 코드를 실행하는 전용 에이전트는 점의 움직임을 분석할 수 있어 영상마다 미끼 메시지를 추가하지만, 실제 기밀 정보에는 암호화나 비밀번호를 사용해야 함
- CAPTCHA와 AI 시각 인식 벤치마크에 활용할 가능성이 있으나 사람에게도 읽기 어렵고, 비디오 네이티브 모델이 등장하면 해독될 수 있음. 영상 생성 코드는 오픈소스로 공개할 계획임
움직임으로 만드는 글자
- Ghost Font는 메시지를 정적인 글자 모양이 아니라 점들의 움직임으로 기록함
- 움직임, 영상, 노이즈와 미끼를 조합해 사람이 읽을 수 있는 메시지를 공유함
- 일반적인 TTF 글꼴 파일이 아니며, AI가 쉽게 이해하지 못하는 형식으로 글을 시각적으로 전달할 수 있는지 탐구하는 실험임
- 일반 텍스트만큼 선명하지는 않지만 사람은 움직이는 글자를 즉시 식별할 수 있는 반면, 주요 AI 모델은 쉽게 해독하지 못함
- 제공되는 플레이그라운드는 개념을 시험하기 위한 프로토타입임
- 몇 단어를 입력하면 점의 움직임으로 글자가 나타남
- 입력한 메시지를 실시간으로 미리 보거나 영상으로 내려받아 공유하고 직접 시험할 수 있음
- 모든 처리는 로컬에서 이뤄지며 데이터는 서버로 전송되거나 공유되지 않음
정지 화면으로는 읽을 수 없는 구조
- 모든 글자는 배경과 똑같이 보이는 점들로 구성되며, 메시지는 점들의 시간에 따른 움직임에서만 나타남
- 영상을 멈추면 정적인 점들이 서로 섞이므로 단일 프레임만으로는 어떤 메시지가 포함됐는지 알아내기 어려움
- 페이지를 화면 캡처하거나 영상에서 개별 이미지를 추출해도 읽을 수 있는 메시지 정보가 드러나지 않음
ZXX에서 Ghost Font로
- 디자이너 Sang Mun은 2013년 사람은 읽을 수 있지만 광학 문자 인식(OCR) 소프트웨어는 읽기 어렵게 만든 글꼴 ZXX를 공개함
- 네 가지 글꼴로 구성됐으며, 글자를 노이즈로 위장하거나 선으로 지우고 가짜 표시 아래 숨겼음
- 당시에는 감시를 피할 수 있는 글꼴로 평가됐지만, 현대 AI 에이전트는 ZXX로 렌더링된 글자를 쉽게 읽을 수 있음
- ZXX 이미지를 ChatGPT 5.5의 Instant 모드에 입력하자 한 번의 프롬프트만으로 단어와 일부 작은 세부 정보까지 인식함
- 반면 Ghost Font의 단일 화면에는 읽을 수 없는 정적 점만 보이므로 같은 방식의 이미지 분석으로 메시지를 얻기 어려움
- ChatGPT 5.5 Pro는 19분간 분석한 뒤 실제로 존재하지 않는 메시지를 생성함
코드 기반 분석과 미끼 메시지
- 영상을 사용한다는 사실만으로 완전한 방어가 되지는 않음
- 온라인 모델 환경은 개별 프레임에서 메시지를 찾지 못할 수 있음
- 로컬 코드 실행 환경을 갖춘 전용 에이전트는 점들의 움직임을 분석해 실제 메시지를 해독할 수 있음
- Ghost Font는 분석을 어렵게 만들기 위해 생성하는 모든 영상에 미끼 메시지를 추가함
- 숨겨진 메시지를 탐색하는 에이전트가 미끼를 먼저 발견하면 이를 실제 메시지로 판단할 수 있음
- 이 계층 때문에 Fable과 GPT Sol 5.6 Ultra 같은 강력한 추론 모델도 해독에 어려움을 겪음
- Claude Fable과 GPT Sol 5.6 Ultra는 코드를 사용할 수 있었지만, 어떤 기법을 찾아야 하는지 정확히 프롬프트로 알려주기 전까지 움직이는 메시지를 해독하기 어려웠음
보안 수단으로서의 한계
- 메시지를 실제로 숨겨야 한다면 Ghost Font가 아니라 암호화 또는 특정 키를 사용해야 함
- 사람만 아는 비밀번호로 열 수 있는 메시지는 AI도 비밀번호 없이는 읽을 수 없음
- Ghost Font의 목표는 완전한 보안이 아니라, 공유 가능한 파일에 사람은 볼 수 있지만 AI는 쉽게 읽지 못하는 시각 메시지를 담을 수 있는지 시험하는 것임
- AI 지각 능력의 한계를 탐색하는 동시에 인간 고유의 요소를 보존하려는 시도이기도 함
- AI가 글꼴 생성에도 사용되는 가운데, 인간이 독특한 창의적 목소리를 계속 유지하기를 기대함
CAPTCHA와 AI 벤치마크 가능성
- 움직이는 글자는 CAPTCHA에 적용할 가능성이 있음
- 많은 CAPTCHA를 AI가 쉽게 푸는 상황에서, 영상 속 움직임은 자동화 봇의 해독을 어렵게 하면서 사람에게는 상대적으로 읽기 쉬운 과제가 될 수 있음
- AI의 시각 지각 발전을 측정하는 벤치마크로 활용하는 방안도 있음
- 현재 멀티모달 모델은 주로 이미지 기반이며, 영상을 받아도 일반적으로 프레임으로 나눠 각 이미지를 분석함
- 향후 비디오 네이티브 모델이 등장하면 움직임을 직접 처리해 Ghost Font의 텍스트를 읽을 수 있을 것으로 예상함
사람과 AI 사이에서 좁아지는 격차
- Ghost Font는 AI가 읽기 어렵지만 사람에게도 상당히 읽기 어려움
- AI의 시각 지각 능력이 빠르게 향상되면서 사람과 AI의 인식 격차는 계속 좁아지고 있음
- 다음 단계로 영상 생성 코드를 오픈소스 프로젝트로 공개할 계획임
- 더 큰 화면 크기를 지원하고 긴 문자열도 처리할 수 있도록 확장할 예정임
-
Homepage
-
Tech blog
- Ghost Font - 사람은 읽지만 AI는 읽기 어려운 글꼴