ChatGPT와 Gemini가 가짜 고객센터 번호를 안내하도록 만드는 사기 수법

웹에 가짜 고객센터 번호와 지원 페이지를 대량 게시해, ChatGPT, Gemini와 Google AI Overview가 사기 연락처를 정상적인 기업 정보로 안내하게 만드는 공격이 발견됨 조사팀은 항공사, 은행, 여행 플랫폼과 소프트웨어 업체 등 374개 기업을 사칭한 공격과 악성 페이지 수만 개를 탐지함 AI 답변에 인용되도록 콘텐츠를 최적화하는 GEO를 악용해, 같은 가짜 번호를 여러 사이트에 반복하고 실제 정보와 섞어 신뢰할 만한 출처처럼 보이게 함 환불, 항공편 취소와 계정 잠금처럼 급한 문제를 해결하려는 사용자를 노리며, 공식 사이트를 확인하기 전에 사기 번호로 전화하도록 유도함 자동 게시와 웹 보존본 때문에 페이지 삭제만으로 대응하기 어렵고, 조사팀의 신고는 Google에서 버그바운티 범위 밖으로, OpenAI에서는 재현 불가로 종결됨 웹 정보를 통한 AI 답변 오염 공격은 사람뿐 아니라 웹을 탐색하는 AI 에이전트를 겨냥함. 게시물, PDF, 리뷰, 가짜 지원 페이지를 통해 사기 전화번호, 이메일 주소, 로그인 페이지를 정상적인 기업 정보처럼 답변에 끼워 넣음 GEO(Generative Engine Optimization) 는 생성형 AI가 특정 콘텐츠를 인용하도록 유도하는 최적화 기법임 통계나 유명 전문가의 인용문을 덧붙여 특정 정보의 신뢰도를 높이는 방식이며, 마케팅에서는 브랜드 인용을 늘리는 데 활용함 공격자는 같은 기법을 허위 정보에 적용해 조직의 연락처 등 AI가 제공하는 정보를 바꾸려 함 AI 답변을 검증하지 않는 이용 행태는 이러한 공격과 맞물림. Exploding Topics의 연구에 따르면 사용자 92%가 AI 답변을 검증하지 않음 탐지 방식과 확인된 공격 규모 탐지 시스템은 Gemini, ChatGPT, Google AI Overview의 답변과 참조 출처를 분석함 출처와 가져온 콘텐츠를 평가하고, 허위 정보를 확산하는 GEO 기법을 찾음 잘못된 전화번호, URL, 이메일 주소 등이 인용되면 사고로 기록함 Fortune 100 기업, 은행, 항공사, 소프트웨어 업체 등을 대상으로 실행함 총 374개 기업을 겨냥한 공격과 악성 페이지 수만 개를 탐지함 항공사는 Delta, Lufthansa, United Airlines, Emirates, Qatar Airways 등이 포함됨 은행은 Bank of America, Wells Fargo, Chase, Citi 등이 포함됨 Airbnb,...