미국 정부, Fable 5와 Mythos 5 에 대해 모든 외국인의 접근 중단 지시

3 hours ago 2

미국 정부가 국가안보 권한을 근거로 내린 수출 통제 명령에 따라, 미국 내외를 막론한 모든 외국 국적자의 Fable 5·Mythos 5 접근이 차단되며 규정 준수를 위해 전체 고객 대상 서비스가 즉시 중단됨
명령은 ET 기준 오후 5시 21분에 접수됐으며, 국가안보 우려의 구체적 내용은 명시되지 않음
정부의 근거는 Fable 5의 탈옥(jailbreaking) 기법 인지로 파악되나, 해당 기법으로 식별된 취약점은 이미 알려진 경미한 수준이며 다른 공개 모델로도 우회 없이 발견 가능
Anthropic은 출시 전 미국 정부·UK AISI·외부 기관과 수천 시간 레드팀 테스트를 거쳤고, 어떤 테스터도 범용 탈옥(universal jailbreak) 을 찾지 못함
좁은 범위의 탈옥 가능성을 이유로 수억 명이 사용하는 상용 모델을 회수하는 기준에는 동의하지 않으며, 다른 모델 제공자에게도 동일 적용 시 신규 모델 배포가 사실상 중단될 것으로 봄

명령의 내용과 즉각적 영향

미국 정부가 국가안보 권한을 인용해 수출 통제 명령을 발령, 미국 내외를 불문한 모든 외국 국적자(외국 국적 Anthropic 직원 포함)의 Fable 5·Mythos 5 접근을 중단시킴
명령의 결과로 규정 준수를 위해 전체 고객 대상 Fable 5·Mythos 5를 갑작스럽게 비활성화함
- 그 외 모든 Anthropic 모델 접근은 영향받지 않음
명령은 당일 ET 오후 5시 21분에 접수됐으며, 서한에는 국가안보 우려의 구체적 세부사항이 담기지 않음

정부가 Fable 5의 탈옥(jailbreaking) 우회 기법을 인지한 것으로 파악됨
해당 기법 시연을 검토한 결과, 이미 알려진 소수의 경미한 취약점을 식별하는 용도였음
- 이 취약점들은 비교적 단순하며, 다른 공개 모델도 우회 없이 동일하게 발견 가능

사이버보안 등 작업에서의 오용 가능성을 크게 낮추는 강력한 안전장치를 도입했으며, 다수 사용자가 과도하게 광범위하다고 불만을 제기할 정도임
출시 직전 수 주간 미국 정부, UK AISI, 다수 민간 제3자 기관, 내부 팀과 함께 총 수천 시간의 레드팀 검증을 수행함
해당 테스트에서 Fable의 안전장치가 기존 배포된 어떤 모델보다 실질적으로 더 효과적임이 확인됨
어떤 테스터도 범용 탈옥(universal jailbreak)(모델 안전장치를 광범위하게 우회해 다양한 사이버 역량을 여는 방식)을 찾지 못함

현재 어떤 제공자도 완전한 탈옥 저항은 불가능한 것으로 보며, 업계의 모든 안전장치는 비범용 탈옥(non-universal jailbreak)(특정 상황에서 일부 사이버 정보 유도)에 취약함
- 범용 탈옥도 결국 향후 발견될 가능성이 있으며, 이는 Fable 5 출시 시 명확히 밝힌 사항임

완전 방어가 불가능한 현실에서 다층 방어(defense in depth) 전략을 채택, 탈옥을 좁은 범위로 한정하거나(비범용) 매우 비싸게(범용) 만들고 철저한 모니터링으로 공격을 신속히 탐지·차단함
- 이를 위해 Fable에 30일 고객 데이터 보존을 요구했으며, 고객 측에 실질적 비용을 수반하나 탈옥 연구·완화를 가능케 함
다층 방어 전략을 고수하며, 이는 이미 업계 전반에 배포된 기존 모델과 비교 가능한 수준으로 위험을 낮춤
유해 결과로 이어진 우려스러운 비범용 탈옥은 공개받은 바 없으며, 공개된 잠재 탈옥들은 전부 무해한 응답이거나 Mythos 고유 이점이 없는 경미한 발견에 불과함

현재까지 정부는 구두 증거만 제시했으며, 그 내용은 모델에 특정 코드베이스를 읽고 소프트웨어 결함을 수정하도록 요청하는 좁은 범위의 비범용 탈옥임
정부에 공유된 잠재 탈옥은 하나로 파악되며, 명령의 근거로 추정되는 보고서를 검토한 결과 제시된 역량 수준이 OpenAI의 GPT-5.5 등 다른 모델에서도 널리 이용 가능함을 확인함
- 해당 역량은 시스템을 지키는 방어자들이 매일 사용하는 수준임
향후 24시간 내 추가 세부사항을 공유 예정

정부의 법적 명령을 준수해 전체 사용자 대상 Fable 5·Mythos 5 접근을 제거함
다만 좁은 범위의 잠재 탈옥 발견이 수억 명에게 배포된 상용 모델 회수의 사유가 되는 데는 동의하지 않음
- 동일 기준을 업계 전반에 적용 시 모든 프런티어 모델 제공자의 신규 모델 배포가 사실상 중단될 것으로 봄
정부가 안전하지 않은 배포를 차단할 권한은 가져야 하나, 이는 투명·공정·명확하며 기술적 사실에 근거한 법적 절차의 일부여야 하며 이번 조치는 그 원칙에 부합하지 않음
고객 혼란에 사과하며, 이를 오해로 보고 가능한 한 빠른 접근 복구를 추진 중