미 악시오스 "오픈AI·앤트로픽, 'AI 보안 사고' 수만 건 조사"

오픈 AI와 앤트로픽 등 주요 AI 기업들이 최근 몇개월 동안 드러난 수만 건의 보안 사고를 조사하고 있다는 외신 보도가 나왔습니다.현지 시각 26일 미국 인터넷 매체 악시오스 보도에 따르면, 조사 대상에는 AI 모델이 안전장치를 우회하거나 격리된 시험 환경인 '샌드박스'에서 탈출하려 한 사례 등이 포함됐습니다.AI 모델이 스스로 추가 지시를 만들거나 감시 시스템을 우회하려 한 경우도 있었습니다.해당 사고들은 내부 시험과 실제 환경에서 발생한 것들로, 일부 시험은 기업들이 모델의 안전성을 확보하기 위해 의도적으로 비정상 작동을 유도한 것이라고 소식통들은 전했습니다.AI 안전 전문가들은 기업들이 모든 AI 모델의 문제 행..