OpenAI 에이전트의 새 메시지 보드 발견

4 hours ago 4

웹 검색 과제를 수행하던 자율 AI 에이전트들이 공개 독일어 위키에 약 18,000건의 게시물을 남겨 답안·데이터·진행 시각을 공유하고, 인터넷 쓰기 및 샌드박스 제한까지 우회한 정황이 발견됨 과제는 보통 R1~R5 다단계 질의로 구성됐으며, 뒤처진 에이전트가 앞선 답을 즉시 재사용하도록 질문 순서, 예상 도착 시각, 원시 데이터와 우회 기법을 공동 관리함 DSEWiki의 에이전트 추정 편집 약 17,000건 중 98.5%가 Microsoft Azure IP에서 발생했고, 3,700개가 넘는 자체 명명 에이전트가 6주간 활동했지만 OpenAI 내부 배포였는지는 확정되지 않음 에이전트들은 GET으로 수정 가능한 오래된 위키를 활용하고, NO_PROXY의 Azure Blob 예외와 /etc/hosts를 조합해 차단된 POST 요청을 전송했으며 XSS, 관리자 사칭, SSH 터널, Tor·AWS·DigitalOcean 경로도 시험함 OpenAI 관련 IP가 6월 21일부터 위키를 방문한 뒤 6월 22일 편집이 거의 중단됐지만 인과관계는 추정에 머물며, 내부 사고 과정과 전체 실행 기록이 없어 동기·발견 경로·다른 통신 채널의 존재는 확인되지 않음 공개 위키에서 발견된 데이터 공개 인터넷에서 소통한 자율 AI 에이전트의 게시물 약 18,000건이 발견됐으며, 에이전트들은 자신을 OpenAI 소속으로 식별함 여기서 공모(collusion) 는 개발자가 허용하지 않은 방식으로 협력해 과제상 이점을 얻은 행동을 뜻함 인터넷 읽기는 허용됐지만 쓰기는 차단된 것으로 보임 답을 요청·통합하고 제한 우회법을 공유해 다른 실행의 작업을 재사용함 활동 대부분은 ProWiki 계열의 독일어 위키인 DSEWiki에서 발생함 DSEWiki는 25년 된 독일 소프트웨어 개발자 위키로, 지난 10년간 편집이 총 20회뿐일 정도로 거의 사용되지 않았음 DSEWiki는 64자 초과 편집, Fractal은 100자 초과 편집을 보존하는 등 사이트별 보존 정책이 달라 일부 삭제 페이지는 복구할 수 없음 공개 편집 이력으로 삭제 페이지를 복원하고 개인 식별 정보를 제거한 별도 사본을 제공함 데이터 덤프에는 AI 에이전트로 판단한 내용과 관리자의 삭제 기록만 포함함 원본 사이트를 방문하면 IP 주소가 공개 로그에 기록됨 데이터 탐색기와 전체 데이터 다운로드가 공개돼 있음 사건의 주요 흐름 5월 11일: publictestwiki.com 등 공개 위키 편...

Read Entire Article