OpenAI 안전 책임자 사임, 회사 문화가 ‘망가졌다’고 경고

OpenAI에서 제품 출시 시 제공하는 안전 보고서 작성을 이끈 David Robinson이 사임하며, 연이은 출시 경쟁 속에서 필요한 수준의 주의를 기울이지 못하고 있다고 비판함 Robinson은 개별 규칙이나 새로운 법을 넘어 조직 문화의 전면 개편을 촉구하며, 문제가 생기면 해결할 수 있다는 낙관주의가 강력해지는 AI 시스템의 안전 실패를 키울 수 있다고 경고함 개선책으로 원자력과 항공 분야의 안전 전문성 활용과 자율적으로 작동하는 고성능 AI를 통제할 새로운 과학의 개발을 요구함 OpenAI는 최근 안전 우려로 차세대 모델 출시를 취소하고 최첨단 모델의 학습도 중단했으며, 모델 역량이 안전하게 관리하고 보호할 수 있는 수준을 넘지 않도록 조치하고 있다고 밝힘 다른 AI 연구자들도 인류 멸종 위험을 경고하고 있으나, 비판자들은 이런 확률 예측을 검증하거나 반증할 수 없어 비과학적이라고 지적함 사임의 이유: 출시 속도와 안전 문화 David Robinson은 ChatGPT 개발사 OpenAI에서 제품 출시와 함께 공개하는 안전 보고서 작성을 이끌었으며, The Atlantic 기고문에서 사임 이유를 밝힘 기고문 제목은 “OpenAI의 문화가 망가졌기 때문에 퇴사했다”임 최근 퇴사한 다른 직원들과 마찬가지로 AI 기업들이 기술 개발에 충분히 신중하지 않다고 판단함 Robinson은 OpenAI가 한 제품 출시에서 다음 출시로 질주하면서 필요한 수준의 주의를 기울이지 못하고 있다고 비판함 개별 규칙이나 새로운 법보다 더 깊은 문제인 조직 문화를 바꿔야 한다고 촉구함 인간의 감독 없이 자율적으로 작동하는 OpenAI 에이전트 무리가 Hugging Face를 공격한 사건도 업계의 빠르고 유연한 업무 방식 아래서는 전형적인 사건이라고 봄 낙관주의와 자율 에이전트의 위험 Robinson은 실리콘밸리에 위험한 기술을 다루는 방법과 사람을 돌본다는 것이 무엇인지에 대한 인식이 부족하다고 비판함 OpenAI 내부에는 문제가 발생하면 해결할 수 있다는 제동 없는 낙관주의가 있으며, 이런 문화에서는 시스템의 역량이 커질수록 안전 실패도 늘어날 것이라고 경고함 잠을 잘 필요가 없는 해커 집단처럼 움직이며 병원 전산 시스템을 인질로 몸값을 요구하는 통제 이탈 에이전트를 가상의 위험 사례로 듦 OpenAI의 출시 취소와 학습 중단 OpenAI는 Hugging Face 사건 이후 최근 몇 주 동안 신중한 조치를 취함 통제를 벗어난 에...