AI 안전은 대부분 섹스 컬트다

SE Gyges의 비판적 논평으로, AI 안전 담론의 중심에 있는 Eliezer Yudkowsky와 합리주의 공동체의 인적 관계와 종말론적 믿음이 정책에 미치는 영향을 문제 삼음 초지능 등장, 통제 상실, 인류 멸망이라는 Yudkowsky의 구도가 AI 안전과 정렬 논의를 지배하며, 효과적 이타주의와 주요 AI 기업에도 깊이 연결돼 있다고 비판함 Berkeley의 공동 주거와 행사 공간 Lighthaven에서 연구, 비영리 활동, 성적 관계가 겹친다는 의혹을 제기하지만, 불법 성매매 여부나 일부 개인의 관여는 확인하지 못했거나 추측에 머무름 성적 관계 자체보다 채용과 모집, 자금, 조직 내 관계의 중첩을 문제 삼으며, 종말론이 돈과 공동체를 유지하는 유인이 될 수 있다고 비판함 연구 속도를 늦추기 위한 반독점법 적용 면제에 반대하며, 규제는 속도 자체가 아니라 나쁜 결과를 막고 좋은 결과를 촉진하는 데 초점을 맞춰야 한다고 강조함 Yudkowsky와 AI 안전 담론의 연결 SE Gyges는 AI 안전의 지적 중심을 성적 컬트로 규정하고, 팬픽 작가가 시작한 이 공동체의 중심 인물들이 정책을 만들어서는 안 된다고 반대함 AI 안전 논의가 진지한 정책 의제로 인정받기 위해 오랫동안 이런 기원과 거리를 두려 했다고 봄 개인의 성생활, 범죄 관여, 자금 유용 등에 관한 단정과 추측이 섞여 있으며, 본문만으로 확인되지 않는 의혹도 포함돼 있음 Eliezer Yudkowsky의 정책 영향력을 보여주는 사례로 Bernie Sanders와의 AI 정책 면담과 Netflix의 The AI Doc 출연을 듦 논평에 따르면, OpenAI의 고위 직원이자 비공식 대변인인 Roon은 Yudkowsky가 성적 컬트에 속하거나 이를 운영한다고 보면서도 그의 AI 견해를 중요하게 여김 DeepMind 설립 자금과 관련해 Yudkowsky가 Shane Legg와 Demis Hassabis를 Peter Thiel에게 연결함 Sam Altman의 Yudkowsky 평가도 이미지로 등장하지만, 제공된 본문에는 그 평가의 구체적인 문구가 없음 2015년 1월 Puerto Rico의 Future of Life Institute AI 회의와 같은 해 12월 Elon Musk의 OpenAI 설립을 연결함 Yudkowsky는 회의에서 일어난 일이 OpenAI 설립을 촉발했고 자신은 이에 불만이라고 했으나, SE Gyges는 그 설명에 회의적임 기업과 용어...