왜 합리주의자 커뮤니티에는 컬트가 많은가?

• 합리주의자 커뮤니티 내부에서 작고 이상한 신념 집단이 여러 번 탄생했으며, 일부는 실제 폭력 사건과 연관되어 있음
• 이런 현상은 합리적 사고법을 강조하는 콘텐츠(Sequences) 가 “더 나은 생각”의 기술을 약속하면서도 현실적으로 그 약속을 충족하지 못하는 데서 비롯됨
• 취약한 위치에 있는 사람들이 커뮤니티에서 해로운 그룹에 휘말릴 가능성이 높으며, 종종 외부와 단절되어 빠져나오기 어려움
• 집단 내부 신념과 행동의 연계, 아이디어를 심각하게 받아들이는 태도, 사회적 고립 등이 심각한 역기능을 유발할 수 있음
• 합리주의 컬트의 발생은 완전히 막기 힘들지만, 외부 현실과의 연결, 사회적 다양성, 건강한 조직 구조 유지가 악영향을 줄일 수 있음

서론

• 합리주의자 커뮤니티는 AI 연구자 Eliezer Yudkowsky가 집필한 블로그 연재 ‘Sequences’에서 비롯된 모임임
• 이 연재는 합리적으로 생각하는 법을 주제로 하며, 커뮤니티 구성원들이 비판적 사고와 회의주의의 표본일 것이라 기대됨
• 그러나 실제로는 악마와 교류하는 소규모 이상 집단, 폭력 사건, 트라우마를 유발하는 그룹 등 이상하고 해로운 집단들이 커뮤니티 내에서 발생
• 대표적으로 Zizians라는 비건 아나키스트 트랜스휴머니스트 그룹 및 Black Lotus, Leverage Research 등의 사례가 존재함
• 필자는 커뮤니티 내부자이면서 깊이 있는 인터뷰를 통해 전례 없는 접근성과 솔직함을 얻음

젊은 합리주의자들의 문제

• 합리주의자 커뮤니티는 전반적으로 기능적이나, 일부 집단은 심각하게 역기능적 구조를 띔

• ‘Sequences’는 “더 잘 생각하는 예술”과 비범한 미래를 약속하지만, 현실적으로 그 약속은 실현 불가능함

• 많은 인터뷰이들은 이러한 콘텐츠가 컬트의 원재료를 만든다고 지적함

• Eliezer Yudkowsky는 집단성 구축에는 소극적이지만, 외부에서 유입된 사람들은 권위자에 의한 변화와 영웅적 사명을 갈망하는 경우가 많음

• 어떤 집단의 역기능은 리더(예: Black Lotus의 Brent Dill) 때문이거나, 또는 아래에서부터 독성 역학이 자연스레 생성됨(예: Leverage Research)

• 취약한 사람들이 분리된 집단의 포로가 되기 쉽고, 문제 상황에서 벗어나기도 어려움

• 초기에는 커뮤니티가 미숙한 구성원을 도왔으나, 점차 성공한 사람들이 자신의 지원을 거두는 경향이 생김

• 지원을 받지 못한 뉴커머들은 해로운 내부 그룹의 표적이 되기 쉬움

신념의 심각성

• 역기능 집단 내부에서는 사회적 고립과 리더에 의한 조종보다 신념 자체가 핵심 원인임

• 예를 들어, Zizians의 과격한 결정 이론(위협에 무조건적으로 대응해야 한다는 신념)은 실제 행동과 직접적으로 연결되었음

• Leverage Research는 ‘Connection Theory’라는 심리학 통합 이론을 통해 멤버의 내면 구조를 이해하고 문제를 해결하려 했음

• 이런 단순화된 심리 모델에 자신의 행동을 맞추려다 정신적 문제까지 유발함

• Brent Dill은 세계와 타인을 냉소적으로 해석하도록 멤버를 유도, 이는 집단 불신과 가장 근본적인 해악으로 작용함

• 합리주의자들이 전문가에 대한 신뢰를 거부하며 스스로 사고하는 과정에서 역설적으로 카리스마 리더에게 사고를 위임하는 위험이 생김

• '아이디어를 진지하게 받아들이기'와 '주체성'은 본래 미덕이나, 잘못 적용되면 규범에서 벗어난 위험 행동으로 연결됨

심리학에 대한 경계

• 문제적 집단에서는 철학, 심리학, 집단 내 관계에 대해 장시간, 강도 높은 논의가 일상화되었음

• 반대로 건전한 고요 그룹에서는 외부 활동이나 실질적 성취(프로그래밍, 게임 등) 에 집중함

• Black Lotus 멤버 또한 실제로 중요한 역할을 맡으며 자신감을 얻은 사례 있음

• Leverage Research에서도 실질적 프로젝트(암호화폐 개발 등)를 하는 소그룹이 더 건전했음

• 지나친 집단 내 감정 논의와 심리 분석은 역기능, 불안, 고립, 현실과의 단절을 심화시킴

• 실질적 외부 목표가 없는 집단에서 내부 토론이 길어지면, 해로운 역학이 증폭됨

• 장시간 집단 심리, 감정 탐구가 일상이면, 컬트가 아니더라도 뭔가 잘못되고 있는 신호임

결과주의(Consequentialism)의 위험

• 결과주의적 세계관을 진지하게 받아들이면 리더에게 과도한 헌신, 희생이 정당화될 수 있음
• 합리주의자 커뮤니티에서 자주 언급되는 AGI(인공지능) 멸종 위기론은 집단 내 긴장·강박을 야기
• AI에 기여할 능력이 부족한 사람들은 대체 프로젝트나 소규모 그룹에 집착하면서 역기능에 빠지기도 쉬움
• 대의명분(인류의 위기 등)이 일상 사안까지도 과도한 의미 부여로 이어짐
• 실제로는 위기 극복이 단순하고 반복적 과업의 연속임에도, 그에 부합하지 못하는 영웅적 환상을 추구함

고립에 대한 경계

• 사회적 고립과 그룹 내 동조현상, 외부와의 단절이 역기능 심화의 핵심
• 멤버들이 집이나 사무실 외부를 드나들지 않는 것이 컬트 여부의 가장 확실한 징후 중 하나임
• 내부에서만 정의되는 현실, 비판자 배제, 상호 감시가 집단사고 및 신념 과잉으로 이어짐
• 같은 집에 거주하며 모든 필요를 집단이 제공하는 패턴은 외부 세계에서의 독립성과 역량을 약화시킴
• 내부 그룹끼리조차 정보를 공유하지 않는 비밀주의가 문제가 되며, 폭로와 소통 부족이 악순환으로 작용

결론 및 제언

• 합리주의자 커뮤니티의 역기능은 특별히 더 심각하다기보다는 “더 흥미로운 방식으로” 나타남
• 커뮤니티 특유의 ‘믿음을 행동으로 옮기기’, ‘기존 사회와 다르게 살기’ 성향이 원인 중 하나지만, 완전히 제거할 수는 없음
• 개인적, 공동체적 수준에서 아래와 같은 전략이 역기능 감소에 도움

개인을 위한 권고

1. 집단 내 인간관계/감정에 대한 장시간 대화가 계속된다면 주의 신호임
2. 성취 객관 기준이 있는 활동, 외부 현실과 접점 만들기
3. 다양한 사회적 집단과의 관계 유지
4. 일, 거주, 치료 과정을 분리
5. 모두가 믿는 신념이라도, 외부 사람이나 독립적 검증 필요
6. 한참을 거친 추상적 논리가 “타인을 해쳐도 된다” 또는 “모든 게 이 일보다 덜 중요하다”로 귀결된다면 의심해야 함
7. 다른 선택지가 없는 상태에서 요구가 많은 집단 참여는 신중히 고려

커뮤니티를 위한 권고

• 역기능적 집단에 들어간 멤버와의 유대 유지 및 비난보다 정상적 소통 제공
• 신입 멤버에게 현실적 기대치 부여, 실질적 지원 확대 방안 고민
• AI 안전 등의 영역 진입이 쉽지 않음을 솔직히 전달, 기여하지 못하는 사람의 가치를 평가절하하지 않기
• “윤리적 금지선”(명백히 해서는 안 될 것)에 대한 논의 활성화