버틀레리안 지하드

Hacker News 의견들 『듄』에서 가장 좋아하는 구절임. 위대함은 일시적인 경험이며 결코 지속적이지 않음. 그것은 부분적으로 인간의 신화를 만들어 내는 상상력에 의존함. 위대함을 경험하는 사람은 자신이 어떤 신화 속에 있는지 감지하고, 자신에게 투영되는 모습을 반영해야 함. 동시에 냉소적 유머 감각도 강해야 함. 그래야 자신의 허세를 스스로 믿는 데서 벗어날 수 있고, 내면의 자유를 유지할 수 있음. 이 자질이 없다면 잠깐의 위대함조차 한 사람을 파멸시킬 수 있음. 이 구절은 1권에 나오는 게 아닌가? 『듄』의 사고하는 기계가 흥미로운 이유는, 다른 SF에서는 AI 스스로 인류를 파괴하기로 결정하는 반면 여기서는 기계를 통제하는 기술관료들이 인류를 파멸 직전까지 몰아간다는 데 있음. 지하드는 기계뿐 아니라 그들을 상대로 한 투쟁이기도 함. ChatGPT나 Claude를 Skynet에 빗대곤 하지만, 실제로는 『터미네이터』보다 『듄』식 기계 지배가 실현될 가능성이 더 커 보임. 같은 이야기를 읽은 게 맞는지 모르겠음. 사건의 발단이 되는 시점에는 기술관료 사이보그인 Titans가 이미 기계 지도자에게 예속되어 있고, 그 지도자를 통제하는 인간은 없음. 글 마지막에는 기술 사용이 인간을 기계처럼 사고하도록 훈련한다는 Heidegger의 논지를 버틀레리안 지하드의 또 다른 근거로 제시함. 기계는 결정론적이므로 인간을 기계처럼 훈련하는 것은 스스로의 가능성을 제한한다는 것임. Heidegger라면 LLM의 확률적 성격이 인간의 사고에 긍정적인 영향을 준다고 봤을지 궁금함. LLM은 온도 설정 때문에 보통 비결정적으로 작동하지만, 출력에는 여전히 강한 편향이 있음. 출력의 편향 자체가 작동 원리임. LLM과 많이 상호작용할수록 토큰 확률표에 담긴 중간값 쪽으로 영향을 받는, 다른 형태의 획일화가 생김. Heidegger와 Illich가 우려한 것과 본질적으로 같고, 이미 곳곳에서 벌어지는 것으로 보임. 해결책이 있다면 말과 행동을 기계의 확률 분포에 맞추기보다, 기묘하더라도 자기다운 모습으로 행동하는 것일 수 있음. LLM은 직접 코드를 작성할 때보다 훨씬 더 인간에게 기계처럼 생각하도록 강요함. 코딩은 자유도와 자기표현의 여지가 큰 창조적 활동이지만, 버튼을 누르고 코드 변경을 승인하는 일은 활동을 극도로 제한하고 자신을 작업에서 소외시킴. LLM은 확률적으로 작동하지만 가능한 출력의 범위가 매우 좁음. 소비자 ...