2026년에 AI를 혐오한다는 것

• 신경망 발전에 기대를 걸었던 20년 경력의 머신러닝 실무자가 오늘날의 AI 열풍은 효용으로 정당화할 수 없는 사회적·환경적 비용을 초래한다며 사용 거부를 택함
• 텍스트 생성 모델은 다음 단어를 정교하게 예측해 지시를 이해하고 인간처럼 대화하는 듯한 환상을 만들지만, 이를 인간 수준의 의식에 가까운 기술로 보는 열풍은 인지·언어 전문가들의 반론에도 계속됨
• 대형 기술 기업과 투자자는 신경망 자체의 혁신보다 더 큰 모델 구축에 집중하며 막대한 훈련 데이터와 에너지를 요구하고, 기후변화를 인정하면서도 화석연료 수요를 늘리는 기술을 채택하는 모순은 외면함
• 현대 생활에 얽힌 착취와 환경 훼손을 완전히 피하기는 어렵지만, AI는 불과 3년 전처럼 컴퓨터를 사용하면 되므로 인간과 환경의 권리를 위해 사용하지 않기 쉬운 선택지로 남아 있음
• 2026년의 반AI 입장은 2002년 이라크 침공을 앞둔 반전 입장과 닮았으며, 피해의 인과관계가 더 불분명하고 동료와 친구들까지 동참한다는 차이 속에서도 나쁜 선택을 보상하는 사회 구조가 반복됨

다음 단어 예측에서 산업적 열풍으로

• 약 15년 전 신경망 머신러닝이 두 번째 르네상스에 들어선 뒤, 이미지·음향·텍스트 등 여러 디지털 자료의 분류와 생성에서 다른 기법을 앞지름
• 텍스트 생성 모델은 다음 단어를 고르는 능력으로 지시를 이해하고 실제 인간처럼 대화하는 듯한 챗봇을 구현해 기업 지도자·정치인·기술 업계 종사자들을 사로잡음
• 이 기술은 일시적인 이해의 환상을 만드는 정교한 기법이지만, 한동안 합리적인 사람들조차 다음 단어 생성기가 인간과 비슷한 의식에 가까워졌다고 믿는 일이 흔했음
  • 인지와 언어 전문가들은 그런 의식이 생기지 않는 이유를 계속 밝혔지만 열풍은 이어짐
  • 여러 기술을 포괄하는 명칭으로 통용되므로 artificial intelligence를 AI라고 부름
• 이미 경제에서 불편할 만큼 큰 비중을 차지하면서도 생활필수품을 생산하지 않는 대형 기술 기업들이 AI에 운명을 걸었음
  • 신경망 자체의 실질적 혁신은 느려짐
  • 기업과 투자자는 막대한 훈련 데이터와 에너지를 요구하는 더 큰 모델 구축에 집중함
• 2026년에는 노골적인 기후변화 부정이 더는 유행하지 않으며, 대부분이 화석연료 의존으로 기후가 온난화한다는 과학적 합의를 인정함
  • 그럼에도 AI는 사회의 석유 수요를 직접 늘리고 있으며, 에너지 요구량만으로도 채택에 부적합하다는 비판은 사용자들에게 무시됨
• 현재의 피해와 이런 추세가 계속될 때의 추가 피해를 지적해도, 부유한 개인과 기업이 자신들이 소유한 특정 기술 접근법 위에 미래를 건설하기로 결정하면서 우려는 배척됨
• 일부 사용자가 챗봇을 유용하게 여길 수는 있지만, 어떤 용도도 사회 전체가 부담하는 사회화된 비용을 정당화할 수준에는 미치지 못함
• 지난 10년간의 신경망 발전에 기대를 걸었던 20년 경력의 머신러닝 실무자에게도 현재의 AI 흐름은 이미 궤도를 벗어난 상태임

사용을 거부할 수 있는 기술과 반복되는 패턴

• 사람들은 누군가를 해친다는 이유로 사회·기술 시스템을 비판하는 도덕적 논증에 무감각해진 상태일 수 있음
  • 도덕적 논증 자체에는 문제가 없지만, 부유한 국가에서 평범하게 생활하려면 수많은 사람의 착취와 유한한 환경 자원에 의존할 수밖에 없음
  • 일관된 친사회적 윤리 입장도 이런 사회와 접촉하는 즉시 타협된다는 반응을 피하기 어려움
• 음식·옷·전자기기에 담긴 피해는 피하기 어렵지만, AI는 여전히 사용하지 않기 쉬움
  • 인간과 환경의 권리를 존중하는 윤리를 실제 생활에서 실천할 수 있는 한 가지 선택임
  • 불과 3년 전과 같은 방식으로 컴퓨터를 사용하면 됨
• 낙관적인 예측을 제외한 AI 전망이 현실화한다면, 미래의 기록자는 왜 더 많은 사람이 사용을 거부하지 않았는지 의문을 품게 됨
• 반AI 입장이 불러오는 감정은 미국의 이라크 침공을 앞둔 2002년 말과 비슷함
  • 당시 국가 지도자들이 전쟁을 정당화하려고 거짓말하고 있으며, 소수의 부유한 사람을 제외하면 좋은 결과가 없을 것이 분명해 보였지만 언론과 대중 상당수는 비판자들을 경멸함
  • 반AI 입장에서도 당시의 반전 입장과 같은 감각을 느끼게 됨
• 두 시기의 차이는 AI가 만드는 피해의 원인을 특정하기가 더 어렵다는 데 있음
  • 지구 평균기온이 0.1도 올라갈 때 몇 명이 사망하는지, 그 상승분 가운데 특정 가스 연소 데이터센터의 몫이 얼마인지 귀속하기 어려움
  • 가까운 동료와 소중한 친구들까지 AI를 사용하는 편에 서 있다는 점도 다름
• 기후변화, 거대 기업의 신뢰성, 존엄하게 살고 일할 권리에 관한 기존 신념을 AI 사용 중단과 연결해 동료와 친구들을 설득하려 했지만 실패함
• 미래의 독자에게 용서를 요구할 수는 없지만, 현재 사람들은 악인이 아니라 나쁜 선택을 보상하고 좋은 선택을 처벌하는 상황에 놓인 평범한 사람들임
• 생성형 AI가 지속시키는 피해를 구체적으로 정리한 To Gen or Not To Gen: The Ethical Use of Generative AI와 The AI Con을 함께 읽을 자료로 권함