사람들이 AI가 어떻게 동작하는지 이해하지 못할 때 어떤 일이 일어나는가

• 기계 왕국이라는 개념은 19세기부터 기술 발전의 영향에 대한 두려움을 보여줌
• 최근 책들은 대형 언어 모델 개발 과정의 인력과 진실을 심층적으로 분석함
• OpenAI와 ChatGPT와 같은 인공지능의 현실은 많은 홍보와는 다르게 과장된 부분이 있음
• 기술 업계의 인공지능 사업은 허상과 실제 노동이 어우러진 구조로 이루어짐
• 인공지능 산업의 근간에는 사기성이 깔려 있다는 비판적 시각이 제시됨

19세기 기술 발전에 대한 불안과 ‘기계 왕국’ 개념

• 1863년 6월 13일, 뉴질랜드의 신문 The Press에 ‘Cellarius’라는 익명의 편지가 실림
• 이 편지의 저자는 급속한 산업화와 기술 발전 속도를 우려하며, 기계의 영향력 확대에 대한 공포를 드러냄
• “기계들은 우리를 점점 더 예속시키고 있으며, 사람들은 이제 기계를 돌보는 노예가 되고 있다”는 표현을 사용함
• 편지의 실체는 영국 작가 Samuel Butler로 추정되며, 그는 이후 인공지능 개념이 처음 언급되는 소설 Erewhon을 발표함

오늘날의 인공지능 ‘제국’과 그 이면

• 현재 Butler가 말한 ‘기계 왕국’은 기술 분야에서 더 이상 가상의 개념이 아님
• 기술 저널리스트 Karen Hao는 이를 ‘제국’이라는 용어로 더 확장하여 인공지능의 현실을 분석함
• Hao의 신간 Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI는 Silicon Valley의 내막과 대형 언어 모델(LLM)의 개발 과정에 필요한 노동력을 심층적으로 취재함
• 이 책과 함께 언어학자 Emily M. Bender와 사회학자 Alex Hanna가 쓴 The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want도 큰 기술 회사들의 허상을 비판적으로 검토함

인공지능 산업의 현실과 핵심 비판

• 두 책 모두 인공지능 산업의 본질이 허상에 지나지 않는다는 시각을 전달함
• The AI Con에서는 명확하게, Empire of AI에서는 암묵적으로 AI 산업의 근간이 사기적 구조임을 지적함
• 인공지능 성공의 뒷면에는 거대한 마케팅 과장과 숨겨진 대규모 노동력이 존재함
• ChatGPT와 같은 최신 LLM들은 현실적으로 사람의 노동, 데이터 수집, 실제의 기술적 한계에 많이 의존함
• 기술 산업의 홍보와는 달리, 진정한 ‘지능’이 결여된 인공지능의 실상과 이에 대한 대중의 오해가 지속적으로 지적됨