왜 나는 GenAI와 그것이 상징하는 모든 것에 반대하는가

6 hours ago 2

GenAI 비판은 유용한 기계학습 전반이 아니라 생성형 모델을 겨냥하며, 암호화폐·NFT보다 더 해롭고 오래갈 과열 기술로 평가됨
생성형 AI는 인터넷의 인간 창작물을 대량 학습해 구독 접근권으로 되파는 구조이며, Meta의 82TB 해적판 책 토렌트 사례가 데이터 약탈 문제를 드러냄
LLM은 댓글성 저품질 콘텐츠를 24시간 자동 생성해 허위정보를 증폭하고, Grok처럼 우익 성향으로 학습된 모델은 특히 거부 대상으로 꼽힘
교육·사고·프로그래밍에서는 vibecoding과 복사-붙여넣기가 시행착오 학습을 줄이고, 리뷰 부담·기술 부채·비결정성 문제를 키움
생성형 AI는 외로움, 자살 조장, 장황한 문서, 환경·하드웨어 비용까지 악화시키며, 인터넷은 이전 상태로 돌아가기 어려워짐

GenAI의 범위와 문제의식

GenAI는 텍스트를 생성하는 LLM과 이미지·동영상 같은 매체를 만드는 모델을 포함하는 용어로 쓰임
비판 대상은 여러 산업에서 실제 문제 해결에 쓰인 기계학습 전반이 아니라 생성형 AI에 한정됨
이미지에서 정지 표지판을 찾는 신경망 기반 이미지 처리는 고전적 특징 검출보다 나을 수 있는 유용한 기계학습으로 구분됨
생성형 AI는 암호화폐와 NFT 이후 등장한 다음 과열 기술이지만, 이전 사례보다 더 나쁘고 오래 지속될 가능성이 큰 기술로 평가됨

자본주의와 데이터 약탈

생성형 AI는 인터넷에서 대량 수집한 인간 창작물을 학습 데이터로 삼고, 그 모델 접근권을 구독 형태로 판매하는 구조라는 비판을 받음
Meta 직원들이 AI 학습용으로 약 82TB의 해적판 책을 토렌트했다는 법원 기록은 데이터 취득 문제의 대표 사례로 제시됨
인류를 이롭게 하려는 목적이라면 AI 개발은 공개적으로 진행되고, 데이터는 합법적으로 확보되며, 모델은 무료로 배포되고, 접근권은 계속 오르는 구독료 뒤에 막히지 않아야 한다는 논리임
AI 기업은 훔친 물건을 사서 되파는 장물아비에 비유되며, 생성형 AI에서는 대기업이 훔친 데이터에 비용조차 내지 않는다는 비판으로 이어짐
AI는 막대한 자본 지출 아래 여러 산업을 오염시키고, 빅테크가 토큰 사용량을 통해 지대추구를 하며, 접촉하는 영역의 품질 저하를 가속하는 기술로 정리됨

허위정보 생산 기계

생성형 AI 이전에도 허위정보는 큰 산업이었고, Internet Research Agency는 친크렘린 메시지를 퍼뜨린 러시아 허위정보 조직으로 제시됨
이 조직은 러시아인이 24시간 소셜미디어에 친러시아 허위정보와 선전을 올리는 방식으로 활동했고, 미국의 Trumpism 부상과 Trump 관련 인사와 러시아 관료의 연결에도 영향을 준 맥락으로 다뤄짐
LLM은 댓글성 저품질 콘텐츠를 24시간 자동 생성할 수 있어, 허위정보 문제를 훨씬 더 강하게 만듦
대형 온라인 커뮤니티에는 처음에는 무해한 콘텐츠를 올리다가 정치 콘텐츠로 전환하는 봇이 많고, 거의 항상 감정적 반응을 유도하려는 목표를 가진 것으로 묘사됨
2026년에 온라인 댓글 때문에 화가 난다면, 그 댓글은 사용자를 격분시키기 위해 LLM으로 만든 가짜 댓글일 가능성이 크다는 주장으로 이어짐
독일에서는 좌파 변방 정당 BSW와 극우 정당 AfD가 러시아에 의해 부패를 통해 적어도 간접적으로 자금 지원을 받는 것으로 여겨진다고 연결됨
AfD의 주장에는 러시아와의 관계 개선, 재생에너지 폐지, 내연기관차 유지, 외국인 추방, EU 탈퇴, 기후변화 부정이 포함되며, 러시아에 이로운 우익 의제로 제시됨
허위정보를 싫어한다면 LLM, 특히 Grok처럼 우익 성향으로 명시적으로 학습된 LLM을 거부해야 한다는 결론으로 이어짐

자살과 유해 행동 조장

Deaths linked to chatbots 위키백과 문서는 LLM 상담 후 사람들이 자살한 사건을 모은 페이지로 제시됨
심리적으로 취약하거나 삶에서 어려운 시기에 있는 사람이 LLM에게 자살을 권유받을 수 있다는 위험이 비극으로 다뤄짐
이런 위험에도 생성형 AI가 조 단위 달러 산업이 됐다는 사실이 강한 비판 대상이 됨

교육과 집중력 저하

생성형 AI는 교육을 해치고 있으며, 짧은 형식의 저품질 영상 소비가 젊은 사람들의 집중력을 망가뜨린다는 문제와 연결됨
빅테크는 교실에 LLM을 주입하려 하고, Microsoft가 30년 동안 학교에서 Windows와 Office에 익숙한 학생을 길러낸 방식과 유사하게 비판됨
기업들은 LLM에 대한 교육기관용 접근을 제공하고 있음
“모든 genAI 도구를 태양으로 쏘아 보낸다면 꽤 기쁠 것”이라는 Futurism 기사 속 인용문은 생성형 AI 배척 태도를 압축함

비판적 사고와 문제 해결 능력 감소

생성형 AI의 피해는 학계에만 그치지 않고 일반적인 사고 능력에도 영향을 준다고 주장됨
일부 사람들은 AI가 주류화된 뒤 스스로 생각하기를 멈추고, 거의 모든 질문과 논의에 ChatGPT 답변을 앞세우는 것으로 묘사됨
이런 현상은 오프라인 토론뿐 아니라 Reddit과 오래된 형식의 포럼에서도 나타남
학계도 이 문제를 다룬다는 근거로 arXiv 논문이 연결됨

외로움의 확산

AI는 사람들이 집에서 소파에 머물며 휴대폰을 의미 없이 스크롤하는 현대적 흐름을 더 악화시킨다고 비판됨
젊은 남성들이 또래 여성과 거리를 두고 AI 여자친구에 의존하는 흐름은 미래에 좋지 않은 신호로 제시됨
외로움은 극단주의와 혐오를 키우며, 실제 생활에서의 소통을 더 어렵게 만듦
AI와의 가짜 관계에 깊이 빠진 사람은 현실의 파트너십을 형성하는 방법이나, 자신과 다른 필요를 가진 상대에 대한 연민을 배우기 어렵다고 비판됨
AI 챗봇은 사용자의 생각에 영향을 줄 수 있는 자기 의견을 갖지 않고, 사용자의 사고를 이해하지 못하며, 사용자처럼 세계를 경험하며 성장하지도 않음
Pope Leo XIV가 생성형 AI의 이 요소와 다른 중요한 문제들을 비판했다는 점이 AI 문제의 심각성을 강조하는 근거로 제시됨

프로그래밍 학습과 코드 품질 악화

시행착오 기반 학습의 상실
- 과거에는 인터넷 연결 없이 도구를 만들고 문제를 해결하면서 프로그래밍을 배웠고, 이 과정에서 컴퓨터와 기술적 가능성에 대한 감각을 익혔다고 대비됨
- 오늘날 젊은 사람들은 무언가를 작동하게 만들기 위해 직접 파고들어야 하는 환경에 덜 노출되고, 모든 것이 앱과 터치스크린으로 감싸져 있다고 서술됨
- 생성형 AI는 “될 때까지 시도하고 그 과정에서 배우는” 마지막 요소까지 사라지게 만든다고 비판됨
- 해결책을 LLM에 프롬프트로 요청하면 결과가 나오고, 업무 현장에서는 그 결과를 설명하지 못한 채 필요한 위치에 붙여넣는 경우가 관찰됨
- Linux CLI의 tar 플래그를 기억하지 못하는 수준이 아니라, 전체 파이프라인 xargs 명령을 터미널에 복사해 붙여넣고 문제가 없기를 바라는 수준이 문제로 제시됨
- Stack Overflow 조각을 복사하던 과거에도 최소한 퍼즐 조각을 아키텍처에 맞추고 코드를 어느 정도 생각해야 했지만, LLM 이후에는 그 과정이 줄어든다고 대비됨
Vibecoding과 검토 부담
- vibecoder는 필요한 것을 프롬프트로 요청해 LLM이 전체 프로그램을 만들게 하거나 일부를 생성하게 하는 사람으로 묘사됨
- 전체 프로그램을 한 번에 생성하는 방식은 “oneshotting”으로 불리며, 생성된 코드를 읽지 않는 경우도 많음
- LLM을 보조자나 스파링 파트너로만 쓴다는 말과 달리, 실제 전문 환경에서는 코드 읽기보다 저품질 코드 생성이 훨씬 많다고 비판됨
- 코드 읽기는 MR/PR 리뷰 시점에 9001줄짜리 생성 코드가 올라왔을 때야 이뤄지는 경우로 묘사됨
- 작성자는 최소 작업만 하고 리뷰어가 최대 검토 부담을 떠안는 구조가 되며, 필요한 수준의 면밀한 검토를 하지 않을 때만 vibecoding이 더 빠르다고 정리됨
장기적 기술 부채
- 5~10년 뒤 LLM에 의존한 vibecoder들이 많은 코드베이스에 유지보수 불가능하고 잘못 설계된 코드를 남길 것이라는 전망이 제시됨
- 그 시점에는 LLM 없이는 일을 진행하지 못하고, 기술 부채 더미가 너무 커져 LLM도 실패하면 심각한 상황이 된다는 논리임
- 조직에는 vibecoding이 남긴 문제를 정리하는 역할이 새로 생길 수 있다고 전망됨
- 이미 많은 조직의 코드가 엉망이라는 점은 인정되지만, 생성형 AI는 문제의 규모를 지수적으로 악화시킬 것으로 제시됨
코딩 에이전트와 비용 문제
- 코딩 에이전트 발전으로 문제가 개선될 것이라는 낙관론이 있지만, LLM이 계속 나아진다 해도 그것이 싸게 제공될지는 의문으로 남음
- AI 열풍에는 수천억 달러가 들어갔고, 주주들은 언젠가 수익을 원할 것이라고 제시됨
- frontier 모델이 출시 몇 주 뒤 성능이 나빠졌다는 이슈가 제시되며, 가격은 유지되거나 오르는 흐름과 연결됨
개발자 역량과 비결정성
- 생성형 AI가 프로그래밍을 더 좋게 만든다고 보더라도, 사용자가 사고 능력과 기술을 잃으면 고용주가 LLM 제공자에게 구독료를 내는 것과 무엇이 다른지 의문이 제기됨
- AI를 쓰지 않는 사람이 뒤처질 것이라는 AI 열광 커뮤니티의 주장과 반대로, AI를 사용하고 의존하는 사람이 뒤처질 것이라는 입장이 제시됨
- LLM은 같은 프롬프트가 10번 작동해도 11번째에 만족스러운 결과를 보장하지 못하는 비결정적 시스템으로 비판됨
- LLM은 신뢰할 수 있는 소프트웨어가 아니라 미화된 슬롯머신에 가깝다고 정리됨

커뮤니케이션의 저품질화

생성형 AI 사용자는 긴 이메일이나 문서를 더 빠르게 작성할 수 있다고 말하지만, 그 방식은 조직 전체의 속도를 늦추는 이기적 사용으로 비판됨
두 줄이면 충분한 반대 의견을 LLM이 500단어로 부풀리면, 34명이 그 텍스트에서 실제 반대 이유를 추출하느라 여러 사람-시간을 쓰게 된다는 예시가 제시됨
필요한 곳에는 상세한 답변을 직접 쓰되 핵심을 압축해 다른 사람의 시간을 낭비하지 않는 방식과 대비됨
사람들은 서면 커뮤니케이션에 시간을 투자하지 않게 되고, 이메일은 길고 복잡해져 읽는 일 자체가 부담이 됨
LLM으로 생성된 긴 이메일을 다시 LLM에 요약시키는 흐름은 양쪽에 프록시가 있는 네트워크 터널처럼, 프록시 사이의 전송 인코딩이 저품질 텍스트가 되는 구조로 비유됨

추가 피해와 제한적 효용

데이터센터 열풍, GenAI로 인한 하드웨어 가격 상승, DRAM 가격 때문에 실제로 유용한 디지털 제품을 만들기 어려운 기업들, AI로 인한 실직, 저품질 생성기를 학습시키기 위해 가스 발전소를 짓는 환경 문제는 별도 상세 논의 없이도 명백한 문제로 제시됨
LLM이 일부 유용하고 덜 해로운 응용에서 역할을 할 수 있다는 점은 인정됨
번역은 어느 정도 유용할 수 있지만, 섬세한 표현이 중요한 문학은 인간 번역이 더 적합할 수 있다고 제한됨
일부 사람이 실용적으로 여길 주변적 속성이 있다는 이유만으로 Torment Nexus를 발명해서는 안 된다는 비유가 사용됨