LLM은 사랑하지만 과대광고는 싫다

• LLM, 자율주행차, 영상 생성 모델, 코딩 에이전트는 실제로 유용하고 흥미롭지만, 이를 둘러싼 공포와 종말론적 과대광고에는 동의하지 않음
• 기회의 창이 닫히면 영구적 하층민이 된다는 담론은 사실이라기보다 사람을 불안하게 만들어 San Francisco로 끌어들이는 과대광고에 가까움
• LLM을 고급 자동완성·스마트 컴파일러·향상된 검색엔진에서 우주를 지배할 초지능으로 비약시키는 전망을 거부하며, AI 발전은 특정 집단보다 Moore의 법칙과 컴퓨팅 전반의 진보에서 주로 비롯된다고 봄
• 코딩 에이전트가 프로그래밍 방식을 바꾸고 생산성을 어느 정도 높이지만, 인지 피로를 키울 수 있고 바이브 코딩 결과물에는 여전히 저품질 코드가 많음
• AI는 컴퓨터 혁명의 연속선에 있고 LLM은 find/replace, Stack Overflow, 정규식처럼 개발자를 돕는 도구지만, 그 유용성이 곧 프런티어 AI 연구소의 가치 포획으로 이어지지는 않음

AI의 진보와 과대광고 사이

• 2007~2014년 해킹에 집중한 뒤 경력 전체를 AI에 투자했으며, 새로운 LLM, 자율주행차, 영상 생성 모델, 코딩 에이전트의 발전을 반김
• 로컬 GLM-5.2에서 opencode를 실행하고 install tmux with the geohot configuration이라고 지시하자 설치가 작동했으며, 이를 Linux 데스크톱의 해가 마침내 온 사례로 받아들임
• 반대하는 과대광고는 두 갈래로 나뉨
  • 기회의 창이 닫혀 영구적 하층민이 되거나 회복할 수 없을 만큼 뒤처진다는 담론은 사람을 불안하게 만드는 부정적 과대광고임
  • 고급 자동완성·스마트 컴파일러·향상된 검색엔진에서 모든 것이 갑자기 바뀌는 초지능 시나리오로 넘어가는 논리는 허수아비식 비약이며, 그런 사건은 일어나지 않을 것이라고 단언함
• 2016년 초지능 발표와 기계가 세계를 장악하는 1991년 영화 Terminator 2는 이런 발상이 최근 특정 집단이 새로 만들어낸 것이 아님을 보여줌
• AI가 막대한 가치를 만들 가능성은 인정하지만, 프런티어 연구소의 기업가치를 정당화할 만큼 그 가치를 연구소가 직접 포획하지는 못할 것이라고 봄
• 오픈소스를 반대하는 논리의 핵심에는 안전이나 중국 문제가 아니라 범용재화화에 대한 두려움이 있다고 판단함
  • AI 발전은 특정 연구소보다 Moore의 법칙과 컴퓨팅 전반의 진보에서 주로 비롯됨
  • 이 사실이 알려지면 투자자가 수십억 달러를 제공하지 않을 수 있으므로, 연구소에는 이를 감출 강한 유인이 있다고 봄

코딩 에이전트가 주는 생산성의 실체

• 과거 The Eternal Sloptember에서 모델의 프로그래밍 능력을 지나치게 가혹하게 평가했을 수 있으며, 이제는 프로그래밍 방식 자체가 변하고 있음을 인정함
• Linus Torvalds의 발언은 에이전트가 프로그래밍 생산성을 10배, 컴파일러가 1,000배 높인다고 비교함
  • 10배와 1,000배는 모두 극단적인 추정치로 봄
  • 모델 활용 능력이 나아지면서 실제로 어느 정도 생산성 향상을 얻고 있다고 확신함
  • 모델 활용은 별도로 익혀야 하는 새로운 기술이며, 이전부터 다양한 모델을 계속 시험해 왔음
• 코딩 에이전트에는 분명한 제약도 남아 있음
  • 모델은 인지 피로를 증가시킬 수 있어 세심하게 사용해야 함
  • 바이브 코딩 결과물은 여전히 저품질이며, 주장되는 생산성 향상에 상응하는 새로운 소프트웨어가 실제로 어디에 있는지도 불분명함
• 그럼에도 모델은 find/replace, Stack Overflow, 정규식처럼 개발을 보조하는 유용한 도구이며, AI 역시 컴퓨터 혁명의 연속선에 놓여 있음