이제 샘 알트먼의 말을 그대로 믿지 말아야 할 시점입니다

• OpenAI는 이번 주 66억 달러의 신규 자금을 조달했으며 회사 전체 가치는 1,570억 달러에 달함
• 이는 연간 70억 달러 이상의 현금을 소비하는 조직으로서는 대단한 성과임
• OpenAI의 주요 제품은 기술이 아니라 이야기임

Sam Altman CEO이 게시한 온라인 선언문 "The Intelligence Age"

• AI 혁명이 무한한 번영을 가져오고 인간의 삶을 획기적으로 개선할 것이라고 선언함
• AI가 기후 문제를 해결하고, 우주 식민지 설립을 돕고, 모든 물리학을 발견할 것으로 기대함
• 몇 천 일 안에 전능한 초지능을 갖게 될 수 있다고 예측함
• 이를 위해서는 충분한 에너지, 데이터, 칩을 제공하기만 하면 된다고 함

실리콘 밸리의 신화 만들기

• 언젠가는 AI에 대한 알트만의 아이디어가 증명될 수도 있지만, 현재로서는 그의 접근 방식은 교과서적인 실리콘 밸리의 신화 만들기임
• 인류는 항상 사회를 더 나은 방향으로 변화시킬 기술적 돌파구 직전에 있음
• 어려운 기술적 문제는 기본적으로 해결되었으며, 나머지는 시장 경쟁과 기업가 정신을 통해 해결될 것임
• "지금 수십억 달러를 쓰면 나중에 수조 달러를 벌 수 있음"
  • 이는 1990년대 닷컴 붐, 2000년대 나노기술, 2010년대 암호화폐와 로봇 공학의 이야기였음
• 이러한 기술들은 약속한 대로 작동하지 않았지만, 기업가, 엔지니어, 투자자들은 제국을 건설하는 동안 규제 당국과 일반 대중을 제쳐두었음

현재 OpenAI 제품의 한계

• ChatGPT와 DALL-E는 2022년에는 최첨단 기술이었지만 지금은 평범하고 버그가 많은 현재의 기술처럼 느껴짐
• GPT-4는 이제 전능한 초지능의 전조가 아니라 그냥 또 다른 챗봇처럼 보임
• LLM으로 이메일이나 이야기를 작성할 수 있지만 특별히 독창적이지는 않음
• 도구는 여전히 환각(거짓 정보를 자신있게 주장함)을 일으키고 당혹스럽고 예기치 않은 방식으로 실패함

"AI 슬롭" 웹 콘텐츠의 확산

• LLM으로 생성된 쓰레기가 거의 무료로 생산되고 제작자에게 광고 수익을 발생시킴
• 모두가 예상했고 아무도 행복하지 않은 바닥을 향한 경쟁이 일어나고 있음
• 한편 부풀려진 기술 회사 가치를 정당화할 만한 규모의 제품-시장 적합성을 찾는 노력은 계속 부족함
• Altman조차도 OpenAI의 최신 제품 o1이 처음 사용할 때는 인상적이지만 더 많은 시간을 보내면 그렇지 않다고 인정함

Altman의 주장에 대한 회의론

• 많은 컴퓨터 과학자들은 우리와 AGI 사이에 여러 중요한 과학적 돌파구가 있다고 주장함
• Altman은 자신의 회사가 모든 것을 잘 처리하고 있으며 공상 과학 소설이 곧 현실이 될 것이라고 자신감을 내비침
• 최종 비전을 실현하기 위해서는 7조 달러 정도가 필요할 수 있지만, 그가 약속하는 모든 진보에 비하면 그것은 아무것도 아님
• Altman은 물리학자가 아니라 연쇄 기업가이며 실리콘밸리에서 가장 존경받는 인재 스카우터 중 한 명임
• 그의 획기적인 성공은 주로 초기 스타트업을 투자자 현금과 연결하는 것과 관련이 있지 특정 기술 혁신과는 관련이 없음

기술 낙관주의자들의 수사학

• 알트먼의 주장이 동료 억만장자 테크노 낙관주의자들의 주장과 얼마나 유사한지 놀라울 정도임
• 기술 진보를 믿고 발명가와 투자자를 귀찮은 규제로부터 자유롭게 하면 시장이 마법을 발휘하고 모두가 더 나아질 것이라고 주장함
• Altman은 AI에 책임 있는 규제가 필요하다고 주장하지만, 회사의 규제 대응은 "아니오, 그렇게 하면 안 됩니다"인 것 같음
• 지금은 규제 명확성을 달라고 요구하지만 실제로는 당장 규제를 원하지 않음

현재 AI 기술의 문제점에 주목해야 함

• AI가 어린이를 괴롭히고 착취하는 데 사용되는 방식에 초점을 맞추기보다 AI가 삶을 더 편하게 만드는 방법을 상상하는 것이 더 즐거움
• 기후 변화로 인한 문제를 해결하는 자비로운 미래 AI를 상상하는 것이 오늘날 실제로 존재하는 AI의 막대한 에너지와 물 소비에 대해 생각하는 것보다 훨씬 더 즐거움
• 이러한 기술들은 이미 실적이 있음. 세계는 그것들의 잠재력뿐만 아니라 결과와 영향을 기반으로 그것들과 그것들을 만드는 사람들을 평가할 수 있고 그래야 함

GN⁺의 의견

• AI 기술의 발전은 인상적이지만, 그 잠재력에 대한 과장된 주장과 현실 사이에는 큰 괴리가 있음
• 기술 혁신만으로는 사회 문제를 해결할 수 없으며, 책임감 있는 규제와 윤리적 고려가 필요함
• 기술 낙관주의자들은 미래에 대한 장밋빛 전망을 제시하지만, 현재의 문제점을 간과해서는 안 됨
• 사회는 기술의 결과와 영향을 면밀히 평가하고, 기술 기업들에 대해 비판적 시각을 가져야 함
• AI 기술을 사회에 도입할 때는 그 장단점을 신중히 고려하고, 투명성과 책임성을 확보하는 것이 중요함
• Anthropic의 Claude나 DeepMind의 Chinchilla 등 OpenAI의 경쟁 제품들도 LLM 기술의 한계를 보여줌