정부·기업·비영리단체가 자유·오픈소스 AI에 투자해야 하는 이유

• 소프트웨어는 상업 자산인 동시에 공유할수록 발전하는 지식 체계이며, GCC와 GNU/Linux가 보여주듯 오픈소스는 현대 인터넷과 기술 산업을 지탱하는 기반이 됨
• 코드를 공개하면 전 세계 개발자가 결함을 찾아 고칠 수 있고 차세대 엔지니어가 최첨단 시스템의 구축법을 배울 수 있어, 투명성이 보안과 인재 양성 모두에 기여함
• 최첨단 AI가 소수 기업의 폐쇄형 모델에 집중되면 연구자가 구축 과정과 학습 데이터를 확인하기 어려워지고, AI에 의존하는 과학·의료·공학·사법 판단도 온전히 감사하기 어려워짐
• AI 소프트웨어 자체가 곧 능력이므로 공개에 따른 위험은 존재하지만, 폐쇄형 모델 역시 유출과 탈옥에 취약하고 소수 기업이 허용할 기술을 결정하는 권력 집중까지 초래함
• 모든 오픈소스 AI가 최첨단 모델의 규모를 따라갈 필요는 없으며, 정부·기업·비영리단체는 공공 컴퓨팅 지원, 대학·비영리 연구 후원, 공공 자금으로 만든 AI의 기본 공개 원칙에 투자해야 함

자유 소프트웨어를 둘러싼 논쟁

• 1980년대 MIT AI Lab에서 Richard Stallman과 약 2년간 논쟁할 당시에는 소프트웨어 발전에 기업의 독점적인 코드 통제가 필요하다는 통념을 따랐음
• Stallman은 소프트웨어가 지식을 담는 매체이므로 누구나 사용하고 학습하고 개선할 수 있어야 하며, 기업 내부에 코드를 숨기는 것은 지식 자체를 감추는 일이라고 봤음
• 양측 모두 컴퓨터가 인간 발전을 가속하는 핵심 수단이 된다는 데 동의했지만, 그 목표에 도달하는 방법에서는 갈렸음
• 논쟁을 거치며 소프트웨어는 단순한 상업 자산이 아니라, 공유될 때 강해지는 지식 체계라는 생각이 설득력을 얻음
• 사용자가 소프트웨어를 연구·변경·개선·공유할 자유를 보장해야 한다는 Stallman의 원칙은 자유 소프트웨어 운동과 이후 오픈소스의 토대가 됨

GCC와 GNU/Linux가 입증한 공개 개발

• Stallman이 만든 GCC는 세계의 코드를 컴퓨터가 실행하는 기계어로 변환하며, 현재까지 사용되는 핵심 프로그램으로 자리 잡음
  • 이러한 성공은 개인의 작업만이 아니라 수천 명의 기여를 통해 가능해짐
• 같은 공개 개발 정신에서 나온 GNU/Linux는 현재 인터넷 대부분을 구동함
• 현대 기술 환경은 공개 개발 원칙과 오픈소스에 크게 의존하고 있음

개방성이 보안과 학습에 미친 효과

• 초기에는 컴퓨터를 안전하게 보호하려면 소프트웨어를 숨겨야 한다는 은닉에 의한 보안 논리가 주요 반론이었음
• 투명한 소프트웨어는 전 세계 개발자 공동체가 문제를 발견하고 수정할 수 있지만, 폐쇄형 소프트웨어는 아무도 내부를 충분히 깊게 들여다보지 않기를 기대해야 함
• 오픈소스 공동체는 구축 방법에 관한 지식을 널리 퍼뜨리며, 한 세대의 엔지니어가 학습하는 사실상의 교과서 역할도 수행함
• 최첨단 시스템이 모두 감춰지면 잠긴 시스템에서 배울 수 있는 것이 거의 없어 차세대 혁신가를 훈련하기 어려움

기술 산업을 떠받친 오픈소스 생태계

• 수십 년간의 기술 발전은 민간기업과 대학, 수만 명의 자원봉사자가 공유 소프트웨어 기반에 기여하는 섬세한 생태계에서 나왔음
• 세계적으로 성공한 여러 기업은 공개된 핵심 기술 위에 서비스를 구축해 수익을 창출함
• 독점 소프트웨어에도 역할이 있지만, 오픈소스는 현대 기술 산업의 하중을 받쳐온 기반이므로 약화되지 않도록 해야 함

초기 단계부터 폐쇄되는 AI

• AI 역시 소프트웨어지만 가장 발전한 최첨단 모델은 완전히 폐쇄돼 있으며, 폐쇄 속도도 빨라지고 있음
• 실질적으로 사용할 수 있는 공개 대안은 드물고, 현재 모델은 뛰어나지만 아직 미완성이며 구축 방법도 확립되지 않았음
• 가장 깊은 돌파구가 앞으로 남아 있는 초기 과학 분야를 지금 폐쇄하면 발전에 필요한 공유 지식이 사라질 수 있음
• 대학 과학은 연구 결과를 공개하고 전 세계가 후속 연구를 수행하는 방식으로 발전해 왔음
• 미래 과학 대부분이 AI에 의존한다면, AI를 소수 기업 내부에 가두는 일이 과학 발전까지 제한할 위험이 있음

미래의 도서관을 누가 통제하는가

• 도서관은 누구나 인류가 축적한 지식을 무료로 이용할 수 있는 공유 자원임
• 소수 기업이 모든 도서관을 사들여 읽을 수 있는 책을 결정하고 내용을 조용히 고친다면 용납하기 어려움
  • 폐쇄형 AI 역시 소유자가 정한 조건으로만 접근할 수 있는 미래의 도서관과 같음
• 소수 기업이 모델의 허용 범위를 정하거나 답변 도출 방식을 조정하면, 모델에 의존하는 사람은 결과를 완전히 이해할 수 없게 됨
  • 진단에 모델을 사용하는 의사
  • 설계를 맡기는 엔지니어
  • 판단에 참고하는 판사
  • 무엇을 믿어야 할지 묻는 일반 사용자 모두가 같은 문제에 놓임

모델의 설명은 감사 기록이 아님

• 모델이 이유를 말할 수 있더라도 설명과 감사(audit) 는 같지 않음
• 모델이 내놓는 이유는 답을 만든 실제 계산의 충실한 기록이 아니라, 결과가 나온 뒤 조립된 그럴듯한 이야기임
• 같은 질문을 다음 해에 했을 때 답이 달라져도 현실이 바뀐 것인지, 공급자가 모델을 바꾼 것인지 확인할 방법이 없을 수 있음
• 이런 시스템에 의존하는 사용자는 이해할 수 있는 도구를 활용하는 대신, 내부를 조사할 수 없는 신탁 같은 시스템을 믿게 됨

공개 AI와 폐쇄 AI가 만드는 위험

• AI는 공개하기에 너무 위험하다는 반론은 진지하게 검토할 가치가 있음
• 연구 논문은 능력을 기술하지만 기반 AI 소프트웨어는 그 자체가 능력이므로, 일반 연구 공개와 AI 공개 사이에는 실제 비대칭이 존재함
• 그렇다고 폐쇄가 필연적인 해답은 아님
  • 과학적 발견도 악용될 수 있지만, 물리학 전체를 기밀화하는 대신 감시와 규칙을 적용하면서 기반 지식은 공개함
  • 폐쇄형 모델도 유출되거나 탈옥될 수 있어 단지 폐쇄됐다는 이유만으로 안전하지 않음
• 소수 기업이 나머지 사회가 무엇을 구축할 수 있는지 결정하는 권력 집중도 별도의 위험을 만듦
• 판단의 기준은 공개 모델에 위험이 전혀 있는지가 아니라, 이미 이용 가능한 능력보다 의미 있는 추가 위험을 만드는지 여부임

실행 코드와 구축 코드의 차이

• 모델 뒤에는 모델을 실행하는 코드와 모델을 만든 코드라는 두 종류의 코드가 있음
• 모델을 직접 실행할 수 있는 것도 유용하지만, 투명성을 위해 더 중요한 것은 모델을 어떻게 만들었는지 보여주는 구축 코드와 학습 데이터임
• 현재 공개 모델로 불리는 중국 주요 연구소와 일부 미국 기업의 모델은 실행 코드를 제공하지만, 구축 코드와 학습 데이터는 공개하지 않음
• 사용자가 받는 것은 지능을 만들어 내지만 형성 과정을 알 수 없는 거대한 숫자 집합으로, 실행할 수 있어도 설명할 수 없는 마법의 숫자에 가까움
• 실행 코드 공개조차 지속적인 약속이 아니라 기업의 재량에 따른 호의이며, 향후 가장 강력한 모델도 계속 공개하리라는 보장은 없음
• 언제든 중단할 수 있는 개방성은 기반이 될 수 없으므로 두 가지가 모두 필요함
  • 누구나 사용하고 확장할 수 있는 공개 모델
  • 누구나 제작 과정을 확인할 수 있는 공개 소스·학습 데이터

공공재로서의 오픈소스 AI 투자

• AI 기업의 존재나 민간 AI 자체를 반대하는 것이 아니라, 폐쇄형 민간 AI가 유일한 선택지가 되어서는 안 됨
• 미국의 민간 AI는 충분한 지원을 받고 있지만, 오픈소스 AI는 옹호 기반이 약해 정책과 투자에서 쉽게 빠질 수 있음
• 최첨단 모델은 계속 커지고 비용도 늘어날 수 있어, 해당 규모의 경쟁은 거대 기업의 영역으로 남을 수 있음
• 오픈소스 AI가 유용하려면 반드시 최첨단 모델과 같은 규모여야 하는 것은 아니며, 세계가 필요로 하는 많은 작업에는 절대적인 최첨단 성능이 필요하지 않을 수 있음
• 신뢰할 만한 공개 대안을 유지하는 데 대규모 컴퓨팅 자원이 필요하다면, 이는 비용을 지불할 가치가 있는 공공재임
• 정부·민간 부문·비영리단체가 자유·오픈소스 AI에 적극적으로 투자해야 함
  • 공개 연구를 위한 공공 컴퓨팅 보조금 제공
  • 관련 연구를 수행하는 대학과 비영리단체에 기업·자선 자금 지원
  • 공공 자금으로 구축한 AI는 기본적으로 공개한다는 원칙 도입
• 오픈소스 소프트웨어에 투자해 기술 발전을 이끈 방식을 AI에서도 이어가야 함