LLM 시대의 확장 가능한 소프트웨어

LLM의 확장 코드 작성 능력과 현대적인 샌드박스를 결합하면, 웹 앱의 안정적인 코어를 유지하면서 사용자별 요구를 확장 기능으로 채우는 새로운 기회가 생길 수 있음 모든 기능을 제품에 넣으면 UI 복잡성이 커지지만, 사용자가 필요한 확장을 만들고 공유하는 방식은 코어를 비대하게 만들지 않고 롱테일 수요를 수용할 수 있음 웹에서 사용자 코드를 실행하려면 저렴한 실행 비용, 빠른 콜드 스타트뿐 아니라 자원 제한, 테넌트 격리, 데이터 유출 방지가 필요함 안전한 확장은 광범위한 API 접근을 허용한 뒤 차단하기보다, 승인된 동작만 수행하는 좁은 권한 객체(capability) 를 전달하는 방식이 적합함 Salesforce는 2007년부터 앱 이벤트에 맞춰 고객별 코드를 실행해 왔음. 지금은 V8 isolates, microVM, WASM 등 선택지가 늘었지만, 확장 API를 설계하고 장기간 지원하는 일은 여전히 어려움 고정된 제품에서 사용자가 확장하는 소프트웨어로 대부분의 웹 소프트웨어는 개발자의 제한된 시간과 관심을 가장 많은 사용자가 원하는 기능에 집중하며, 사용자마다 다른 롱테일 요구는 충족하지 못함 모든 기능을 추가하는 것도 해결책은 아님. 기능이 늘수록 UI가 복잡해지고, 소수만 원하는 기능은 나머지 사용자에게 제품을 더 나쁘게 만들 수 있음 LLM은 기업용 소프트웨어의 복잡성과 책임 부담을 피하면서 개인의 작업 흐름에 맞추는 Software for One을 만드는 데 뛰어남 Y Combinator의 Pete Koomen이 주목하는 Small Software도 비슷한 기회임 에이전트로 개인이나 팀의 도구를 만드는 일보다 배포, 보안, 공유가 여전히 훨씬 복잡함 작은 소프트웨어에 맞춘 클라우드는 이 복잡성을 없애고, 맞춤 도구를 Google Doc처럼 쉽게 공유하도록 만들 수 있음 Pi는 검증된 코어를 갖추면서 요청만으로 거의 끝없이 확장하고, 사용자끼리 확장을 공유하는 LLM 네이티브 소프트웨어의 사례임 사용자는 지난 1년 사이 말로 코드를 만들어내는 능력을 얻었지만, 기존 소프트웨어 대부분은 이를 활용하지 못함 현재 플러그인 모델의 대표 사례는 AI 에이전트, IDE, 게임 모드, Blender 애드온, CAD 확장처럼 진입 장벽이 높은 로컬 도구에 치우쳐 있음 웹은 가장 성공적인 소프트웨어 배포 체계임. LLM이 확장 작성 비용을 낮추고 샌드박스가 배포 비용과 보안 경계 문제를 다룬다면, 코어가 기본 책...