Recurse Center에서 한 일들

브루클린의 프로그래밍 리트리트 Recurse Center에서 여름을 보내며, LLM과 에이전트를 익히는 스터디부터 언어 구현, 압축 해제기 개발, 페어 프로그래밍까지 다양한 활동을 진행함 LLM 학습과 실험을 병행하며 에이전트 샌드박스, 소형 언어 모델, 협동 게임 등을 만들고, 에이전트가 독립적으로 처리할 수 있는 작업의 범위를 시험함 미니 언어 dodo의 구현 코드는 직접 작성하고 LLM에는 명세와 테스트를 맡겼으며, DEFLATE 압축 해제기는 명세를 읽으며 Rust로 공동 구현함 바이브 코딩으로 게임과 언어 실험을 진행했지만, 에이전트들의 비슷한 응답, 경직된 게임 캐릭터, 제대로 작동하지 않은 어휘 최적화기 등 한계도 확인함 페어 프로그래밍과 자율 스터디뿐 아니라 3D 프린팅, 펜 플로터, 보드게임, 다른 참가자의 프로젝트 구경까지 프로그래밍을 함께 배우고 탐색하는 경험이 이어짐 자율 스터디와 LLM 실험 친구 Cory의 추천으로 브루클린의 프로그래밍 리트리트 Recurse Center에서 여름을 보냄 스터디 그룹은 누구나 구성하고 일정을 잡을 수 있으며, 매주 금요일 과거 Advent of Code 문제를 함께 푸는 모임도 있음 Agentic Adventures에서는 현대 LLM과 에이전트를 주제로 매주 다른 실험을 진행함 Amanda와 dangerously-skip-permissions를 사용해 실행할 수 있는 바이브 코딩 에이전트용 원격 샌드박스를 구축함 Michelle에게 ollama와 docker를 이용한 로컬 에이전트 샌드박스 환경 구성을 배움 에이전트의 협동을 살펴보기 위해 Just One 게임을 제작함 minGPT로 《로미오와 줄리엣》을 학습한 작은 텍스트 예측 모델을 만들어 셰익스피어 같은 문체를 시도함 기본적인 LoRA 학습으로 소형 모델이 더 대화체에 가깝게 말하도록 훈련함 Practical Deep Learning 스터디에서는 Jeremy Howard와 Sylvain Gugger의 동명 교재 전반부를 공부함 고전적인 머신러닝 접근법에서 출발해 사전 구축 모델의 사용과 수정, 신경망 직접 구성까지 진행함 연구보다는 실무 활용에 초점을 맞춘 입문 과정으로, 모델의 작동 방식과 만들 수 있는 것에 대한 직관을 쌓기에 적합했음 Math Monday와 보드게임 AI 분석 Sophia와 시작한 Math Monday는 수학을 즐겁게 탐색하는 모임으로, 대략 전반부에는 배우고 후반부에는 둘씩 짝...