에이전트에게 필요한 것은 메모리가 아니라 문서다

2 hours ago 1

에이전트가 프로젝트를 이해하려면 과거 대화 조각을 검색하는 메모리보다 프로젝트 문서가 필요함. 기능의 위치, 구현 이유, 합의 사항, 중요하게 여기는 기준을 함께 파악할 수 있어야 함 대화를 조각내 저장하고 프롬프트마다 유사한 항목을 주입하는 RAG 기반 메모리는 정보의 정확성, 최신성, 누락 여부를 보장하지 못함 검색 도구를 추가해도 에이전트는 자신이 무엇을 모르는지 알 수 없으며, 방대한 임베딩 저장소에서는 오래되거나 잘못된 정보가 동작에 영향을 주는지 점검하기 어려움 AGENTS.md 하나를 넘어 지침, 명세, 결정 사항, 조사 결과, 색인을 담는 구조화된 문서 작업 공간이 필요함 작업 흐름을 프롬프트 → 참조 → 구현 → 갱신으로 바꾸면, 전체 맥락이 남아 있을 때 문서를 최신화하고 사람이 읽고 수정하고 공유할 수 있는 지식으로 유지할 수 있음 대화 검색과 프로젝트 이해의 차이 메모리 플러그인은 대화를 분석해 1,000개의 독립적인 조각을 벡터 데이터베이스에 넣고, 매 프롬프트에 가장 유사한 5개를 붙이는 방식으로 작동함 에이전트가 혼란스러워하면 검색 도구로 추가 정보를 찾음 그러나 필요한 것은 대화 조각의 유사성이 아니라 기능의 위치, 구현 이유, 합의 사항, 사용자 우선순위에 대한 이해임 RAG 검색이 제대로 작동하더라도, 검색된 조각만으로 프로젝트 전체를 이해할 수 있는 것은 아님 복잡한 기능을 더해도 유지되는 RAG 구조 메모리 플러그인의 기본 구조는 세션 기록 분석 → 메모리 조각 생성 → RAG 데이터베이스 저장 → 상위 5개 검색 및 주입으로 이어짐 추가 정보가 필요하면 에이전트가 데이터베이스를 검색함 일부 도구는 과거 대화 원문 검색이나 단기/장기 메모리 분류를 추가함 백그라운드 데몬이 메모리를 검토, 병합, 중복 제거하기도 함 밤새 메모리를 다시 쓰는 ‘Dreamers’, 지속적인 컨텍스트 압축, 재순위화 도구도 사용함 이런 부가 기능은 토큰을 더 소비하지만, 과거 조각을 저장하고 검색하는 기본 구조의 문제를 해결하지 못함 회상 기반 메모리의 다섯 가지 문제 유사성은 정확성이 아님: 임베딩 공간에서 두 조각이 얼마나 가까운지만으로 순위를 정하므로, 어느 정보가 맞고 최신인지, 무엇이 빠졌는지 알 수 없음 맥락이 잘려 나감: 제한된 크기의 RAG 조각에는 주변 맥락, 동기, 교훈, 환경을 모두 담을 수 없음 과거를 사실로 취급함: 코드베이스는 매일 바뀌는데, 과거 대화나 벡터 데이터베이스의...

Read Entire Article