Show GN: AutoRAG Agent - 컴퓨터에 있는 모든 것을 검색해주는 에이전트 (파일, 메신저 대화 기록, 이메일, 노션...

4 hours ago 5

AutoRAG는 RAG 자동 최적화 프레임워크였으나, 에이전트 시대 고정된 하나의 RAG 파이프라인을 찾는 것보다는 진정한 RAG 에이전트 구축에 필요성을 느낌
이에 AutoRAG 팀과 RAG 전문회사 브레인크루, 투이컨설팅이 컨소시엄을 이루어 'AutoRAG Agent'를 개발함
AutoRAG Agent는 사용자의 컴퓨터에 있는 거의 모든 정보들에서 질문과 관련있는 내용을 검색하고 답변을 내주는 것에 특화된 에이전트
로컬 문서 파일 뿐 아니라 디스코드, 슬랙, 텔레그램 등의 메신저 대화 기록, 이메일, 노션, 옵시디언, 이미지 등도 검색 가능
클로드 코드, 코덱스 등 다른 에이전트에 연결하여 탐색용 서브 에이전트로도 활용 가능

AutoRAG Agent는 데이터를 한 곳에 모으지 않음
- 통상적으로 RAG는 한 곳에 수많은 데이터들을 모으지만, 이는 데이터 최신화, 유지보수, 권한 문제 등을 야기함
- LLM의 탐색과 툴 콜링 능력의 발전으로 데이터를 모으지 않고, 분산되어 인덱싱 해두고 에이전트가 직접 각각의 데이터 소스에서 검색하도록 설계함
- 즉, 하나의 벡터 DB가 아닌 여러 개가 존재하며, 에이전트가 능동적으로 필요한 정보를 탐색함

큰 사전지식 없이 사용할 수 있도록 만들어짐
- 제대로 된 로컬 RAG를 구축하기 위해서는 많은 사전 지식과 공부가 필요함
- 상기한 분산형 구조를 통해 기본적인 검색 성능을 높이고, 임베딩 모델이나 토크나이저 등의 기본 설정을 내장하여 유저의 설정 필요성을 최대한 줄임
- 기본적으로 증분 인덱싱과 키워드 기반 및 의미 기반 검색을 모두 지원함
- Qwen Embedding 0.6B 모델을 임베딩 모델로 사용하여, LLM을 제외하면 API 발급 등을 최소화

일단 빠른 응답을 내놓도록 설계됨
- 기존 코딩 에이전트는 long-running 하도록 설계되어 간단한 질의에도 한참 파일 등을 탐색함
- AutoRAG Agent는 질문을 받는 즉시 검색을 수행, 정보가 충분하지 않아도 빠른 응답을 반환함
- 이후 충분한 시간을 거쳐 더 많은 정보를 탐색하고 정확한 답변을 제공함
- 간단한 질문이라면 기다릴 필요 없이 곧바로 답변을 확인하고 이용 가능

현재는 CLI 및 간단한 TUI를 통해 이용 가능
맥 OS에 최적화되어 있으며, 리눅스와 윈도우도 지원
빠른 시일 내로 간편한 사용을 위한 GUI 버전을 추가할 예정

Read Entire Article