12-팩터 에이전트: 신뢰할 수 있는 LLM 애플리케이션 패턴

• 12 Factor Agents는 신뢰할 수 있는 LLM 애플리케이션을 구축하기 위한 원칙을 제시함
• AI 에이전트 프레임워크를 사용해본 경험을 바탕으로, 대부분의 제품이 진정한 에이전트가 아님을 발견함
• 12 Factor Agents는 LLM 기반 소프트웨어를 고객에게 제공할 수 있을 만큼 충분히 좋은 수준으로 만드는 방법을 탐구함
• 12가지 요인은 LLM 소프트웨어의 신뢰성, 확장성, 유지보수성을 향상시키는 핵심 기술을 포함함
• 모듈식 개념을 기존 제품에 통합하는 것이 고품질 AI 소프트웨어를 빠르게 제공하는 방법임

12 Factor Agents - 신뢰할 수 있는 LLM 애플리케이션 구축 원칙

• AI 에이전트 프레임워크를 사용해본 경험을 바탕으로, 대부분의 제품이 진정한 에이전트가 아님을 발견함
• 12 Factor Agents는 LLM 기반 소프트웨어를 고객에게 제공할 수 있을 만큼 충분히 좋은 수준으로 만드는 방법을 탐구함
• 12가지 요인은 LLM 소프트웨어의 신뢰성, 확장성, 유지보수성을 향상시키는 핵심 기술을 포함함
• 모듈식 개념을 기존 제품에 통합하는 것이 고품질 AI 소프트웨어를 빠르게 제공하는 방법임

요약: 12가지 요인

• 자연어를 도구 호출로 변환: 자연어를 사용하여 도구를 호출하는 방법을 이해함
• 프롬프트 소유: 프롬프트를 소유하고 관리하는 것이 중요함
• 컨텍스트 윈도우 소유: 컨텍스트 윈도우를 소유하고 관리하는 것이 중요함
• 도구는 구조화된 출력: 도구는 구조화된 출력으로 간주해야 함
• 실행 상태와 비즈니스 상태 통합: 실행 상태와 비즈니스 상태를 통합하여 관리함

에이전트의 약속

• DAG(Directed Acyclic Graph): 소프트웨어는 방향성 그래프로 표현될 수 있으며, DAG 오케스트레이터가 인기를 끌었음
• 에이전트의 약속: 에이전트를 사용하면 DAG를 버리고 LLM이 실시간으로 경로를 결정하도록 할 수 있음
• 에이전트는 루프로 작동: 에이전트는 LLM이 다음 단계를 결정하고, 도구 호출을 실행하며, 결과를 컨텍스트 윈도우에 추가하는 루프로 작동함

왜 12-factor agents인가?

• 기존 프레임워크의 한계: 많은 SaaS 빌더들이 에이전트를 구축하려고 하지만, 기존 프레임워크의 한계로 인해 80% 이상의 품질을 달성하기 어려움
• 모듈식 개념의 중요성: 모듈식 개념을 기존 제품에 통합하는 것이 고품질 AI 소프트웨어를 빠르게 제공하는 방법임

훌륭한 LLM 애플리케이션을 위한 디자인 패턴

• 에이전트의 핵심 요소: 에이전트를 훌륭하게 만드는 핵심 요소가 존재하며, 프레임워크를 사용하면 대부분의 요소를 얻을 수 있음
• 모듈식 개념의 통합: 모듈식 개념을 기존 제품에 통합하는 것이 고품질 AI 소프트웨어를 빠르게 제공하는 방법임

관련 리소스

• Tool Use 팟캐스트: 2025년 3월 에피소드에서 관련 내용을 다룸
• The Outer Loop: 관련 내용을 다루는 블로그
• 웹 세미나: @hellovai와 함께 LLM 성능 극대화에 대한 웹 세미나 진행
• 오픈 소스 에이전트: 이 방법론을 사용하여 OSS 에이전트를 구축함