진짜 유용한 AI 제품을 만드는 4가지 원칙

Granola CEO의 진정으로 유용한 AI 제품을 만드는 방법

• Granola는 화상·대면 회의 음성을 AI가 실시간으로 받아 적고, 배경·참석자·의사결정 맥락까지 고려해 자동 요약 노트를 만들어 주는 스타트업

AI 애플리케이션 창업에 적용할 4가지 원칙

1. 곧 사라질 문제는 건드리지 않는다
   • LLM은 몇 달마다 성능·맥락창이 급격히 확대된다.
   • Granola는 초기 이용자들이 요구하던 “긴 회의 처리” 기능을 뒤로 미루고, 대신 “요약 품질”에 집중했다. 모델이 발전하자 길이 제약은 자연스레 해소됐고, 품질 차별화만 남았다.
2. 높은 한계비용을 기회로 활용한다
   • 최신 모델 호출 비용은 사용자 수에 비례해 커진다. 대기업은 대규모 사용자에게 최상급 모델을 쓸 수 없다.
   • 스타트업은 초기에 소수 고객에게 가장 비싼 모델·다단계 호출을 마음껏 써서 ‘페라리급’ 경험을 제공할 수 있다. 시간이 지나면 모델 단가는 급락해 확장 비용도 따라 내려간다.
3. 컨텍스트(맥락)가 왕이다
   • LLM을 “규칙 기계”가 아닌 “똑똑하지만 정보가 없는 신입 인턴”으로 바라본다.
   • 회의 목적·참석자·프로젝트 배경 같은 맥락을 체계적으로 수집·주입해야 원하는 출력을 얻는다. 모델 성능이 아무리 올라가도 ‘어떤 컨텍스트를 어떻게 넣는가’가 경쟁력의 핵심으로 남는다.
4. 좁고 깊게 파고든다
   • 범용 챗봇과 겨루려면 하나의 아주 구체적인 과업에서 독보적이어야 한다.
   • 차별화는 AI 알고리즘보다 ‘랩핑’(알림 흐름, 회의 참가 자동 인식, 에코 제거 등 세심한 UX)에서 갈린다.
   • 범위가 좁을수록 오류 패턴을 빨리 찾고 완화할 수 있어 ‘불쾌한 골짜기’를 줄인다.
     결론

• 기술 속도는 두 배지만, “사람들이 정말 원하는 것을 만들라”는 제품 개발의 근본 원칙은 변하지 않는다.
• 사라지지 않을 문제, 깊이 있는 사용자 경험, 그리고 맥락 설계에 역량을 집중할 때 진짜 유용한 AI 제품이 탄생한다.