Jev 사용 후기

동료분의 초대를 받아 Jev를 직접 써봤습니다. 처음에는 “빠르고 저렴한 LLM이 나왔나 보다” 정도로 생각했는데, 몇 가지 사례를 따라가고 직접 호출해보니 조금 다르게 보이더라고요.

Jev는 긴 답변을 만들어주는 모델이라기보다, 소프트웨어가 다음 행동을 선택할 수 있도록 판단을 반환하는 모델에 가까웠습니다. 예·아니오, 여러 선택지, 점수처럼 결과의 형태가 정해져 있고, 판단의 확률과 confidence도 함께 다룹니다.

가장 인상적이었던 건 비용이었어요. 지금까지는 AI를 업무 흐름에 넣을 때 호출 비용과 응답 시간을 먼저 걱정하곤 했는데, Jev를 보면서는 “이 정도 판단이라면 반복해서 넣어볼 수 있겠다”는 생각이 들었습니다.