Mercury 3 - 대규모로 확장한 확산 기반 LLM

2 hours ago 1

Inception이 확산 기반 LLM Mercury 3를 공개함. 회사 벤치마크 기준 GPT-6 Luna와 Claude Haiku 5.5를 여러 평가에서 앞서며, 초당 1,000토큰 이상으로 4~8배 빠르게 실행됨 총 파라미터 수는 Mercury 1 대비 40배 이상 늘었지만 속도는 유지됨. Inception 평가에서 표준 벤치마크 전반의 지능 지표는 Mercury 1(mini) 대비 3배 높아짐 컨텍스트는 100만 토큰으로 Mercury 2.5의 26만 토큰에서 확대됨. 정가는 100만 토큰당 입력 0.20달러, 출력 0.70달러이며 출시 시점에는 50% 할인을 적용함 사전 접근 파트너들이 브라우저 에이전트, 실시간 교육, 검색, 고객 지원에 사용 중임. 파트너 테스트에서는 웹 탐색 과제 완료율 50%, 교육 피드백 약 1초, 전체 검색 응답 시간 중앙값 2.2초를 기록함 Inception API Platform, OpenRouter, Baseten, Vercel에서 사용할 수 있으며 OpenAI API와 호환됨. 기업용 배포는 전용 용량, 자동 확장, 컴플라이언스 제어, 데이터 보존 기간 설정을 지원함 확산 LLM의 규모와 성능 확장 Mercury 1은 상업용 애플리케이션에 확산 LLM을 적용할 수 있음을 보여줬지만, 복잡한 용도에서도 자기회귀 모델과 경쟁하도록 확장할 수 있는지는 남은 과제였음 Mercury 3는 총 파라미터 수를 Mercury 1 대비 40배 이상 늘리고도 속도를 유지함 Inception의 표준 벤치마크 평가에서 지능 지표는 Mercury 1(mini) 대비 3배 높아짐 Inception은 이 결과를 근거로 자기회귀 모델의 발전을 이끈 스케일링 법칙이 확산 모델에도 적용된다고 판단함 회사 평가 기준 품질은 GPT-6 Luna, Claude Haiku 5.5 같은 속도 최적화 프런티어 모델과 동등하거나 더 높음 여러 벤치마크에서 두 모델을 앞서며 실행 속도는 4~8배 빠름 NVIDIA GPU에서 생성 속도는 초당 1,068토큰임 컨텍스트와 가격 컨텍스트 길이는 Mercury 2.5의 26만 토큰에서 100만 토큰으로 늘어남 정가는 100만 토큰당 입력 0.20달러, 출력 0.70달러임 출시 시점에는 50% 할인해 입력 0.10달러, 출력 0.35달러를 적용함 캐시된 토큰은 입력 가격 대비 90% 할인됨 브라우저 에이전트와 대화형 교육 브라우저 에이전트는 매 단계 모델 응답을 기다리므로 작은...

Read Entire Article




피플앤툴즈 네트워크
🛍 샵