DeepSeek V4.1 Flash 1017 (Max) - 100만 토큰 문맥을 지원하는 오픈 가중치 추론 모델

2 hours ago 3

DeepSeek V4.1 Flash 1017 (Max) 는 텍스트와 이미지를 입력받고 텍스트를 출력하는 추론 모델로, 100만 토큰 문맥 창과 공개 가중치를 제공함 Artificial Analysis Intelligence Index에서 45점을 기록해, 비슷한 크기의 오픈 가중치 모델 중앙값인 19점을 크게 웃돎 DeepSeek API 기준 출력 속도는 초당 230.4토큰, 첫 토큰 도착 시간은 1.08초로, 비교 대상 중앙값인 초당 77.9토큰과 1.69초보다 빠름 API 가격은 100만 입력 토큰당 0.30달러, 출력 토큰당 1.20달러이며, Intelligence Index 평가의 과제당 가중평균 비용은 0.26달러임 평가 과정에서 2억 1,000만 출력 토큰을 생성해 비교 대상 중앙값인 1억 4,000만 토큰보다 출력량이 많았으며, 빠른 생성 속도와 별개로 토큰 사용량이 큰 모델임 모델 구조와 사용 범위 DeepSeek가 개발한 추론 모델로, 복잡한 문제에 답하기 전에 확장된 사고 또는 사고 사슬 추론을 사용함 텍스트와 이미지 입력, 텍스트 출력을 지원하며, 이미지 분석과 묘사, 이미지에 관한 질의응답이 가능함 문맥 창은 100만 토큰으로, 입력과 출력을 합친 최대 토큰 수를 뜻함 Arial 12포인트 글꼴의 A4 약 1,500쪽에 해당함 일반적으로 출력 토큰 한도는 전체 문맥 창보다 훨씬 작으며 모델마다 다름 큰 문맥 창은 대량의 데이터를 검색하고 추론하는 검색 증강 생성(RAG) 작업과 관련이 있음 MoE(Mixture of Experts) 구조로, 전체 매개변수는 5,520억 개이며 토큰당 활성 매개변수는 160억 개임 MoE는 라우팅을 통해 토큰별로 일부 전문가를 선택하므로 전체 매개변수보다 활성 매개변수가 적음 밀집 모델은 모든 매개변수를 사용하므로 전체 수와 활성 수가 같음 가중치, 라이선스와 API 접근 오픈 가중치 모델로, Hugging Face에서 가중치를 내려받아 자체 호스팅할 수 있음 상업적 사용이 가능한 MIT 라이선스 를 적용함 FAQ 기준으로 5개 API 제공업체를 통해 사용할 수 있으며, 제공업체별 가격과 성능을 비교할 수 있음 다만 여러 평가 차트에는 No publicly available API라는 문구도 표시돼 있어, 페이지 내 API 가용성 표기가 일치하지 않음 모델 개방성은 별도의 Openness Index에서 0~100점으로 평가하지만, 제공된 본문에는 이 모델의 ...

Read Entire Article