Muse Spark Open - M5 Ultra Mac Studio 두 대에서 실행하는 멀티모달 오픈 웨이트 모델

4 hours ago 6

Meta가 코딩과 에이전트 작업용 Muse Spark Open의 가중치를 공개함. 네이티브 멀티모달 모델로, 장시간 이어지는 작업, 복잡한 소프트웨어 엔지니어링, 다단계 추론을 겨냥함 전체 8,160억 개 파라미터 중 420억 개를 활성화하며, 100만 토큰 컨텍스트 창을 지원함 최신 MLX를 이용해 Apple M5 Ultra Mac Studio 두 대에서 전체 모델을 실행할 수 있음 주요 API 플랫폼과 추론 엔진을 지원하며, SGLang에 포함된 Helion GPU 커널은 NVIDIA와 AMD GPU에서 커널 단위 1.03~3.95배 속도 향상을 기록함 추가 안전성 사후 학습과 Meta의 출시 기준 평가를 거쳤으며, 가중치는 제한적 상업 이용 조건이 있는 Muse Model License로 배포됨 모델 성능과 데스크톱 실행 Muse Spark Open은 공개 당일부터 이용 가능하며, Meta에 따르면 현재까지 가장 성능이 뛰어난 미국 오픈 웨이트 모델임 전체 파라미터는 816B, 활성 파라미터는 42B이며, 1M 토큰 컨텍스트 창을 지원함 네이티브 멀티모달 모델로 코딩, 에이전트 작업, 장시간 이어지는 과제와 복잡한 소프트웨어 엔지니어링, 다단계 추론에 초점을 맞춤 벤치마크 수치는 본문에 없으며, 평가 세부 사항은 평가 방법론 보고서에서 확인할 수 있음 Meta는 누구나 어디서든 고급 모델을 실행할 자유를 지향하며, Meta에 따르면 이 모델은 동급 최초로 데스크톱 실행이 가능함 최신 MLX에 최적화됐으며, Apple M5 Ultra Mac Studio 두 대로 실행함 통합 메모리 구조 덕분에 내장 GPU가 기기당 최대 512GB를 사용할 수 있어 두 대에 전체 모델을 담을 수 있음 칩의 1.2TB/s 메모리 대역폭으로 각 토큰에 필요한 일부 데이터를 읽으며, 두 기기가 총 1TB의 통합 메모리를 갖춘 하나의 슈퍼컴퓨터처럼 동작함 Muse Spark Open 기반 Muse Code로 기기 내에서만 실행되는 에이전트 작업을 시험함 오픈소스 Mastodon 클라이언트 Ice Cubes의 실제 iOS 변경 작업에서 버그 수정, 새 기능 구현, 전체 빌드를 수행함 DaVinci Resolve 작업을 처음부터 끝까지 수행하면서 영상을 프레임별로 검토해 가장 좋은 장면을 찾고 세로 화면으로 잘라냄 배포, 최적화와 이용 조건 API 서비스는 Baseten, Fireworks AI, Groq, Modal, Nebius, ...

Read Entire Article