Meta AI выложила на Hugging Face открытые веса флагманской модели Muse Spark Open. Это мультимодальная MoE-система: 816 миллиардов параметров общего объёма, из которых на каждый токен динамически активируются 42 миллиарда (816B-A42B через 256 экспертов с роутингом 8 экспертов на токен).
Модель заточена под автономный кодинг и агентные циклы. Окно контекста составляет 1 миллион токенов, что позволяет целиком загружать репозитории с документацией.
Ключевые детали:
- Локальный деплой: поддержка Apple MLX и формата NVFP4 позволяет запускать модель на связке двух Mac Studio с памятью от 192 ГБ.
- Приватность: развёртывание среды уровня передовых облачных моделей полностью внутри корпоративного контура.
- Совместимость: нативная поддержка vLLM, SGLang, TensorRT-LLM и llama.cpp.
Мы исследовали семейство моделей Meta Muse Wonder и открытые веса — теперь исследователи получили полную независимость от облаков.
