Ant Group открыла Ling 3.1 Flash: MoE на 560 миллиардов параметров с контекстом в 1 миллион токеновКратко · дайджест за 20 октября
Кратко≈ 1 мин

Ant Group открыла Ling 3.1 Flash: MoE на 560 миллиардов параметров с контекстом в 1 миллион токенов

Команда Inclusion AI (технологическое крыло Ant Group) выложила на Hugging Face открытые веса модели Ling 3.1 Flash под свободной лицензией MIT. Это полноценная разреженная MoE-архитектура: 560 миллиардов параметров общего объёма, из которых на каждый токен активируются лишь 25 миллиардов (560B-A25B).

Такая схема даёт эрудицию огромной базы знаний при вычислительной скорости компактной сети. Модель поддерживает контекстное окно до 1 миллиона токенов, обрабатывая целиком монолитные кодовые базы и финансовые спецификации. В бенчмарках Ling 3.1 Flash лидирует в генерации интерфейсов приложений (UI/UX) и математике.

Главное в релизе:

  • Разреженность MoE: нагрузка инференса эквивалентна модели на 25B параметров.
  • Свободная лицензия MIT: веса открыты для коммерческого использования без скрытых условий.
  • Поддержка стека: нативная интеграция с vLLM, SGLang, Transformers и TensorRT-LLM.

Ранее мы следили, как развивалась модель Ling 3.1 Flash от Inclusion AI и как исследовалась MoE-архитектуру и окно контекста в 256 тысяч токенов в прошлых версиях. Теперь модель выросла в масштабе и доступна каждому.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2