«Строить умнее, а не больше: маленькие модели, умная архитектура и решение прикладных задач реального мира», — так основатель мумбайской лаборатории 169Pi Раджат Арья объясняет отказ от гонки за исполинскими кластерами. Их открытая модель Alpie Seed 9B под лицензией Apache 2.0 ломает облачную привычку: рассуждает, проверяет код, читает схемы и разбирает видео прямо на твоём устройстве без интернета.
В видеообзоре Джулиана Голди точно схвачен главный риск веб-чатов: загружая туда код или отчёт, ты отдаёшь закрытые данные на чужие серверы. А в самолёте в режиме полёта, когда перед глазами сбоит схема базы данных и нет связи, облака вообще бессильны. Но способна ли сеть на 9 миллиардов параметров тягаться с серверными гигантами на обычном ноутбуке, или за приватность придётся платить слабой логикой?
Черновик размышлений и сжатие весов: как устроена Alpie Seed 9B
Чтобы компактная сеть тянула многоходовые задачи, в 169Pi взяли мультимодальную базу Qwen3.5-9B и дообучили её в два шага. Сначала применили адаптеры DoRA: представь микшер, где громкость и направление сигнала разведены на две ручки — метод так же меняет величину и вектор весов раздельно, развивая логику без потери базовой грамотности. Следом алгоритм подкрепления GRPO выстроил самопроверку с опорой на первый адаптер как на эталон.
У модели две передачи. В режиме размышлений (Thinking mode) она не выдаёт первую догадку, а открывает черновик в тегах <think>...</think>, сверяет гипотезы и отметает тупиковые ветки; для простых вопросов прямой режим (Non-thinking mode) отключает эту паузу. Окно контекста в 262 144 токена вмещает около 600 страниц книги или целый репозиторий проекта.
Я сверил требования к памяти в репозитории Alpie_Seed_GGUF: исходные веса (bfloat16) просят около 18 ГБ видеопамяти, но квантование округляет числа, словно сжимает RAW-снимок в чёткий JPEG. Четырёхбитная сборка Q4_K_M укладывается в 5,5–6 ГБ памяти (уровень RTX 3060/4060 и базовых MacBook на чипах M-серии), а двухбитная Q2_K — в 3,5 ГБ. Запускать их удобно в Ollama и LM Studio — об устройстве таких сред и системных правах мы рассказывали в разборе открытых моделей Google Gemma 4.
Замеры против скепсиса: бенчмарки на коде и поиск бага в полёте
Кажется, ужатая втрое сеть должна посыпаться на инженерии, но замеры 169Pi показывают обратное. В починке реальных багов SWE-Bench Verified она берёт 61,20%, обходя свою 32-миллиардную предшественницу Alpie Core (57,8%). В LiveCodeBench v6 результат достигает 72,99%, на научных задачах GPQA Diamond — 84,32%, а таблицы и скриншоты консоли в OCRBench читаются с точностью 90,30% (ориентиры крупных облачных систем есть в нашем сравнительном бенчмаркинге флагманских моделей). Учтём лишь, что это цифры авторов, а независимые проверки сообщества ещё идут. На карте RTX PRO 4500 скорость составляет около 110 токенов/с, на ноутбуке Mac M2 с 16 ГБ памяти — ровные 14 токенов/с, а на смартфонах — от 5,9 токена/с (Galaxy Z Flip 8) до 9,59 токена/с (iPhone 17 Pro).
Вернёмся в самолёт к инженеру с таким MacBook без сети. Два сервиса оплаты вешают базу под нагрузкой, грузить SQL в облако запрещает NDA. Ещё до вылета разработчик скачал сборку из реестра Ollama (версии 0.5.0+; в Python 3.10+ веса вызываются и через transformers), а в полёте открывает консоль:
# Предварительная загрузка сборки и старт автономной сессии Alpie Seed 9B
ollama pull 169pi/alpie-seed
ollama run 169pi/alpie-seed
В сессию он передаёт логи и две встречные транзакции: Transaction A блокирует table_users, затем table_orders, а Transaction B захватывает table_orders и ждёт table_users. В блоке <think> модель строит граф ожидания, отметает версию сетевых тайм-аутов и находит взаимную блокировку (deadlock) в СУБД, предлагая захват таблиц строго по возрастанию ID. Уязвимость закрыта офлайн, чувствительный SQL остался на диске, а разбор стоил 0 рублей.
И всё же сносить облачные подписки ради тотального офлайна не стоит. На олимпиадной математике масштаба 671-миллиардной DeepSeek R1 или OpenAI o1 компактная сеть уступит в глубине, в сжатии Q2_K может упускать граничные условия (для кода держись Q4_K_M), а на смартфоне без кулера раздумья на 1000–2000 токенов займут 30–60 секунд. Трезвый баланс проще: оставь громоздкие публичные расчёты быстрым облакам, а Alpie Seed 9B посели на ноутбуке как приватный скальпель для закрытого кода, документов под NDA и дороги без связи.




