ksolver: оптимизатор размещения в Kubernetes на базе CP-SAT для сокращения затрат на GPU-кластерыКратко · дайджест за 16 сентября
Кратко≈ 1 мин

ksolver: оптимизатор размещения в Kubernetes на базе CP-SAT для сокращения затрат на GPU-кластеры

Стандартный планировщик Kubernetes распределяет поды локальными эвристиками: он решает, куда поместить задачу прямо сейчас. На GPU-кластерах это создает фрагментацию — например, под с одним ускорителем занимает восьмикарточный узел H100. Открытый инструмент ksolver на Rust заменяет локальный перебор глобальной оптимизацией.

Утилита собирает ограничения кластера — поды, узлы, правила affinity, taints, PDB и топологию — и формулирует задачу CP-SAT через Google OR-Tools. Солвер находит минимальный по стоимости флот, строит дерево экономии (Savings Waterfall) и вычисляет финансовую цену каждого правила, показывая точную сумму переплаты из-за конкретного taint.

Для безопасного внедрения предусмотрен теневой режим: планировщик перехватывает поды с schedulerName: ksolver, решает батчи каждые 10 секунд и проверяет планы через kube-scheduler-simulator. Helm-чарт по умолчанию работает только на чтение (enableRealBinding: false). Из-за сложности CP-SAT перебор узлов ограничен лимитом KSOLVER_CANDIDATE_NODE_LIMIT: 16, поэтому ksolver служит для аудита и консолидации GPU-мощностей, а не заменой штатного kube-scheduler.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2