NVIDIA выпустила Personal AI Router: софт для объединения домашних ПК и Mac в локальный кластерКратко · дайджест за 10 сентября
Кратко≈ 1 мин

NVIDIA выпустила Personal AI Router: софт для объединения домашних ПК и Mac в локальный кластер

На выставке IFA компания NVIDIA представила Personal AI Router (PAIR) — открытый программный инструмент в статусе публичной беты для объединения разнородных компьютеров в домашний вычислительный кластер. ПО выступает маршрутизатором между устройствами в локальной сети, поддерживая видеокарты GeForce RTX серии 20 и новее, станции DGX Spark и компьютеры Mac на чипах Apple Silicon M4.

Ключевое инженерное ограничение архитектуры: PAIR не объединяет видеопамять нескольких машин в общий пул и не разделяет одну модель между разными видеокартами. Утилита осуществляет динамическую балансировку независимых задач, направляя каждый отдельный запрос целиком на тот узел, в память которого помещается модель. В связке с движками Ollama и LM Studio запросы субагентов распределяются по свободным устройствам через стандартные локальные интерфейсы.

Для развертывания кластера PAIR устанавливается на каждый компьютер, после чего доверенные узлы сопрягаются по временному PIN-коду; для серверов без графической оболочки предусмотрен консольный терминал. Локальные запросы принимаются только с адреса обратной петли (loopback), а подключение к интернету требуется лишь для первичной загрузки весов моделей.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2