Открытая ОС для ИИ-агентов: как настроить и запустить Hermes Agent OS локально

Открытая ОС для ИИ-агентов: как настроить и запустить Hermes Agent OS локально

Развитие ИИ переходит от простых текстовых чатов к полноценным автономным агентам. Проект Nous Research представил обновление Hermes Desktop (также известного как Hermes Agent OS) — полноценной операционной системы для ИИ-агентов, способных работать полностью локально на персональном компьютере пользователя. В отличие от стандартных облачных чат-ботов, локальные агенты функционируют с долгосрочной памятью, имеют доступ к файловой системе, умеют запускать суб-агентов для разделения сложных задач и интегрируются с внешними мессенджерами. Запуск такой структуры позволяет пользователям отказаться от платных облачных подписок и полностью обезопасить свои конфиденциальные данные, поскольку все вычисления и обработка документов происходят без отправки информации в облако (local inference).

Подготовка к установке (Prerequisites)

Перед началом развёртывания системы необходимо убедиться, что компьютер соответствует техническим требованиям, и подготовить необходимые инструменты.

1. Аппаратные требования:
   • Для запуска рекомендованной локальной модели среднего уровня gemma4 (~16 ГБ видеопамяти — VRAM) потребуется видеокарта уровня Nvidia RTX 4080/4090 или чип Apple M-серии (M2/M3 Max) с объёмом объединённой памяти от 32 ГБ.
   • Для запуска более массивных моделей уровня qwen3.6 требуется не менее 24 ГБ VRAM.
   • Если видеокарта имеет меньший объём памяти, рекомендуется использовать квантованные модели (quantized models) — версии со сниженной точностью весов (например, в формате Q4_K_M), которые занимают значительно меньше места в VRAM при минимальных потерях качества.
2. Программное обеспечение:
   • Потребуется установленная утилита Ollama — CLI-инструмент (интерфейс командной строки) для простого запуска моделей на локальном компьютере.
   • Для альтернативного сценария потребуется LM Studio — графическое приложение для удобного скачивания и хостинга моделей.
   • Для изоляции процессов разработчики настоятельно рекомендуют установить среду контейнеризации Docker. Она создаёт изолированную «песочницу», предотвращая случайное удаление или изменение личных файлов агентом во время выполнения команд.

Быстрый запуск через Ollama (Ollama Quick Path)

Самый простой способ развернуть Hermes Agent OS — использовать официальную интеграцию с Ollama. Все действия выполняются в терминале вашего компьютера.

• Шаг 1: Скачайте и установите Ollama с официального сайта. Запустите приложение.
• Шаг 2: Откройте терминал и выполните команду: ollama launch hermes.
• Шаг 3: Если утилита Hermes Agent отсутствует, примите установку скрипта от Nous Research.
• Шаг 4: В появившемся мастере настройки выберите модель, которую планируете использовать в качестве основной (например, gemma4 или qwen3.6).
• Шаг 5: Мастер автоматически сконфигурирует локальный API-эндпоинт (программный адрес) Ollama на порт http://127.0.0.1:11434/v1 и установит выбранную модель в качестве основной.
• Шаг 6: По завершении настройки запустится графический интерфейс Hermes Desktop в браузере.

Альтернативный локальный запуск через LM Studio

Если вы предпочитаете управлять моделями вручную, используйте связку с LM Studio.

• Шаг 1: Скачайте и установите LM Studio с официального сайта lmstudio.ai.
• Шаг 2: Откройте приложение, найдите и скачайте нужную модель (например, Qwen 2.5 Coder в квантованном формате) с учётом рекомендаций по объёму видеопамяти (VRAM).
• Шаг 3: На вкладке локального сервера (Local Server) выберите модель и нажмите кнопку Start Server (сервер запустится на порту 1234).
• Шаг 4: В терминале запустите конфигуратор: hermes setup.
• Шаг 5: Выберите More providers -> Custom endpoint. Укажите адрес http://127.0.0.1:1234/v1, оставьте поле API-ключа пустым, подтвердите модель и оставьте контекст пустым для автоопределения.
• Шаг 6: Перезапустите шлюз Hermes для применения настроек.

Ручная установка и структура файлов

Для ручной установки непосредственно из репозитория GitHub выполните команду:

curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

(Подробное руководство доступно в репозитории NousResearch/hermes-agent).

После скачивания запустите инициализацию: hermes config init. Все рабочие файлы создаются в домашней папке по пути ~/.hermes/:

• config.yaml — основные несекретные параметры.
• .env — чувствительные переменные среды и API-ключи.
• SOUL.md — текстовое описание личности и правил агента.
• Папки memories/ (память), skills/ (навыки) и cron/ (планировщик задач).

Безопасность локального запуска: почему важна изоляция

По умолчанию Hermes Agent OS запускается локально с правами текущего пользователя ОС. Агент может читать файлы, создавать документы и выполнять команды в терминале. Если предоставить ему инструменты веб-поиска, существует риск выполнения вредоносного кода или повреждения данных.

Для минимизации рисков Nous Research настоятельно рекомендует использовать Docker-бэкенд:

• При конфигурации через Docker агент запускается в изолированном контейнере с ограниченными правами, без возможности повышения привилегий в вашей основной ОС.
• Чувствительные переменные (например, токены) передаются в контейнер с помощью директивы docker_forward_env в конфигурационном файле config.yaml. Это позволяет прокидывать секреты из системного окружения, не прописывая их в явном виде в файлах конфигурации.
• Все критические действия агента должны проходить через обязательное ручное подтверждение пользователем. Никогда не отключайте опцию подтверждения действий в настройках для неизвестных сценариев.
• Логи работы хранятся локально по пути ~/.hermes/logs/. Хотя система автоматически маскирует секреты в логах, избегайте их публикации в открытом доступе.

Подключение шлюзов мессенджеров (Messaging Gateway)

Шлюз позволяет удалённо управлять агентом с мобильного телефона.

• Шаг 1: Запустите настройку шлюза в терминале: hermes gateway setup.
• Шаг 2: Выберите нужный канал связи: Telegram, Discord, Slack, WhatsApp, Signal или Email.
• Шаг 3: Следуйте инструкциям мастера для создания бота. Например, для Telegram вам потребуется получить токен авторизации у бота @BotFather.
• Шаг 4: Вставьте токен в терминал по запросу мастера настройки, программа сохранит его в файл ~/.hermes/.env.
• Важное предупреждение: Никогда не сохраняйте токен бота в публичных репозиториях Git и не вставляйте его в промпты к ИИ, чтобы избежать получения злоумышленниками доступа к файлам на вашем компьютере.

Проверка работоспособности (Verification Actions)

Чтобы убедиться, что система настроена корректно, выполните следующие действия:

1. Проверьте конфигурационный файл в терминале:

   hermes config check
   

   Утилита должна подтвердить отсутствие синтаксических ошибок.
2. Проверьте список доступных моделей в локальном API Ollama:

   curl http://127.0.0.1:11434/v1/models
   

   В выводе должен присутствовать JSON-список со скачанными вами моделями.
3. Откройте интерфейс Hermes Desktop, запустите чат и отправьте запрос: Привет! Назови модель, которую ты сейчас используешь. Убедитесь, что ответ пришёл, а указанное имя модели совпадает с выбранной вами primary-моделью в настройках.

Практические выводы

Hermes Agent OS предоставляет гибкий стек для организации локального рабочего пространства. Для быстрого старта проще всего использовать путь через ollama launch hermes. Для работы с приватными документами выбирайте Docker-окружение для изоляции процессов. Разделяйте сложные задачи на суб-агентов, чтобы не перегружать контекст основной модели, и используйте шлюзы мессенджеров для удобного контроля выполнения задач со смартфона.