Для конфиденциального выполнения задач на локальном компьютере можно развернуть связку автономного агента Nous Research Hermes Agent и модели Qwythos 9B (квантованная GGUF-версия весом 5,6 ГБ на базе Qwen3.5 9B).
Пошаговый процесс настройки:
- Установка Hermes: Скачайте агент с GitHub и активируйте в файле конфигурации функции
learning_loopи сохранения навыковskill_persistence. Запустите режим Blank Slate (чистый лист), чтобы ограничить доступные агенту инструменты терминалом и файлами для экономии памяти. - Запуск модели в Ollama: Установите среду Ollama и загрузите модель в терминале компьютера командой
ollama run qwen3.5:9b. Для точечных задач скачайте оптимизированный GGUF-файл с Hugging Face Qwythos-9B. - Сопряжение: В настройках Hermes укажите локальный провайдер Ollama и задайте контекстное окно от 64K токенов.
- Проверка: Отправьте тестовую команду в консоли агента. Он должен выполнить файловую операцию локально. Проверьте по сетевым логам отсутствие исходящего трафика во внешние API.
Учитывайте, что локальная модель уступает облачным гигантам в логике, а контекст свыше 64K токенов критичен к объему RAM компьютера.


