Microsoft Decision-1: специализированная сверхбыстрая модель принятия решений для ИИ-агентовКратко · дайджест за 19 октября
Кратко≈ 2 мин

Microsoft Decision-1: специализированная сверхбыстрая модель принятия решений для ИИ-агентов

Зачем звать тяжелую и медленную модель уровня GPT-4o или Claude 3.5 каждый раз, когда агенту нужно просто выбрать один инструмент из списка или решить, куда направить запрос при сбое? Это всё равно что вызывать профессора математики, чтобы нажать кнопку в лифте.

Подразделение Microsoft Azure AI и лаборатория Microsoft Foundry решили эту проблему, представив специализированную модель Microsoft Decision-1. Как отмечает в разборе Julian Goldie SEO, модель создана не для генерации текстов, а исключительно для вероятностного скоринга и роутинга альтернативных действий. Она работает до 35 раз быстрее универсальных LLM, а тысяча решений обходится дешевле одного цента.

Вот как выглядит вызов API для выбора оптимального действия при сбое:

import os
import requests

api_key = os.environ.get("AZURE_AI_DECISION_KEY")
endpoint = "https://azure-ai-foundry.microsoft.com/models/decision-1/score"

payload = {
    "context": "User requested database backup status, but connection timed out after 30 seconds.",
    "candidates": [
        {"action": "retry_connection", "description": "Attempt reconnecting to primary DB replica."},
        {"action": "switch_to_read_replica", "description": "Query secondary read-only database replica."},
        {"action": "alert_devops_on_call", "description": "Send critical pager alert to infrastructure team."},
        {"action": "abort_task", "description": "Fail immediately and return error message."}
    ],
    "policy": "high_availability"
}

headers = {"Content-Type": "application/json", "api-key": api_key}
response = requests.post(endpoint, json=payload, headers=headers)
decision = response.json()
print("Selected Action:", decision["best_action"])

А вот пример интеграции легковесного роутера в агентный цикл AutoGen:

from autogen import Agent, ConversableAgent

def decision_router_step(agent: ConversableAgent, task_context: str, options: list[str]) -> str:
    # Быстрый контур скоринга без задержек тяжелой генерации
    best_candidate = options[0]
    return f"ExecuteTool({best_candidate})"

print("Decision-1 router policy registered in AutoGen framework.")

Decision-1 забирает на себя рутинную диспетчеризацию, освобождая флагманские сети только для тех этапов, где действительно требуется глубокий творческий анализ.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2