002: Агент/Инструмент

Инструмент — это интерфейс на основе схемы, который определяет структурированную возможность, доступную агенту. Он служит фундаментальным строительным блоком для всех действий агента, позволяя LLM понимать и выбирать из набора возможных поведений.

Что такое Инструменты?

Инструменты — это основа систем действий агентов. Они открывают новый тип возможностей: выбор действия в контексте, позволяя агентам выбирать и выполнять соответствующие действия в зависимости от ситуации.

Инструменты обеспечивают:

• Структурированные интерфейсы: Возможности, определенные в схеме, которые агенты могут обнаруживать и понимать
• Типобезопасность: Четкие контракты для входов и выходов
• Компонуемость: Строительные блоки, которые объединяются в сложные поведения агента
• Интеграция с LLM: Схемы, которые языковые модели могут анализировать и выбирать

Когда агент заполняет конкретные параметры для Инструмента, он создает Вызов — экземпляр Инструмента со всеми заполненными параметрами, представляющий собой конкретный запрос на выполнение.

Когда использовать систему Инструментов

Используйте систему Инструментов, когда вам нужно, чтобы агенты:

• Динамически выбирали действия в зависимости от контекста и ситуации
• Выбирали между несколькими возможностями для достижения цели
• Выполняли различные реализации одной и той же возможности (например, разные поисковые системы)
• Сочетали логику LLM с явной логикой в процессе принятия решений

Схема как интерфейс

Система Инструментов построена на фундаментальном принципе: Инструменты — это чистые схемы, которые определяют интерфейсы, не предписывая конкретные реализации. Это разделение интерфейса и реализации является ключом к гибкости и компонуемости системы.

Схема Tool — это стандартный объект JSON Schema. Любое поле без префикса в виде подчеркивания считается параметром инструмента. Система использует специальные мета-поля (с префиксом _) для определения системных свойств, которые управляют идентификацией и выполнением инструмента

Схема Инструмента определяет его полный интерфейс:

• title: Человекочитаемое имя схемы (необязательно).
• description: Объясняет, что делает инструмент.
• properties: Любые поля без префикса подчеркивания определяют входы, которые требуются инструменту.
• _tool: Предоставляет уникальное имя для идентификации инструмента.
• _output: Определяет ожидаемую структуру результата работы инструмента.
• _reasoningForCall: Поле, добавляемое системой, чтобы агент объяснил, почему он выбрал этот инструмент.

Протоколы более высокого уровня строят оркестрацию рабочих процессов, управление состоянием и политики выполнения поверх этих примитивов.

Определение Инструмента

Инструменты определяются как JSON-схемы. В примере ниже показан Tool для анализа тональности. Этот Tool предназначен для скрытого выполнения, так как он полагается на встроенное понимание языка LLM и не требует внешней функции.

Tool.register('sentimentAnalysis', {
  type: 'object',
  description: 'Анализирует тональность текста',
  properties: {
    _tool: { type: 'string', const: 'sentimentAnalysis' },
    text: { type: 'string', description: 'Текст для анализа' },
    _output: {
      type: 'object',
      properties: {
        sentiment: { type: 'string' },
        confidence: { type: 'number' },
      },
    },
  },
});

// Запрос: "Какова тональность 'Это лучше всего!'"
{
  "_tool": "sentimentAnalysis",
  "text": "This is the best!",
  "_output": {
    "sentiment": "positive",
    "confidence": 0.99
  }
}

Компоновка схем для LLM

Агент не просто работает с инструментами; ему часто нужно получить окончательный структурированный результат после завершения задачи. Для этого среда выполнения агента компонует схемы всех доступных Инструментов с определенной пользователем схемой вывода. Это создает единую, унифицированную схему, которая предоставляется LLM в Запросе.

Такая компоновка дает LLM выбор в том, как отвечать. В зависимости от запроса, она может:

• Генерировать только calls: Если задача требует промежуточных шагов, LLM вызовет один или несколько инструментов и оставит поле output равным null.
• Генерировать только output: Если на запрос можно ответить напрямую без инструментов, LLM предоставит конечный результат в поле output и оставит calls пустым.
• Генерировать и то, и другое: В некоторых случаях LLM может выполнить действие и выдать конечный результат за один шаг.

Этот механизм позволяет единому, гибкому интерфейсу обрабатывать как простые, одношаговые ответы, так и сложные задачи с использованием нескольких инструментов. Разработчик предоставляет схемы Tool и схему вывода отдельно, а система объединяет их в структуру, которую LLM может использовать для принятия решения о наилучшем курсе действий.

Пример ниже иллюстрирует, как компонуются схема Tool и схема вывода.

Agent.Request(
  config, // Конфигурация для запроса (например, модель, температура)
  {
    // Схема вывода
    type: 'object',
    properties: {
      summary: { type: 'string' },
    },
    required: ['summary'],
  },
  [
    // Контекст
    {
      type: 'tool',
      tool: {
        greetUser: {
          type: 'object',
          properties: {
            userName: { type: 'string' },
          },
          required: ['userName'],
        },
      },
    },
    { type: 'text', text: 'здесь какой-то запрос' },
  ]
);

{
  "type": "object",
  "properties": {
    "output": {
      "type": ["object", "null"],
      "properties": {
        "summary": { "type": "string" }
      },
      "required": ["summary"],
      "additionalProperties": false
    },
    "calls": {
      "type": "array",
      "items": {
        "type": "object",
        "properties": {
          "_tool": { "const": "greetUser" },
          "userName": { "type": "string" }
        },
        "required": ["_tool", "userName"]
      }
    }
  },
  "required": ["calls", "output"]
}

Расширение Инструментов с помощью мета-свойств

Кроме определения основных параметров инструмента, его схема может быть расширена при вызове. Это другая форма компоновки, при которой новые поведения накладываются на один инструмент.

Когда агент решает использовать инструмент, он создает Вызов — конкретный экземпляр этого инструмента. Вызов включает параметры для инструмента, но он также может быть дополнен специальными мета-свойствами (с префиксом _), которые предоставляют дополнительные инструкции для механизма выполнения. Эти свойства управляют аспектами выполнения инструмента, которые выходят за рамки его основного определения.

Этот механизм позволяет использовать простую, базовую схему инструмента мощными и гибкими способами. Вызов становится богатой инструкцией, которая указывает, что делать (инструмент и его параметры) и как это делать (мета-свойства). Последняя часть головоломки — это понимание различных способов, которыми Вызов может быть фактически выполнен.

Скрытое и явное выполнение

Как только Вызов сгенерирован, системе необходимо его выполнить. Схема Tool, будучи просто интерфейсом, сама по себе не содержит логики выполнения. Вместо этого ее выполнение может происходить одним из двух способов. По умолчанию используется скрытое выполнение, при котором LLM использует свои собственные внутренние рассуждения для генерации вывода, что идеально подходит для языковых или основанных на знаниях задач. Для действий, требующих взаимодействия с внешним миром, — таких как вызов API или доступ к базе данных, — Tool должен быть связан с детерминированной функцией. Эта явная реализация называется Действие.

Разделение интерфейса Инструмента от реализации Действия является ключевым принципом дизайна. Это позволяет определять и рассуждать о возможностях агента абстрактно, в то время как базовая логика выполнения может быть заменена или обновлена независимо. Следующий документ, 003: Агент/Действие, описывает, как Действия предоставляют конкретную логику для Инструментов.