Chat Completions#

Выполняет один stateless-запрос Chat Completions и возвращает ответ модели, не создавая чат, сообщение или запуск.

InTable

[Таблица данных | массив объектов] Готовая история сообщений OpenAI; совместимый вход и alias свойства Messages.

Если задан, имеет приоритет над простыми текстовыми входами.

ContentSystem[Текст] Необязательный системный prompt; клиент создает сообщение с role=system.
ContentUser[Текст] Текст пользователя; обязателен, если InTable не содержит готовых сообщений. Клиент создает сообщение с role=user.
ModelВыбор поставщика модели.
CustomModelName[Текст] Необязательное имя модели Sherpa AI Server; при пустом значении модель выбирает сервер.
Stop[Текст | массив текстов] Одна или несколько стоп-последовательностей генерации.
Temperature[Число] Температура генерации; значение по умолчанию — 0.7.
TopP[Число] Порог nucleus sampling; пустое значение не отправляется.
MaxLength[Число] Максимальное число токенов ответа; совместимый alias API-свойства MaxTokens, значение по умолчанию — 1000.
AutoLengthLimitАвтоматически ограничить длину ответа доступным контекстом модели.
Tools[Массив объектов] Описания доступных модели инструментов в формате OpenAI.
ToolChoice[Текст | объект] Правило выбора инструмента: автоматический режим, запрет или конкретный tool.
Timeout[Объект] Требуемый формат структурированного ответа.
StructuredOutput[Число] Тайм-аут ожидания ответа модели в секундах; значение по умолчанию — 300.
ResponseRole[Текст] Роль сообщения из первого варианта ответа.
ResponseContent[Текст | объект] Содержимое сообщения из первого варианта ответа.
TotalTokens[Число] Общее количество использованных токенов из usage.total_tokens.
FinishReason[Текст] Причина завершения первого варианта, например stop, length или tool_calls.
ToolCalls[Массив объектов] Вызовы инструментов из сообщения модели.
ResponseПолный типизированный ответ Chat Completions.
UsageДанные об использовании входных, выходных и всех токенов.
Уровень обработки

Выбор уровня обработки ошибок.

Возможные значения:

  • "Default" - по умолчанию;
  • "Ignore" - ошибки игнорируются;
  • "Handle" - ошибки обрабатываются.

Если выбрано значение "Default", то будет использоваться значение блока "Старт" данной диаграммы.

Уровень сообщений

Выбор уровня сообщений, которые будут выводить блоки при работе.

Возможные значения:

  • "Default" - по умолчанию;
  • "Release" - вывод отключен;
  • "Debug" - вывод основной информации;
  • "Detailed" - вывод подробной информации.

Если выбрано значение "Default", то будет использоваться значение блока "Старт" данной диаграммы.

Текст ошибки[Текст] Возвращает подробную информацию об ошибке в случае некорректного выполнения работы блока.