Запрос к GigaChat (SberGigaChatRequest)

Этот блок позволяет отправлять запросы к генеративным моделям GigaChat. С его помощью вы можете создавать новые тексты по запросу, выполнять разнообразные задачи:

  • классификации,

  • суммаризации,

  • перевода и рерайтинга текстов,

  • написания прототипов кода на разных языках программирования,

  • парсить полуструктурированные и неструктурированные данные,

  • извлекать и обрабатывать факты,

  • поддерживать диалог на разнообразные темы, и многое другое.

Оплата за использование данного функционала списывается с лицевого счета клиента на платформе. Для тестовых целей каждому новому Пользователю даётся возможность протестировать данный функционал без оплаты. При использовании данного функционала после окончания разработки Робота необходима оплата.

История чата

[Таблица Данных] Добавьте историю чата, на основе контекста которого нейросеть должна сгенерировать ответ. Указанная таблица данных должна содержать колонки с именами "role" и "content".

При отсутствии таких колонок в качестве "role" будет использована первая колонка таблицы, в качестве "content" - вторая колонка. В колонке "role" можно указать только одно из следующих значений:

  • system,

  • assistant,

  • user.

Роль system предназначена для настройки тональности и базовых установок нейросети, например:

  • с ролью "system" можно написать "You are helpful assistant on used cars selection. You know everything on how to choose the best deal for used car";

  • с ролью "assistant" рекомендуется включать предыдущие сообщения, сгенерированный самой нейросетью.;

  • с ролью "user" рекомендуется включать реплики, написанные пользователем-собеседником.

Более старые сообщения должны быть размещены в начале таблицы, более новые - в конце таблицы. Колонка "content" должна содержать само сообщение.

Данное свойство можно оставить пустым, тогда генерация будет выполнена только по содержимому свойств "Роль" и "Запрос".

Если используется свойство "Инструменты", то в таблице должно быть 4 колонки:

  • "role",

  • "content",

  • "tool_call_id",

  • "name".

Запрос System

[Текст] Введите текст нового запроса к нейросети. Запрос будет выполняться с ролью system.

Запрос User

[Текст] Введите текст нового запроса к нейросети. Запрос будет выполняться с ролью user.

Модель

Выберите модель для генерации ответа.

Температура

[Число] Десятичное дробное число от 0 до 2, показывающее степень "случайности" или "креативности" результата, где:

  • 0 - наименее креативный результат,

  • 2 - максимально случайный.

Для большинства творческих задач лучше подходит значение 0.7, а если вы хотите на один и тот же запрос каждый раз получать одинаковый ответ - установите значение 0.

Максимальная длина

[Число] Максимальная длина результата, выраженная в условных токенах.

Для английского языка 1 токен - это 4 символа, для большинства других языков 1 токен - это 1 символ.

Уменьшите это число, если хотите получать в среднем более короткие запросы, увеличьте для получения более длинных запросов. Учтите, что данное число ограничивает длину ответа, однако не обязательно полученный ответ будет указанной вами длины - в зависимости от содержимого запроса он может быть короче.

Автоограничение длины

При включении указанная максимальная длина длина будет автоматически скорректирована. Для этого вычисляется количество токенов в запросе и учитывается максимально возможное количество токенов для выбранной модели.

Таймаут

[Число] Максимальное время ожидания ответа в секундах. Реальное время ожидания зависит от выбранной модели, длины вашего запроса и прогнозируемой длины ответа, а также от текущей загруженности серверов. В случае превышения установленного предела ожидания возникает ошибка.

Роль ответа

[Текст] Роль, с которой ответила нейросеть.

Ответ

[Текст] Текст ответа нейросети.

Итоговая длина

[Число] Итоговая длина запроса и результата (объединенных вместе), выраженная в условных токенах.

Уровень обработки

Выбор уровня обработки ошибок. Возможные значения:

  • "Default" - по умолчанию;

  • "Ignore" - ошибки игнорируются;

  • "Handle" - ошибки обрабатываются.

Если выбрано значение "Default", то будет использоваться значение блока "Старт" данной диаграммы.

Уровень сообщений

Выбор уровня сообщений, который будут выводить блоки при работе. Возможные значения:

  • "Default" - по умолчанию;

  • "Release" - вывод отключен;

  • "Debug" - вывод основной информации;

  • "Detailed" - вывод подробной информации.

Если выбрано значение "Default", то будет использоваться значение блока "Старт" данной диаграммы.

Текст ошибки

[Текст] Возвращает подробную информацию об ошибке в случае некорректного выполнения работы блока.

Last updated