# Модерация

Экран "Модерация", разделённый на "Наборы правил" и "Правила", предназначен для защиты, скрытия и блокировки данных. Также предусмотрены режимы маскировки информации, уточнение и корректировка данных внутри модели. 

В разделе "Наборы правил" отображаются группы связанных правил, а в разделе "Правила" конкретные настройки или инструкции, входящие в эти группы.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FoxJO1EowVWV9tcgFE8K4%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=7139f8bd-4ecf-4049-bae0-2327be575721" alt=""><figcaption></figcaption></figure>

<table data-header-hidden><thead><tr><th width="51.333251953125"></th><th></th><th valign="top"></th></tr></thead><tbody><tr><td><strong>№ п/п</strong></td><td><strong>Элемент интерфейса</strong></td><td valign="top"><strong>Описание</strong></td></tr><tr><td></td><td><strong>Таблица "Наборы правил"</strong></td><td valign="top"></td></tr><tr><td>1.</td><td>кнопка “Создать“</td><td valign="top">Позволяет создавать новый набор правил.</td></tr><tr><td>2.</td><td>кнопка "Обновить"</td><td valign="top">Позволяет принудительно обновить таблицу "Наборы правил".</td></tr><tr><td>3.</td><td>кнопка "Дублировать"</td><td valign="top">Позволяет дублировать созданный ранее набор правил.</td></tr><tr><td>4.</td><td>кнопка "Удалить выбранное"</td><td valign="top">Позволяет удалить выбранные наборы правил из Sherpa AI Server. Также удалить отдельные наборы правил можно, нажав на кнопку  в нужной строке таблицы "Наборы правил". При удалении набора правил появляется окно для подтверждения удаления.</td></tr><tr><td>5.</td><td>кнопка "Экспорт в CSV"</td><td valign="top">Формирует файл данных наборов правил в формате CSV для импорта в электронные таблицы и системы учета.</td></tr><tr><td>6.</td><td>кнопка "Экспорт в XLSX"</td><td valign="top">Формирует файл данных наборов правил в формате Microsoft Excel (XLSX) для импорта в электронные таблицы и системы учета.</td></tr><tr><td>7.</td><td>колонка "Активно"</td><td valign="top">Дата и время последнего изменения папки доступа.</td></tr><tr><td>8.</td><td>колонка "Имя"</td><td valign="top">Название набора правил.</td></tr><tr><td>9.</td><td>колонка "Описание"</td><td valign="top">Текст описания набора правил.</td></tr><tr><td>10.</td><td>колонка "Режим применения правил"</td><td valign="top"><p>Порядок обработки нескольких сработавших правил для одного объекта.</p><p>Варианты значений:</p><ol><li>Применять только первое сработавшее правило: Обработка останавливается после первого правила (приоритет по порядку в списке).</li><li>Применять все сработавшие правила: Последовательно обрабатываются все правила, соответствующие условиям (каскадное выполнение).</li></ol></td></tr><tr><td>11.</td><td>колонка "Создан"</td><td valign="top">Дата и время создания набора правил.</td></tr><tr><td>12.</td><td>колонка "Изменена"</td><td valign="top">Дата и время последнего изменения набора правил.</td></tr><tr><td></td><td><strong>Таблица "Правила"</strong></td><td valign="top"></td></tr><tr><td>1.</td><td>кнопка "Создать"</td><td valign="top">Позволяет создавать новое правило.</td></tr><tr><td>2.</td><td>кнопка "Обновить"</td><td valign="top">Позволяет принудительно обновить таблицу "Правила".</td></tr><tr><td>3.</td><td>кнопка "Удалить выбранное"</td><td valign="top">Позволяет удалить выбранные правила из Sherpa AI Server. Также удалить отдельные правила можно, нажав на кнопку  в нужной строке таблицы "Правила". При удалении правила появляется окно для подтверждения удаления.</td></tr><tr><td>4.</td><td>кнопка "Экспорт в CSV"</td><td valign="top">Формирует файл данных правила в формате CSV для импорта в электронные таблицы и системы учета.</td></tr><tr><td>5.</td><td>кнопка "Экспорт в XLSX"</td><td valign="top">Формирует файл данных правила в формате Microsoft Excel (XLSX) для импорта в электронные таблицы и системы учета.</td></tr><tr><td>6.</td><td>колонка "Активно"</td><td valign="top">Указывает, применяется ли правило.</td></tr><tr><td>7.</td><td>колонка "Имя"</td><td valign="top">Название правила.</td></tr><tr><td>8.</td><td>колонка "Описание"</td><td valign="top">Текст описания правила.</td></tr><tr><td>9.</td><td>колонка "Тип триггера"</td><td valign="top">Условия, при которых срабатывает данное правило.</td></tr><tr><td>10.</td><td>колонка "Действия"</td><td valign="top">Режимы обработки сработавшего правила (маскировка, переписывание, перенаправление, уведомление, фиксированный ответ).</td></tr><tr><td>11.</td><td>колонка "Создан"</td><td valign="top">Дата и время создания правила.</td></tr><tr><td>12.</td><td>колонка "Изменена"</td><td valign="top">Дата и время последнего изменения правила.</td></tr></tbody></table>

## Создать набор правил

Для создания нового набора правил необходимо нажать на кнопку "Создать" в таблице "Наборы правил" и заполнить открывшуюся форму.&#x20;

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FL65KCmPHVAKl5SnuKNX9%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=33585439-e606-47ca-b722-23a514094285" alt=""><figcaption></figcaption></figure>

* **Имя \*** — название набора правил.
* **Описание** — описание набора правил.
* **Режим применения правил \*** — выпадающий список, который определяет порядок обработки нескольких сработавших правил для одного объекта. Варианты значений:
  * **Применять только первое сработавшее правило**: Обработка останавливается после первого правила (приоритет по порядку в списке).
  * **Применять все сработавшие правила**: Последовательно обрабатываются все правила, соответствующие условиям (каскадное выполнение).

## Создать правило

Для создания нового правила необходимо нажать на кнопку “Создать” в таблице “Правила” и заполнить открывшуюся форму.&#x20;

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FNBxbQJqkEfgdwJ6TXnon%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=1f3f5bea-eeb1-4cc1-990e-75f54d54b92f" alt=""><figcaption></figcaption></figure>

* **Имя \*** – обязательное для заполнения поле для ввода названия набора правил.
* **Описание** – поле для ввода описания набора правил.

### Триггер

* **Тип триггера \*** – обязательное для заполнения поле с выпадающим списком для выбора условия, при котором срабатывает данное правило. Возможные значения:

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FNqSQVJlWKxTdE69bQpiu%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=9ef4f46b-7401-49eb-9398-3f562e1df191" alt=""><figcaption></figcaption></figure>

#### **Словарь**

**Словарь** – это набор определённых фраз или слов, который используется для распознавания и обработки входящих данных.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2F2LyryScHN8JfmGyx73xC%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=a855e6eb-f0b1-4f52-8691-b5adcd864853" alt=""><figcaption></figcaption></figure>

* **Список слов** – поле для ввода фраз и слов, которые включает в себя словарь. Каждая фраза или слово располагаются в отдельной строке (все слова должны быть записаны по одному в столбик, каждое на своей линии).

#### **Регулярное выражение**

**Регулярное выражение** – это специальные символы, позволяющие описать определённые шаблоны или паттерны, которые нужно искать в тексте.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FELhsp0AKjomCsxCYMzU1%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=2ee8d535-d294-48be-94df-233a49511368" alt=""><figcaption></figcaption></figure>

* **Список регулярных выражений** – поле для ввода регулярных выражений, на которые будет проверяться запрос. В одной строке списка должно быть только одно регулярное выражение.

#### **Локальная модель**

**Локальная модель** – триггер, который используется для того, чтобы правило срабатывало при использовании конкретного экземляра модели. В рамках настройки задаются все необходимые параметры: модель, промпт, Regex для проверки ответа и температура.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FupL0EJP6hmLKXmaqgS1v%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=aadabf72-afa0-4e14-bb80-2be5612aa222" alt=""><figcaption></figcaption></figure>

* **Модель** – поле для выбора модели ИИ для генерации или обработки ответа;
* **Промпт** – шаблон запроса к модели ИИ;
* **Regexp для проверки ответа** – регулярное выражение для валидации ответа модели;
* **Температура** – числовой параметр генерации модели (от 0 до 1), который влияет на креативность ответа.

#### **Внешний сервис**

**Внешний сервис** – URL, который используется при вызове определенного внешнего API по заданному URL. Когда необходимо инициировать событие или получить информацию, то система посылает запрос на указанный URL внешнего сервиса.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2Fqo4G9lgiL2Xe7k8YvB8m%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=06293f54-01ec-4460-a328-6a82c25f4275" alt=""><figcaption></figcaption></figure>

* **URL внешнего сервиса** – адрес внешнего API или сервиса для модерации данных.

### Действия

**Действия** – режимы обработки сработавшего правила (маскировка, переписывание, перенаправление, уведомление, фиксированный ответ).

#### **Блокировка**

**Блокировка** – действие, при выборе которого сообщение будет заблокировано, и нейросеть ответит простым уведомлением об ошибке.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FDqVxMA619MFSe8xASoG6%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=163223ea-fe8a-4d40-8fc9-44e71b0740c5" alt=""><figcaption></figcaption></figure>

#### **Маскировка**

**Маскировка** – действие для скрытия данных. Если необходимо заменить или скрыть определённые слова, то они замазываются в ответе (и также замазаны в запросе). Это особенно важно, чтобы функция модерации предотвращала утечку чувствительной информации из внутреннего контура компании во внешний нейросетевой сервис.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FLdO8FbiPTHE1WFsw6NxY%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=b1585eee-d80b-49c6-b8d2-2d8828b008bf" alt=""><figcaption></figcaption></figure>

* **Текст замены** – однострочное текстовое поле, которое задаёт строку для замены чувствительных слов.

#### **Переписать**

**Переписать** – действие, которое позволяет отправить дополнительный запрос на собственную модель с определенным промптом, цель которого перефразировать или заменить нежелательные слова. Такой подход помогает избегать использования нежелательного контента без блокировки или удаления исходного сообщения.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2F28i4osVXcn1LyvLhlPOO%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=b54a6a7b-07e3-4826-a449-1be60b7f3115" alt=""><figcaption></figcaption></figure>

* **Модель** – выпадающий список для выбора внутренней модели ИИ для перефразировки.
* **Промпт** – многострочное поле, предлставляющее собой шаблон инструкции для переписывания запроса.
* **Температура** – числовое поле (от 0 до 1), оценивающее уровень креативности генерации.

#### **Перенаправление**

**Перенаправление** – действие, которое позволяет отправить запрос на другую модель или сервис, что позволяет гибко управлять обработкой данных.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2F0bOs27CqDPnPi4Sm3iMO%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=1bdd8bd7-f65b-4562-a40f-5c64759a37e1" alt=""><figcaption></figcaption></figure>

* **Модель** – выпадающий список для выбора внутренней модели ИИ для перенаправления запроса.

#### **Уведомление**

**Уведомление** – действие, которое позволяет системе не блокировать само сообщение, а просто фиксировать факт обращения, отправляя соответствующее уведомление администратору. В логах или аудите сохраняется информация о том, что Пользователь задал вопрос, содержащий неподходящий или чувствительный контент, что помогает службе безопасности своевременно на него реагировать.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FNUGPzvmd1A7XWWUuRoFv%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=8888cfe9-566e-4a0c-9a8f-2a6641a08c1e" alt=""><figcaption></figcaption></figure>

#### **Фиксированный ответ**

**Фиксированный ответ** – действие, которое позволяет Пользователю получать заранее заданный ответ без обращения к внешней нейросети. Такой ответ может служить уведомлением об ошибке или ограничениях (например, о недопустимых словах или выражениях). Его можно расширить, добавив в сообщение более информативное объяснение, что конкретно недопустимо в системе.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FZ0x9vDSNi8dV9Fv9RtDh%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=e077ef65-f055-4e20-ac97-ef0c676f7a44" alt=""><figcaption></figcaption></figure>

* **Фиксированный ответ** – многострочное текстовое поле, позволяющее задать готовый текст ответа.

### Тестовый текст

Чтобы проверить, корректно ли отрабатывается выбранное действие, можно использовать поле "Тестовый текст". Введите в него текст и нажмите на кнопку "Выполнить тест".

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2Fu71nMPEnMYgQrf0coMTT%2Fimage.png?alt=media&#x26;token=cc347c1a-4341-4589-9fa0-f97062b819e5" alt=""><figcaption></figcaption></figure>

### Редактировать набор правил

Для просмотра и редактирования свойств конкретного набора правил необходимо выбрать его в списке и нажать на кнопку ![](https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FsFzMyofV0odcE1cNLRpF%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media\&token=fbd5dbee-9aae-4fbe-9d04-880072f37f71). После этого откроется форма с настройками набора правил, в которую можно внести необходимые изменения. Новых полей в ранее созданном наборе правил нет.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FzDSF3MAF0CtNs60qFhFN%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media&#x26;token=d67783ba-7ad1-4e63-931b-1dff497ea3f0" alt=""><figcaption></figcaption></figure>

### Редактировать правило

Для просмотра и редактирования свойств конкретного правила необходимо выбрать его в списке и нажать на кнопку ![](https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FsFzMyofV0odcE1cNLRpF%2F%D0%B8%D0%B7%D0%BE%D0%B1%D1%80%D0%B0%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5.png?alt=media\&token=fbd5dbee-9aae-4fbe-9d04-880072f37f71). После этого откроется форма с настройками правила, в которую можно внести необходимые изменения. Новых полей в ранее созданном правиле нет.

<figure><img src="https://483167589-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FpyvTUnAaOD3OMZ1w2jM6%2Fuploads%2FoISUwqaKd3SRBShV2lCW%2F2025-08-06_22-55-48.png?alt=media&#x26;token=5f29b3fc-760e-445f-aefb-d9117e0d7848" alt=""><figcaption></figcaption></figure>