Как настроить элемент «ИИ»

Элемент предназначен для того, чтобы отвечать на вопросы клиентов с помощью ИИ. Подробнее о функциональности см. «Элемент  «ИИ».

Как добавить элемент «ИИ» на схему:

1. Добавьте элемент «ИИ» в сценарий — перетащите его на схему с помощью кнопки: 

2. Нажмите на кнопку с часами и включите параметр «Ограничить время ожидания» (graph_element_params), установив флажок напротив него. Этот параметр задает время, по истечении которого считается, что ИИ не нашел ответ или его ответ не распознан. Введите количество секунд и нажмите «Сохранить». 

3. Нажмите на иконку с карандашом и задайте параметры ИИ:

   • Сообщение — введите переменную {{stt_answer}}. Данная переменная отвечает за то, на какой вопрос отвечает ИИ. ИИ берет информацию, на какой вопрос он должен ответить, из блока «Вопрос-ответ».

   • Контекст — длина контекста ограничивается допустимым количеством токенов. В данном примере заложены не только варианты поиска ответа на вопрос клиента, но и то, как ИИ будет отвечать в зависимости от ответа клиента - нюансы, которые влияют на работу ИИ. Вы можете ввести любой контекст, содержащий логику, по которой ИИ будет обрабатывать информацию, полученную от клиента.

     ⚠️Внимание! ИИ можно настроить так, что он будет распознавать контекст предыдущего вопроса и отвечать с учетом контекста, вести с клиентом диалог на определенную тему. Даже если клиент не произнес каких-то ключевых слов, ИИ ответит с учетом того, что контекст обоих вопросов един.

     
     

     • Для этого следует добавить на схему второй блок «ИИ» и прописать следующие настройки: Сообщение — ****переменную {{stt_answer}}. Контекст — ****последовательность Q:{{stt_answer_5083_1}} A:{{gpt_answer}} где stt_answer — вопрос, на который ИИ уже дал ответ 5083_1 — идентификатор блока «Вопрос-ответ», в котором ИИ этот ответ произносил. Отображается в поле «Идентификатор» внутри элемента «Вопрос-ответ».

   • Токены — Представляют собой последовательности символов, встречающиеся в наборе текста. Т.е. это единица, в которой измеряется текст в контексте и в сообщении. Каждый токен включает в себя примерно 2-3 символа. 100 токенов ~= 75 слов.

   • Температура — Следует устанавливать температуру от 0 до 1, рекомендуемое значение - 0,7.

     • 0: отвечает самыми вероятными ответами и конструкциями, меньше творчества.
     • 1: больше творчества, непредсказуемее.

   • Типы моделей:

     Выберите модель, введите количество токенов, которые максимально сможет обработать ИИ, и установите температуру (рекомендуемое значение 0.7).

     • OpenAI

       • gpt-4o — универсальная модель с поддержкой текста, аудио и изображений, оптимизированная для скорости и качества. Максимальное количество токенов — 4096.
       • gpt-4o-mini — облегчённая версия gpt-4o с меньшим потреблением ресурсов, подходящая для задач, где важна скорость и экономия. Максимальное количество токенов — 16 384 токенов.

     • GigaChat

       • Lite (по умолчанию) — для решения простых задач, требующих высокой скорости работы модели. Дешёвая и менее требовательна к аппаратному обеспечению.

     • YandexGPT-4

       • Способна генерировать текст, отвечать на вопросы, создавать контент, а также выполнять более сложные задачи обработки естественного языка с высокой точностью.
          

4. Нажмите «Сохранить».

Как построить сценарий с использованием элемента «ИИ», см. в разделе «Типовые сценарии с применением ИИ».