Как подключить Базу знаний к чат-боту
Вы можете создать Базу знаний и добавить её к чат-боту. Тогда нейросотрудник будет опираться на нее при генерации ответов.
Содержание:
Особенности подключения Базы знаний к чат-боту
- Чтобы подключить Базу знаний к чат-боту, добавьте её предварительно в разделе Базы знаний.
- Ключ Базы знаний должен соответствовать ключу чат-бота — только в этом случае вы сможете выбрать Базу знаний из списка.
- К обычному чат-боту можно подключить Базу знаний с типом «NeuroSpace». Если вы хотите, чтобы чат-бот использовал Базу «OpenAI», рекомендуем заранее создать Ассистента и добавить к нему соответствующую Базу знаний, и только затем создавать чат-бота на базе Ассистента с указанной Базой знаний.
- Чтобы чат-бот для генерации ответа мог брать только нужные абзацы из Базы знаний «NeuroSpace», необходимо разделить текст на чанки, то есть смысловые куски текста. Отделять чанки необходимо десятью решетками (#).
- Если вы используете тщательно прописанный prompt, в котором чат-бот находит соответствие для ответа, то он может проигнорировать подходящую информацию в Базе знаний. Чтобы уменьшить риск ошибок со стороны чат-бота при генерации ответов, постарайтесь составить prompt на минимальный объем, дополнительную информацию укажите в Базе знаний.
- Не указывайте в инструкции, что бот должен обращаться к Базе знаний и не прописывайте ссылки на сторонние аккаунты или сайты, где содержится информация о вашей компании, товарах или услугах. Иначе это увеличит риск ошибок при генерации ответов.
- Если скорость расхода токенов и стоимость обращений вашего чат-бота к Базе знаний «NeuroSpace» такая же, как и у OpenAI, обратите внимание на разметку промта. Возможно, вы не разбили его на чанки с помощью решеток.
Как подключить Базу знаний
1
Перейдите к редактированию чат-бота.
2
Активируйте опцию «База знаний» и в списке выберите нужную Базу знаний. Обратите внимание: если список пуст или в нем нет нужной Базы, убедитесь, что ключ чат-бота соответствует ключу Базы знаний, которую вы хотите подключить.
3
Настройте условия поиска, фильтрации и подгрузки информации из Базы знаний с помощью следующих параметров:
3
Количество чанков
Укажите количество смысловых отрезков текста в Базе знаний, которые должны подгружаться по результатам контекстного поиска по Базе. В каждом чанке может быть несколько десятков строк, поэтому данное ограничение на подгрузку чанков в контекстное окно чат-бота позволяет снизить расход токенов при обращении бота к Базе.
Конечное количество загруженных чанков зависит от параметра «Дистанция векторов»: чем меньше дистанция, тем меньше чанков может быть загружено и добавлено к промту для генерации ответа.
Укажите количество смысловых отрезков текста в Базе знаний, которые должны подгружаться по результатам контекстного поиска по Базе. В каждом чанке может быть несколько десятков строк, поэтому данное ограничение на подгрузку чанков в контекстное окно чат-бота позволяет снизить расход токенов при обращении бота к Базе.
Конечное количество загруженных чанков зависит от параметра «Дистанция векторов»: чем меньше дистанция, тем меньше чанков может быть загружено и добавлено к промту для генерации ответа.
Примечание. Базы в форматах .txt, .doc(-x) должны быть разделены на смысловые отрезки текста (чанки) десятью решетками (#).
3
Количество чанков
База знаний при загрузке в систему переводится в векторный формат. Данный параметр позволяет выполнять поиск по векторным данным и устанавливает правила фильтрации подгружаемых чанков. Можно установить значение от 0 до 1, где 0 — наиболее узкий поиск, 1 — максимально широкий. Допустимо использовать десятые и сотые: например, 0.3 или 0.85.
Чем меньше значение, тем ýже векторный поиск, строже фильтрация и меньше количество подгружаемых чанков.
База знаний при загрузке в систему переводится в векторный формат. Данный параметр позволяет выполнять поиск по векторным данным и устанавливает правила фильтрации подгружаемых чанков. Можно установить значение от 0 до 1, где 0 — наиболее узкий поиск, 1 — максимально широкий. Допустимо использовать десятые и сотые: например, 0.3 или 0.85.
Чем меньше значение, тем ýже векторный поиск, строже фильтрация и меньше количество подгружаемых чанков.
3
Количество сообщений для поиска
Укажите количество последних сообщений из диалога, которые должны передаваться для поиска чанков в Базе знаний. Чем выше значение, тем объемнее будет передаваться контекст. Если при этом вы установили минимальную дистанцию векторов, то это может увеличить риск ошибок. Например, чат-бот может сгенерировать ответ на основе выдуманных им данных.
Рекомендуем начинать с минимального значения в одно сообщение, а затем корректировать его в соответствии с результатами тестирования на ваших бизнес-процессах и другими настройками.
Укажите количество последних сообщений из диалога, которые должны передаваться для поиска чанков в Базе знаний. Чем выше значение, тем объемнее будет передаваться контекст. Если при этом вы установили минимальную дистанцию векторов, то это может увеличить риск ошибок. Например, чат-бот может сгенерировать ответ на основе выдуманных им данных.
Рекомендуем начинать с минимального значения в одно сообщение, а затем корректировать его в соответствии с результатами тестирования на ваших бизнес-процессах и другими настройками.
Как это работает: принцип обращения чат-бота к Базе знаний
1
Учет количества сообщений для поиска
Клиент пишет чат-боту: приветствует его или задает вопрос. Чат-бот ведет диалог: отвечает, консультирует по услугам или товарам. По каждому сообщению, в зависимости от установленного значения в параметре «Количество сообщений для поиска», выполняется поиск информации (чанков) в Базе знаний.
Клиент пишет чат-боту: приветствует его или задает вопрос. Чат-бот ведет диалог: отвечает, консультирует по услугам или товарам. По каждому сообщению, в зависимости от установленного значения в параметре «Количество сообщений для поиска», выполняется поиск информации (чанков) в Базе знаний.
2
Векторный поиск
В соответствии с установленным значением в поле «Дистанция векторов» к промту чат-бота для генерации результата (ответа) добавляются отфильтрованные чанки.
В соответствии с установленным значением в поле «Дистанция векторов» к промту чат-бота для генерации результата (ответа) добавляются отфильтрованные чанки.
3
Подгрузка чанков и добавление к промту для генерации ответа
Количество чанков может быть равно или меньше значения, установленного в поле «Количество чанков». Чем строже фильтрация (меньше дистанция векторов), чем меньше чанков добавляется к промту.
Количество чанков может быть равно или меньше значения, установленного в поле «Количество чанков». Чем строже фильтрация (меньше дистанция векторов), чем меньше чанков добавляется к промту.
4
Генерация ответа
Чат-бот генерирует ответ в соответствии с промтом и подгруженной информацией из Базы знаний.
Чат-бот генерирует ответ в соответствии с промтом и подгруженной информацией из Базы знаний.
Полезные материалы по теме:
Создать своего нейросотрудника
Создавайте нейросотрудников и интегрируйте в свой бизнес для оптимизации процессов
Свяжитесь с нами
Если у вас возникли вопросы или трудности, свяжитесь с нами любым удобным для вас способом
Контакты
Республика Казахстан, г.Алматы,
ул. Ауэзова, д.175, н.п. 9а
ул. Ауэзова, д.175, н.п. 9а
