Если к чат-боту или Ассистенту подключена База знаний, то алгоритм обработки запросов к ней выглядит так:
- База знаний делится на чанки (отрезки).
- Клиент задает вопрос чат-боту.
- Чат-бот преобразовывает вопрос в векторный формат и сопоставляет с промптом и Базой знаний по нужным отрезкам текста и на основе этого генерирует ответ.
При подключении Базы знаний к чат-боту можно указать количество последних сообщений из диалога, которые будут переданы для поиска чанков по базе, а также настроить параметры поиска.