Если к чат-боту или Ассистенту подключена База знаний, то алгоритм обработки запросов к ней выглядит так:
- База знаний делится на чанки (отрезки) с помощью решеток.
- Клиент задает вопрос чат-боту.
- Чат-бот преобразовывает вопрос в векторный формат и сопоставляет с промптом и Базой знаний по нужным отрезкам текста и на основе этого генерирует ответ.
В качестве контекста передаются последние 10 сообщений.