Векторный индекс

Векторный индекс — структура данных, которая делает поиск по близости быстрым. Сравнение запроса со всеми сохранёнными эмбеддингами точно и линейно; индекс (HNSW, IVF, ScaNN и другие) сужает поиск до перспективной окрестности и отвечает за миллисекунды вместо секунд. Платой становится приближённость. Это структуры приближённого поиска ближайших соседей: они возвращают верные ответы в большинстве случаев, а параметры настройки решают, насколько часто. Высокий recall стоит памяти и задержки; низкий тихо выбрасывает единственный релевантный документ из выдачи, которую никто не проверяет. Именно из-за этой тишины recall должен быть в мониторинге. RAG-ассистент с плохо настроенным индексом не падает — он уверенно отвечает по четырём найденным документам, а пятый, где было исключение из правила, просто отсутствует. Практика: фильтрованный поиск («только документы этого арендатора») — место, где наивные индексы ломаются; проверьте, применяет ли база фильтры во время обхода, а не после. И считайте стоимость перестроения: индекс, который строится шесть часов, определяет, как часто вы сможете переэмбеддить корпус.