Чанкинг для RAG

Чанкинг — шаг поискового конвейера, на котором документы делятся на фрагменты перед эмбеддингом и индексацией. Звучит как сантехника, а на деле именно он в большинстве RAG-систем определяет качество поиска сильнее всего. Компромисс работает в обе стороны. Мелкие фрагменты точно эмбеддятся и чисто находятся, но приходят к модели без окружения, которое придавало им смысл: абзац «на корпоративные тарифы это не распространяется» опасен без предыдущего. Крупные фрагменты сохраняют контекст, но размывают эмбеддинг: страница о двенадцати темах слабо совпадает со всеми и сильно — ни с одной. На практике работает нарезка по структуре, а не по числу символов: заголовки, пункты списка, строки таблиц, определения функций. Перекрытие в одно-два предложения переносит контекст через границу, а хранение заголовка документа и пути раздела вместе с фрагментом позволяет развернуть его при ответе. Измеряйте. Точность поиска на фиксированном наборе вопросов считается дёшево и скажет о качестве ассистента больше, чем смена модели.