RAG для базы знаний компании: как это работает
RAG — способ заставить нейросеть отвечать сотруднику не «из головы», а по документам самой компании: регламентам, инструкциям, записям обучения. Система сначала находит в базе знаний подходящие фрагменты, потом передаёт их языковой модели вместе с вопросом. Качество ответа почти целиком определяется качеством базы, а не выбором модели.
Ниже — как устроен RAG, где он полезен аппарату управления и службе обучения, из каких этапов состоит и какие ошибки делают ассистента бесполезным.
Что такое RAG
RAG (Retrieval-Augmented Generation, генерация с дополнением найденным) — архитектура, в которой ответ языковой модели строится на фрагментах из внешней базы знаний, найденных под конкретный вопрос. Модель не дообучают на документах компании: при каждом запросе ей заново подкладывают релевантный контекст. Поэтому базу можно обновлять хоть ежедневно, а модель — менять на более дешёвую или более сильную без переделки системы.
Бытовая аналогия: студент перед экзаменом не заучивает всю библиотеку, а открывает нужные главы по билету. RAG делает то же самое — только за доли секунды и по тысячам документов.
Зачем RAG предприятию
Типичная ситуация: регламенты лежат в десятке папок, инструкции устарели наполовину, а ответы на повторяющиеся вопросы новички получают у тех, кто занят другой работой. RAG-ассистент снимает эту нагрузку.
| Сценарий | Кто спрашивает | Что даёт RAG |
|---|---|---|
| Адаптация новых сотрудников | Новички первых месяцев | Ответ по регламенту со ссылкой на документ, без отвлечения наставника |
| Обучение по записям лекций и инструктажей | Сотрудники службы, проходящие курс | Объяснение термина языком самого курса |
| Внутренняя служба поддержки | Работники подразделений | Одинаковый ответ на один и тот же вопрос, независимо от смены |
| Поиск по нормативке и инструкциям | Руководители, специалисты | Нужный пункт вместо чтения документа целиком |
Ключевой эффект — не «умный чат», а воспроизводимость: на один вопрос система отвечает по одному источнику, и этот источник можно проверить.
Как работает RAG: четыре этапа
1. Подготовка данных. Документы очищают от мусора — служебных символов, колонтитулов, дублей — и режут на фрагменты, чанки. От того, как нарезаны чанки, зависит, найдётся ли нужный кусок вообще; подробно это разобрано в материале о чанковании в RAG.
2. Векторизация. Каждый чанк переводится в эмбеддинг — числовой вектор, который строит отдельная нейросеть. Векторы хранятся в векторной базе данных.
3. Поиск. Вопрос сотрудника переводится в вектор той же моделью, после чего база находит ближайшие по косинусному сходству чанки. Даже на миллионе фрагментов это занимает доли секунды. На выходе — несколько наиболее похожих фрагментов.
4. Генерация. Найденные фрагменты и вопрос уходят в языковую модель с инструкцией: ответь, опираясь только на этот контекст. Модель формулирует ответ человеческим языком.
Короткая формула: RAG = поиск по базе знаний + генерация ответа на его основе.
Как эти этапы выглядят в работающем сервисе, с конкретными моделями, размерами и ценами, показано в разборе пайплайна RAG-сервиса из видеолекций.
Почему 80 % качества зависит от данных
Модель в RAG можно взять любую — дорогую и сильную или дешёвую и попроще. Но если поиск принёс ей не тот фрагмент, никакая модель не ответит правильно: она честно перескажет то, что получила.
Именно поэтому многие корпоративные боты раздражают. Архитектура у них та же, но база не размечена, документы противоречат друг другу, а нарезка рвёт мысль посередине. Сотрудник получает уверенный ответ ни о чём и перестаёт открывать ассистента. Подготовка базы — та же задача, что разметка данных в любом ML-проекте: скучная, но определяющая результат.
Чеклист запуска RAG-ассистента
- Выбрать один сценарий и одну аудиторию, а не «ассистента для всех».
- Собрать документы этого сценария и убрать устаревшие версии.
- Очистить тексты от служебного мусора и привести к единому формату.
- Подобрать размер чанков под тип документов и задать перекрытие.
- Собрать 20–30 реальных вопросов сотрудников как контрольный набор.
- Проверить, что на каждый контрольный вопрос поиск находит правильный фрагмент.
- Заставить модель отвечать только по найденному контексту и указывать источник.
- Назначить владельца базы, который обновляет документы после изменений регламентов.
Частые ошибки
Начинать с выбора модели. Спор о том, какая нейросеть умнее, откладывает главное — проверку того, что поиск находит нужные документы.
Загружать всё подряд. Черновики, дубли и старые версии регламентов конкурируют с актуальными и выигрывают поиск.
Не проверять поиск отдельно от ответа. Если оценивать только итоговый текст, непонятно, ошиблась модель или ей принесли не тот фрагмент.
Разрешать отвечать без контекста. Модель, которой позволено «дополнить от себя», начнёт уверенно выдумывать внутренние правила.
Оставлять базу без владельца. Через полгода ассистент отвечает по регламенту, который уже отменён.
Что делать дальше
Выпишите десять вопросов, которые новые сотрудники чаще всего задают наставникам, и найдите для каждого документ, где лежит ответ. Если документ нашёлся для восьми и больше — база готова к пилотному проекту RAG-ассистента. Если меньше — начинать нужно не с нейросети, а с наведения порядка в регламентах.