Главная / Словарь / Что такое RAG

Что такое RAG

RAG - это способ дать нейросети доступ к вашим документам, не переобучая её. Перед тем как задать вопрос модели, система ищет в базе релевантные фрагменты и подкладывает их в промпт. Модель отвечает уже по ним, а не по памяти. Название расшифровывается как генерация с дополнением поиском.

Зачем RAG, если можно просто приложить документ?

Пока документ один, приложить действительно проще. RAG нужен, когда база больше контекста модели: тысяча регламентов, вся переписка, каталог товаров. Целиком это не помещается ни в один промпт, поэтому сначала ищем нужные абзацы, потом спрашиваем.

Убирает ли RAG галлюцинации?

Снижает, но не убирает. Модель по-прежнему может достроить недостающее, а поиск может подложить не тот фрагмент. Практический приём - требовать в ответе ссылку на источник и проверять, что процитированное действительно есть в найденном тексте. Ответ без источника считать неполученным.

Что определяет качество RAG?

Не модель, а нарезка базы и поиск. Если документы разбиты на куски неудачно и ответ на вопрос разорван между двумя фрагментами, никакая модель это не спасёт. Основная работа при внедрении лежит в подготовке базы, а не в подборе нейросети.

Что нужно подготовить до внедрения?

Список вопросов, на которые система обязана отвечать, и документы, в которых ответы действительно есть. Это звучит очевидно, но именно здесь всё и встаёт: половина вопросов оказывается без письменного ответа, а часть документов противоречит друг другу. Пока противоречия не сняты, RAG будет уверенно цитировать устаревшую версию регламента.

Как понять, что RAG работает плохо?

По ответам, где источник указан, но не подтверждает сказанное. Это главный симптом: поиск подложил не тот фрагмент, а модель достроила остальное. Второй симптом - ответы разного качества на близкие вопросы, что означает неудачную нарезку базы. Оба лечатся на стороне поиска и подготовки документов, а не сменой модели.