RAG (Retrieval-Augmented Generation)

RAG (Retrieval-Augmented Generation) — схема, в которой генеративная модель отвечает с опорой на найденные во внешнем хранилище материалы. Система преобразует запрос в поисковое представление, выбирает подходящие фрагменты документов и добавляет их в контекст модели.

RAG применяют в поиске по базе знаний, поддержке клиентов, работе с регламентами, договорами и технической документацией. В отличие от дообучения, документы можно обновлять без изменения весов модели. Хорошая реализация сохраняет ссылки на источники и позволяет проверить, на каком фрагменте основан ответ.

Качество зависит от подготовки документов, разбиения на фрагменты, модели эмбеддингов, поиска, переранжирования и инструкции для генерации. RAG снижает риск выдуманных фактов, но не устраняет его полностью: поиск может вернуть нерелевантный материал, а модель — неверно его интерпретировать. Поэтому для важных сценариев нужны оценки качества и правила отказа при недостатке данных.