Подход, при котором модель перед ответом подтягивает актуальные данные из внешней базы — снижает галлюцинации и добавляет свежие знания.
RAG (Retrieval-Augmented Generation, генерация с дополнением поиском) — подход, при котором перед тем как сгенерировать ответ, система сначала ищет релевантные фрагменты текста во внешней базе знаний (например, во внутренней документации компании или в базе статей), а затем передаёт эти фрагменты модели вместе с вопросом пользователя как дополнительный контекст.
Это решает две проблемы обычных LLM: во-первых, модель не может знать о событиях и документах, появившихся после её обучения — RAG даёт доступ к свежим данным без переобучения; во-вторых, снижается частота галлюцинаций, поскольку модель опирается на найденные фрагменты, а не только на «память», зашитую в весах.
RAG — основа большинства корпоративных чат-ботов и «умных поисковиков по документам»: пользователь задаёт вопрос, система находит релевантные страницы во внутренней базе знаний и просит LLM сформулировать ответ, ссылаясь на них.
Файнтюнинг меняет саму модель, «зашивая» в неё новые знания навсегда. RAG не меняет модель — он подключает внешнюю базу знаний в момент запроса, что проще обновлять и дешевле поддерживать.
На практике почти всегда да — векторный поиск по эмбеддингам позволяет находить семантически похожие фрагменты, даже если формулировки не совпадают дословно.
Нет, но существенно снижает — модель всё ещё может неверно интерпретировать найденный текст, хотя вероятность выдумывания фактов «из ниоткуда» падает.