--- title: "Retrieval‑Augmented Generation (RAG)" source: "https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)" wiki: "systems-analysis.info/wiki" article: "Retrieval‑Augmented_Generation_(RAG)" language: "ru" categories: - "Категория:Prompt инжиниринг" - "Категория:Russian" - "Категория:Большие языковые модели" - "Категория:Машинное обучение" revision_id: 176 wiki_created_at: 2026-09-06T22:04:52Z wiki_modified_at: 2026-09-06T22:04:52Z downloaded_at: 2026-09-07T22:18:04Z --- # Retrieval‑Augmented Generation (RAG) **Retrieval-Augmented Generation (RAG)** (*рус. Генерация, дополненная поиском*) — это метод в области искусственного интеллекта, при котором **генеративная языковая модель** (**LLM**) снабжается доступом к внешним источникам информации для улучшения точности и достоверности ответов. Иначе говоря, модель перед генерацией ответа выполняет **поиск релевантных данных** (например, в базе документов, на сайте или в БД) и использует найденные сведения при формировании ответа[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1)[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Такой подход обеспечивает **«дополнение» знаниями** из актуальных источников и помогает преодолеть ограничения самих LLM, связанные с ограниченным объемом «памяти» и устаревшей информацией[\[3\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-survey-3). RAG-система способна ссылаться на конкретные документы (например, в виде сносок) в сгенерированном ответе, что повышает прозрачность и позволяет пользователю проверить факты[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). В результате снижается риск появления **галлюцинаций** — случаев, когда модель уверенно выдает неправдивую информацию[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1)[\[3\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-survey-3). RAG расширяет базу знаний LLM практически до неограниченного объема и позволяет моделям использовать самые свежие данные без переобучения[\[4\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-pragmaticengineer-rag-4). ## Истоки и развитие метода Идея сочетать поиск информации с автоматической генерацией ответов зародилась задолго до появления современных LLM. Еще в 1970-х годах предпринимались попытки создать системы **question-answering**, которые искали ответы в текстовых базах данных по заданному вопросу[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). В 1990-х годах появился веб-сервис Ask Jeeves, популяризировавший поиск ответов на естественном языке, а в 2011 году система IBM Watson продемонстрировала возможности ИИ, выиграв телешоу Jeopardy! у человеческих участников[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). Современный этап развития связан с внедрением нейросетевых языковых моделей: **Retrieval-Augmented Generation** как отдельный подход был предложен в 2020 году группой исследователей из Facebook AI Research, Университетского колледжа Лондона и др. под руководством Патрика Льюиса[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). В их работе, принятой на NeurIPS 2020, описана модель RAG — генеративная seq2seq-модель (например, BART) с **дифференцируемым доступом** к внешнему "непараметрическому” хранилищу знаний[\[5\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-original-5). Авторы использовали в качестве внешней базы знаний всю англоязычную Википедию, представив ее в виде **векторного индекса** (~21 миллион фрагментов текста), по которому производится поиск с помощью нейронного алгоритма **Dense Passage Retrieval**[\[5\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-original-5). Для входящего запроса модель RAG извлекает из индекса наиболее подходящие фрагменты и добавляет их в контекст генерации ответа. Такой механизм позволил достичь новых рекордных результатов (state-of-the-art) на задачах с открытой базой знаний, например в тестах Natural Questions, WebQuestions и др.[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Отмечено, что ответы RAG-модели получались более специфичными и фактологически корректными, чем у предыдущих генеративных подходов, благодаря синтезу информации сразу из нескольких источников[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Вскоре Facebook открыто опубликовала исходный код RAG: модель была интегрирована в библиотеку HuggingFace Transformers и связанный с ней набор данных, что позволило разработчикам легко применять RAG в своих проектах[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). С 2020 года методика RAG быстро набрала популярность — по словам автора, несмотря на неблагозвучную аббревиатуру, подход получил широкое распространение, породив сотни научных работ и став основой множества коммерческих сервисов[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). ## Принцип работы RAG Принципиальная схема Retrieval-Augmented Generation: модуль поиска (слева) извлекает релевантные документы из базы знаний, после чего генеративная модель (справа) формирует ответ на основе запроса пользователя с учётом найденной информации[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). Такой подход позволяет LLM опираться на **актуальные внешние данные** при генерации ответа. На диаграмме показано, как пользовательский запрос преобразуется в вектор и используется для поиска схожих текстовых фрагментов; затем они подключаются к контексту модели, «расширяя» её знания и повышая точность ответа. RAG-система обычно состоит из двух основных компонентов: **модуля поиска** (retriever) и **модуля генерации ответа** (generator)[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). На этапе подготовки строится **векторный индекс** базы знаний: все документы (тексты) разбиваются на фрагменты и преобразуются моделью **эмбеддинга** в числовые векторы, которые сохраняются в специализированной базе данных для последующего поиска[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). При поступлении запроса пользователя тот же эмбеддинг-модель кодирует запрос в вектор; далее выполняется поиск **ближайших соседей** векторного пространства – выбирается top K наиболее похожих фрагментов из индекса знаний (например, K = 5)[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). Эти фрагменты считаются внешним контекстом, содержащим вероятные факты по теме запроса. На следующем этапе сформированный контекст используется генеративной моделью. Исходный вопрос вместе с найденными текстовыми фрагментами подается на вход LLM (например, трансформеру типа seq2seq или инструкционно-ориентированной модели) для **генерации итогового ответа**[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Языковая модель, таким образом, условно опирается не только на свои заученные (параметрические) знания, но и на предоставленные ей внешние данные. В оригинальной реализации RAG роли генератора выступала предобученная модель BART, а внешняя "память" была представлена коллекцией Wikipedia, проиндексированной методом DPR[\[5\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-original-5). ### Fusion-подход к объединению знаний Важной особенностью RAG является способ, которым модель сочетает информацию из нескольких найденных документов. В отличие от простого конкатенирования всего текста, RAG применяет подход, известный как **late fusion** («позднее слияние результатов») — генеративная модель параллельно обрабатывает каждый из K полученных фрагментов и формирует для него гипотетический ответ с оценкой уверенности, после чего агрегирует эти варианты в финальный вывод[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Такой метод позволяет RAG синтезировать ответ даже в тех случаях, когда ни в одном отдельном источнике не содержится прямого и полного ответа на вопрос. Например, если нужные сведения распределены по разным статьям, модель способна объединить «зацепки» из нескольких документов в единый ответ[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2) (Отмечено, что увеличение числа используемых документов обычно повышает полноту ответа ценой небольшой потери связности текста[\[7\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-original-pdf-7).) ### Варианты реализации В оригинальной работе 2020 года предложены две модификации архитектуры RAG[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). В режиме **RAG-Sequence** генеративная модель получает фиксированный набор найденных документов и использует их для порождения всего ответа целиком. В режиме **RAG-Token**, напротив, допускается динамическое обновление: на каждом шаге генерации очередного токена модель может заново выполнять поиск и подгружать дополнительный фрагмент текста, если это необходимо для уточнения ответа. Оба подхода показывают схожий высокий уровень качества; RAG-Sequence проще и быстрее, тогда как RAG-Token теоретически позволяет учесть больше различных сведений на длинных ответах[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). ## Преимущества RAG - **Актуальность и фактическая точность**. Подключение внешних данных позволяет LLM давать более точные и обоснованные ответы, опираясь на реальные сведения, а не только на параметры модели. Это существенно снижает риск устаревшей либо попросту вымышленной информации в ответе модели[\[3\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-survey-3)[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). В отличие от моделей с фиксированным «срезом знаний», RAG может отвечать даже на вопросы о событиях или фактах, появившихся после завершения обучения модели — за счет доступа к свежим источникам данных[\[4\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-pragmaticengineer-rag-4). - **Прозрачность и доверие пользователей**. RAG-системы способны предоставлять **ссылки** на источники информации (например, на статьи, отчеты или базы данных), которые послужили основой ответа[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). По сути, модель оформляет свои ответы подобно научной работе с сносками, что позволяет проверить достоверность каждого факта. Наличие цитируемых первоисточников повышает доверие со стороны пользователей и облегчает **верификацию** полученной информации. - **Специализация под предметную область**. Retrieval-augmentation дает возможность относительно легко адаптировать работу модели под **узкий домен знаний**, не меняя саму языковую модель. Для этого достаточно снабдить LLM специализированной базой знаний по нужной тематике — будь то медицинские статьи, юридические документы или технические мануалы компании. Модель, оставаясь общей по своим параметрам, начинает выступать в роли эксперта в данной области, поскольку черпает факты из подобранного датасета[\[4\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-pragmaticengineer-rag-4)[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). Например, юридический помощник на основе RAG может ограничить область поиска одним юрисдикционным корпусом (законами конкретной страны), гарантируя, что ответы будут соответствовать именно этому законодательству[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). - **Гибкость и обновляемость знаний**. В классических моделях для добавления новых знаний или исправления неверных фактов требовалось производить повторное обучение (fine-tuning) на расширенном датасете, что затратно по времени и ресурсам. RAG решает эту проблему: чтобы **обновить знания** модели, достаточно обновить внешнюю базу данных или подключить дополнительные источники, и модель сразу начнет использовать новую информацию[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Это позволяет легко поддерживать актуальность системы — фактически, данные можно «горячо» заменять даже в реальном времени без перерыва в работе модели[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). - **Эффективность и экономия ресурсов**. RAG-подход часто оказывается более практичным, чем тренировка сверхкрупных моделей, стремящихся охватить всю информацию в своих параметрах. Интегрируя поиск, можно достичь сопоставимых результатов с моделью умеренного размера, не пытаясь запоминать абсолютно все факты внутри самой нейросети[\[6\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-exxact-blog-6). Кроме того, внедрение RAG-пайплайна относительно несложно: существуют готовые инструменты (Frameworks, библиотеки), и разработчики демонстрируют, что базовый прототип RAG можно собрать буквально за несколько строк кода[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). Таким образом, RAG снижает совокупные затраты на внедрение ИИ: вместо обучения новой модели под каждую задачу достаточно настроить механизм поиска и предоставить подходящие данные. ## Проблемы и ограничения RAG Несмотря на очевидные достоинства, Retrieval-Augmented Generation наследует ограничения как от компонент поиска, так и от самих языковых моделей[\[9\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-failure-points-9). Ниже перечислены ключевые проблемы, присущие RAG-системам: - **Зависимость от качества поиска**. Получаемый ответ будет корректным ровно в той мере, в какой релевантны и надежны извлеченные данные. Если модуль поиска вернет документы, не относящиеся к вопросу или содержащие ошибки, генеративная модель не сможет «исправить» эти факты — она сгенерирует ответ на их основе[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). Таким образом, качество и актуальность внешней базы знаний непосредственно определяют точность RAG. Требуется регулярно обновлять индекс и настраивать алгоритмы ранжирования, чтобы выдача документов оставалась релевантной. - **Высокая сложность и ресурсоёмкость**. RAG-системе для работы требуется не только сама LLM, но и инфраструктура для поиска: хранение и обновление большой базы данных, индексация, время на выполнение запроса. Всё это увеличивает вычислительные затраты и может снижать скорость ответа по сравнению с одной только языковой моделью[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). В худшем случае задержки на этапе поиска или обработка очень большого количества данных замедлят систему. На практике приходится балансировать между качеством ответа и производительностью, оптимизируя pipeline (например, ограничивая размер базы знаний или глубину поиска, чтобы удерживать время отклика в пределах нормы). - **Требования к данным и поддержке**. Для эффективной работы RAG необходимы **качественные, структурированные и доступные** внешние данные. Модель поиска может затрудняться находить полезную информацию, если внешняя база знаний слабо организована или содержит шум[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). Кроме того, далеко не всегда нужные данные открыты или дешевы: компании приходится создавать и поддерживать собственные **knowledge bases**. Это создает дополнительные расходы и требует усилий по актуализации данных (например, добавление новых документов, чистка устаревших сведений). Слабое место RAG – зависимость от поддержки базы знаний в актуальном состоянии. - **Неустранимость некоторых ошибок LLM**. Хотя RAG значительно уменьшает число конфабуляций, полностью исключить **неверные ответы** не всегда возможно[\[9\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-failure-points-9). Генеративная модель все так же может допустить логическую ошибку или некорректно обобщить информацию, особенно если предоставленный контекст недостаточно полный или противоречивый[\[9\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-failure-points-9). Фактически, RAG переносит акцент ошибок: вместо откровенно вымышленных фактов («галлюцинаций») чаще встречаются **ошибки интеграции знаний** — например, модель может упустить важный фрагмент или некорректно увязать разные источники между собой. Поэтому в ответственных применениях (медицина, право) по-прежнему требуется участие человека для верификации и корректировки ответов системы. ## Применение RAG Метод Retrieval-Augmented Generation нашел применение во множестве сценариев, связанных с извлечением и использованием знаний. Ниже перечислены основные области, где RAG демонстрирует наибольшую пользу: - **Вопросно-ответные системы** и **чат-боты**. RAG позволяет создавать **виртуальных ассистентов** и чат-ботов, которые отвечают на вопросы пользователей с высокой точностью и могут предоставлять ссылки на источники. В сфере клиентской поддержки такие боты обращаются к внутренней базе знаний компании (FAQ, справочные статьи) и выдают мгновенные ответы на запросы клиентов, уменьшая нагрузку на сотрудников[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). В отличие от классических FAQ-систем, RAG-боты формулируют ответ живым языком, но при этом «подкрепляют» его актуальными данными, специфичными для проблемы пользователя. - **Медицина** и **здравоохранение**. Генеративная модель, дополненная специализированной медицинской базой данных (научные статьи, клинические протоколы, справочники), может выступать интеллектуальным помощником врача или пациента. Например, система сможет ответить на вопрос о редком диагнозе, найдя в медицинской литературе свежие исследования по этой теме[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). Важное достоинство RAG в медицине — возможность ссылаться на первоисточники (например, на результаты клинических испытаний), что необходимо для доверия со стороны врачей. Такие системы применяются для поддержки принятия решений, проверки симптомов, обучения студентов-медиков и т. д., обеспечивая доступ к новейшим медицинским знаниям. - **Право** и **финансы**. В юридической практике и финансовом анализе особенно критична точность и проверяемость информации. RAG-системы могут помочь профессионалам быстро находить необходимые данные: например, юрист с помощью модели найдет и процитирует прецедентное судебное решение или пункт закона, релевантный текущему делу, а финансовый аналитик — оперативно получит выдержки из свежих экономических отчетов или новостей рынка[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). При этом каждый ответ модели может содержать ссылки на конкретные документы (нормативные акты, отчеты, статьи), что соответствует стандартам отрасли и облегчает последующую ручную работу специалиста. - **Научные исследования** и **создание контента**. Журналисты, исследователи и писатели могут использовать RAG для ускорения **поиска фактов и источников** при подготовке материалов. Например, модель способна по запросу «собрать» информацию из нескольких достоверных публикаций и тем самым значительно сократить время на фактчекинг и подбор цитат[\[8\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-brightdata-blog-8). Исследовательские помощники на основе RAG автоматически извлекают ссылки на релевантные работы, данные из открытых баз (например, статистику из международных отчетов) и даже черновые переводы, позволяя авторам сфокусироваться на аналитической части работы. Подобные инструменты находят применение в СМИ, академической среде, при подготовке обзоров литературы и т.д. - **Корпоративные знания** и **поиск по документам**. Во многих организациях значительный объем ценной информации хранится в виде текстовых документов: регламенты, руководства, отчеты, переписка, лог-файлы. RAG предоставляет способ **интерактивного поиска** по таким неструктурированным данным с помощью языка. Сотрудник может задать вопрос («Что говорится о политике отпусков для удаленных сотрудников?») – и модель найдет нужный раздел внутреннего документа, процитирует его и сформулирует сводный ответ[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). Это повышает эффективность работы: новые сотрудники быстрее находят ответы на вопросы, отделы поддержки получают инструмент для оперативного поиска по базе инцидентов, а руководство — способ анализировать накопленные текстовые данные. Крупные ІТ-компании уже внедряют RAG-подход в корпоративных решениях: технологии от Microsoft, Google, IBM, AWS и др. интегрируют LLM с поиском по данным организации[\[1\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-nvidia-blog-1). ## Перспективы и дальнейшие исследования Метод Retrieval-Augmented Generation активно развивается, и в ближайшие годы ожидается дальнейшее расширение его возможностей. Одно из направлений — **мультимодальный RAG**, где в качестве внешней информации могут выступать не только тексты, но и изображения, аудио/видео или даже данные из сенсоров. Эксперименты показывают перспективность объединения языковых моделей с поиском по визуальным базам данных, что позволит, например, отвечать на вопросы по содержанию изображений или видео, опираясь на описания и связанные тексты[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Другое важное направление – одновременное использование **нескольких источников знаний**: будущие системы RAG смогут комбинировать данные из разных баз (например, Wikipedia, специализированные энциклопедии, личные заметки пользователя) и синтезировать ответы, учитывая все эти разнородные сведения[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). Перед исследователями также стоит задача повышения надежности и безопасности RAG. Необходимо минимизировать риск распространения предубеждений и ошибок, которые могут содержаться во внешних данных, а также гарантировать консистентность ответов. Команда разработчиков оригинального RAG уже предпринимала шаги в этом направлении – например, ограничив первоначальную базу знаний только статьями Wikipedia как относительно проверенным и нейтральным источником[\[2\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-venturebeat-facebook-2). В будущем планируется создавать специальные фильтры и методы отбора документов, чтобы модель получала заведомо качественный контекст. Кроме того, исследования концентрируются на улучшении самого механизма поиска: разрабатываются новые алгоритмы **ранжирования** и **семантического индексирования**, способные более точно понимать запросы и находить релевантную информацию даже по сложным или нечетким формулировкам. Наконец, интерес представляет более глубокая интеграция RAG с процессом обучения языковых моделей. Уже появляются подходы, когда retrieval-механизмы используются не только на этапе вывода, но и при предварительном обучении или тонкой настройке LLM[\[10\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-wikipedia-ru-rag-10). Это может еще больше повысить фактологичность моделей и уменьшить их зависимость от статически записанных в весах знаний. Согласно обзорам, опубликованным в 2024 году, сообщество видит большие перспективы в развитии экосистемы RAG: от оптимизации инфраструктуры (ускорение поиска, снижение затрат памяти) до создания стандартных бенчмарков для оценки качества RAG-систем[\[3\]](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_note-arxiv-survey-3). Все это призвано сделать генеративные модели более точными, универсальными и безопасными при работе с постоянно обновляющимися внешними знаниями, что является ключевым шагом на пути к надежному искусственному интеллекту нового поколения. ## См. также - [MM-RAG (Multimodal RAG)](https://systems-analysis.info/wiki/MM-RAG_(Multimodal_RAG) "MM-RAG (Multimodal RAG)") - [Prompt и контекст](https://systems-analysis.info/wiki/Prompt_%D0%B8_%D0%BA%D0%BE%D0%BD%D1%82%D0%B5%D0%BA%D1%81%D1%82 "Prompt и контекст") - [Hybrid Retrieval](https://systems-analysis.info/wiki/Hybrid_Retrieval "Hybrid Retrieval") - [RAG-паттерны](https://systems-analysis.info/wiki/RAG-%D0%BF%D0%B0%D1%82%D1%82%D0%B5%D1%80%D0%BD%D1%8B "RAG-паттерны") - [Gemma](https://systems-analysis.info/wiki/Gemma "Gemma") ## Ссылки - Что такое Retrieval-Augmented Generation (RAG) — блог NVIDIA - Retrieval-Augmented Generation for Large Language Models: A Survey — научный обзор на arXiv - Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — оригинальная статья о RAG - Что такое RAG? Применение, ограничения и вызовы — блог Bright Data ## Литература - Lewis, P. et al. (2020). *Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks*. arXiv:2005.11401. - Karpukhin, V. et al. (2020). *Dense Passage Retrieval for Open-Domain Question Answering*. arXiv:2004.04906. - Guu, K. et al. (2020). *REALM: Retrieval-Augmented Language Model Pre-Training*. arXiv:2002.08909. - Qu, Y. et al. (2020). *RocketQA: An Optimized Training Approach to Dense Passage Retrieval for Open-Domain Question Answering*. arXiv:2010.08191. - Izacard, G.; Grave, E. (2021). *Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering*. arXiv:2007.01282. - Borgeaud, S. et al. (2022). *Improving Language Models by Retrieving from Trillions of Tokens*. arXiv:2112.04426. - Wei, J. et al. (2022). *Chain of Thought Prompting Elicits Reasoning in Large Language Models*. arXiv:2201.11903. - Wang, X. et al. (2022). *Self-Consistency Improves Chain of Thought Reasoning in Language Models*. arXiv:2203.11171. - Kojima, T. et al. (2022). *Large Language Models are Zero-Shot Reasoners*. arXiv:2205.11916. - Yao, S. et al. (2022). *ReAct: Synergizing Reasoning and Acting in Language Models*. arXiv:2210.03629. - Mialon, G. et al. (2023). *Retrieval-Augmented Generation for Large Language Models: A Survey*. arXiv:2312.10997. - Madaan, A. et al. (2023). *Self-Refine: Iterative Refinement with Self-Feedback*. arXiv:2303.17651. - Yang, Z. et al. (2023). *Re-ViLM: Retrieval-Augmented Visual Language Model for Zero and Few-Shot Image Captioning*. arXiv:2302.04858. - Barnett, S. et al. (2024). *Seven Failure Points When Engineering a Retrieval Augmented Generation System*. arXiv:2401.05856. - Wang, Y. et al. (2024). *Self-Instruct: Aligning Language Models with Self-Generated Instructions*. arXiv:2212.10560. - Han, H. et al. (2025). *Retrieval-Augmented Generation with Graphs (GraphRAG)*. arXiv:2501.00309. ## Примечания 1. ↑ [1,00](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-0) [1,01](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-1) [1,02](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-2) [1,03](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-3) [1,04](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-4) [1,05](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-5) [1,06](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-6) [1,07](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-7) [1,08](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-8) [1,09](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-9) [1,10](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-10) [1,11](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-11) [1,12](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-nvidia-blog_1-12) «What Is Retrieval-Augmented Generation aka RAG». *NVIDIA Blogs*. [1] 2. ↑ [2,00](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-0) [2,01](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-1) [2,02](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-2) [2,03](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-3) [2,04](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-4) [2,05](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-5) [2,06](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-6) [2,07](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-7) [2,08](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-8) [2,09](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-9) [2,10](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-venturebeat-facebook_2-10) «Facebook open-sources RAG, an AI model that retrieves documents to answer questions». *VentureBeat*. [2] 3. ↑ [3,0](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-survey_3-0) [3,1](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-survey_3-1) [3,2](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-survey_3-2) [3,3](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-survey_3-3) Mialon, Grégoire et al. «Retrieval-Augmented Generation for Large Language Models: A Survey». *arXiv*. [3] 4. ↑ [4,0](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-pragmaticengineer-rag_4-0) [4,1](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-pragmaticengineer-rag_4-1) [4,2](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-pragmaticengineer-rag_4-2) «Applied AI Software Engineering: RAG». *Pragmatic Engineer*. [4] 5. ↑ [5,0](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-original_5-0) [5,1](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-original_5-1) [5,2](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-original_5-2) Lewis, Patrick et al. «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks». *arXiv*. [5] 6. ↑ [6,0](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-0) [6,1](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-1) [6,2](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-2) [6,3](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-3) [6,4](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-4) [6,5](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-5) [6,6](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-exxact-blog_6-6) «How RAG Makes LLMs Smarter». *Exxact Blog*. [6] 7. [↑](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-original-pdf_7-0) «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks». *arXiv*. [7] 8. ↑ [8,0](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-0) [8,1](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-1) [8,2](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-2) [8,3](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-3) [8,4](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-4) [8,5](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-5) [8,6](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-6) [8,7](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-7) [8,8](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-brightdata-blog_8-8) «What Is RAG? Use Cases, Limitations, and Challenges». *Bright Data Blog*. [8] 9. ↑ [9,0](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-failure-points_9-0) [9,1](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-failure-points_9-1) [9,2](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-arxiv-failure-points_9-2) Lewis, Patrick et al. «Seven Failure Points When Engineering a Retrieval Augmented Generation System». *arXiv*. [9] 10. [↑](https://systems-analysis.info/wiki/Retrieval%E2%80%91Augmented_Generation_(RAG)#cite_ref-wikipedia-ru-rag_10-0) «Генерация, дополненная поиском». *Википедия*. [10]