Retrieval-augmented generation (RAG) (TR)

Retrieval-Augmented Generation (RAG) (Türkçe: Erişim Destekli Üretim) — yapay zeka alanında bir yöntemdir; bu yöntemde üretken dil modeli (LLM) yanıtların doğruluğunu ve güvenilirliğini artırmak amacıyla dış bilgi kaynaklarına erişimle donatılır. Başka bir deyişle, model yanıt üretmeden önce ilgili verileri arar (örneğin bir belge tabanında, web sitesinde veya veri tabanında) ve bulduğu bilgileri yanıt oluştururken kullanır. Bu yaklaşım, güncel kaynaklardan gelen bilgilerle "zenginleştirme" sağlar ve LLM'lerin sınırlı "bellek" kapasitesi ile eskimiş bilgi gibi kısıtlamalarının üstesinden gelmeye yardımcı olur. RAG sistemi, üretilen yanıtta belirli belgelere (örneğin dipnotlar biçiminde) atıfta bulunabilir; bu da şeffaflığı artırır ve kullanıcının gerçekleri doğrulamasına olanak tanır. Sonuç olarak halüsinasyon riski azalır — modelin doğrulukla yanlış bilgi sunduğu durumlar. RAG, LLM'nin bilgi tabanını neredeyse sınırsız bir boyuta genişletir ve modellerin yeniden eğitim gerektirmeksizin en güncel verileri kullanmasını sağlar.

Yöntemin Kökenleri ve Gelişimi

Bilgi erişimini otomatik yanıt üretimiyle birleştirme fikri, modern LLM'lerin çok öncesine dayanır. 1970'lerde bile metin veritabanlarında verilen soruya göre yanıt arayan question-answering sistemleri oluşturma girişimleri yapılmıştır. 1990'larda Ask Jeeves web servisi doğal dilde yanıt aramayı popülerleştirmiş; 2011 yılında ise IBM Watson sistemi Jeopardy! televizyon yarışmasını insan rakiplerine karşı kazanarak yapay zekanın yeteneklerini ortaya koymuştur.

Günümüzdeki gelişim aşaması, sinir ağı tabanlı dil modellerinin benimsenmesiyle bağlantılıdır: Ayrı bir yaklaşım olarak Retrieval-Augmented Generation, 2020 yılında Facebook AI Research, University College London ve diğer kurumlardan araştırmacıların Patrick Lewis liderliğindeki grubu tarafından önerilmiştir. NeurIPS 2020'de kabul edilen bu çalışmada, dış "parametrik olmayan" bir bilgi deposuna türevlenebilir erişim sağlayan üretken seq2seq modeli (örneğin BART) olan RAG modeli tanımlanmıştır. Yazarlar, dış bilgi tabanı olarak İngilizce Vikipedi'nin tamamını kullanmış ve bunu vektör indeksi (~21 milyon metin parçası) biçiminde temsil ederek nöral Dense Passage Retrieval algoritmasıyla arama yapmışlardır. Gelen bir sorgu için RAG modeli, indeksten en uygun parçaları çıkarır ve bunları yanıt üretme bağlamına ekler. Bu mekanizma, Natural Questions, WebQuestions ve diğer testler gibi açık bilgi tabanı görevlerinde yeni rekor sonuçlar (state-of-the-art) elde edilmesini sağlamıştır. RAG modelinin yanıtlarının, birden fazla kaynaktan bilgi sentezi sayesinde önceki üretken yaklaşımlardan daha özgün ve olgusal açıdan daha doğru olduğu vurgulanmıştır. Facebook kısa süre sonra RAG'ın kaynak kodunu kamuya açık hâle getirdi: model, HuggingFace Transformers kütüphanesine ve ilgili dataset'e entegre edildi; bu da geliştiricilerin RAG'ı kendi projelerinde kolayca uygulamasına olanak tanıdı. 2020'den bu yana RAG metodolojisi hızla popülerlik kazandı — yazara göre, kötü çıkışlı kısaltmasına karşın yaklaşım geniş bir yayılım gösterdi; yüzlerce bilimsel çalışmaya ilham verdi ve çok sayıda ticari hizmetin temeli hâline geldi.

RAG'ın Çalışma Prensibi

Retrieval-Augmented Generation'ın temel şeması: arama modülü (solda) bilgi tabanından ilgili belgeleri çıkarır, ardından üretken model (sağda) bulunan bilgileri dikkate alarak kullanıcı sorgusuna yanıt oluşturur. Bu yaklaşım, LLM'nin yanıt üretirken güncel dış verilere dayanmasını sağlar. Diyagramda, kullanıcı sorgusunun bir vektöre dönüştürüldüğü ve benzer metin parçalarını aramak için kullanıldığı gösterilmektedir; ardından bu parçalar modelin bağlamına eklenerek bilgisini "genişletir" ve yanıt doğruluğunu artırır.

RAG sistemi genellikle iki ana bileşenden oluşur: arama modülü (retriever) ve yanıt üretme modülü (generator). Hazırlık aşamasında bilgi tabanının vektör indeksi oluşturulur: tüm belgeler (metinler) parçalara ayrılır ve bir embedding modeli tarafından sayısal vektörlere dönüştürülür; bu vektörler sonraki arama için özel bir veritabanında saklanır. Kullanıcı sorgusu geldiğinde, aynı embedding modeli sorguyu bir vektöre kodlar; ardından vektör uzayında en yakın komşu araması yapılır — bilgi indeksinden en benzer top K parça seçilir (örneğin K = 5). Bu parçalar, sorgunun konusuna ilişkin olası gerçekleri içeren dış bağlam olarak kabul edilir.

Bir sonraki aşamada oluşturulan bağlam, üretken model tarafından kullanılır. Özgün soru, bulunan metin parçalarıyla birlikte bir LLM'ye (örneğin seq2seq türü bir transformer veya talimat yönelimli bir model) gönderilerek nihai yanıtın üretilmesi sağlanır. Dil modeli bu şekilde yalnızca kendi öğrenilmiş (parametrik) bilgisine değil, kendisine sunulan dış verilere de koşullu olarak dayanır. RAG'ın özgün uygulamasında üretici rolünü önceden eğitilmiş BART modeli üstlenmiş; dış "bellek" ise DPR yöntemiyle indekslenmiş Vikipedi koleksiyonundan oluşmuştur.

Fusion - Bilgileri Birleştirme Yaklaşımı

RAG'ın önemli bir özelliği, modelin bulunan birden fazla belgedeki bilgileri birleştirme biçimidir. Tüm metni basitçe bitiştirmenin aksine, RAG late fusion ("geç birleştirme") olarak bilinen bir yaklaşım uygular — üretken model, elde edilen K parçanın her birini paralel olarak işler ve her biri için güven puanıyla birlikte varsayımsal bir yanıt oluşturur; ardından bu seçenekleri nihai çıktıda bir araya getirir. Bu yöntem, RAG'ın hiçbir tek kaynakta doğrudan ve eksiksiz bir yanıt bulunmasa bile yanıt sentezlemesine olanak tanır. Örneğin, ihtiyaç duyulan bilgiler farklı makalelere dağılmışsa model, birden fazla belgeden "ipuçlarını" birleştirerek tek bir yanıt oluşturabilir. (Kullanılan belge sayısının artırılmasının genellikle yanıtın kapsamını artırdığı, buna karşılık metnin akıcılığında küçük bir kayba yol açtığı belirtilmiştir.)

Uygulama Varyantları

2020 tarihli özgün çalışmada, RAG mimarisinin iki değişkeni önerilmiştir. RAG-Sequence modunda, üretken model sabit bir bulunan belgeler kümesi alır ve bunları yanıtın tamamını üretmek için kullanır. RAG-Token modunda ise dinamik güncellemeye izin verilir: her token üretme adımında model, yanıtı netleştirmek için gerekirse yeniden arama yapabilir ve ek bir metin parçası yükleyebilir. Her iki yaklaşım da benzer yüksek kalite düzeyi sergilemiştir; RAG-Sequence daha basit ve hızlıdır, RAG-Token ise teorik olarak uzun yanıtlarda daha fazla farklı bilginin dikkate alınmasını sağlar.

RAG'ın Avantajları

• Güncellik ve olgusal doğruluk. Dış verilerin bağlanması, LLM'nin yalnızca model parametrelerine değil gerçek bilgilere dayalı daha doğru ve gerekçeli yanıtlar vermesini sağlar. Bu durum, model yanıtlarında eskimiş ya da kurgusal bilgi riskini önemli ölçüde azaltır. Sabit "bilgi kesim tarihi" olan modellerin aksine RAG, modelin eğitiminin tamamlanmasından sonra ortaya çıkan olay veya olgulara ilişkin sorulara bile taze veri kaynaklarına erişim sayesinde yanıt verebilir.
• Şeffaflık ve kullanıcı güveni. RAG sistemleri, yanıtın temelini oluşturan bilgi kaynaklarına (örneğin makaleler, raporlar veya veritabanları) atıflar sağlayabilir. Özünde model, yanıtlarını dipnotlu bir bilimsel çalışmaya benzer biçimde düzenler; bu da her gerçeğin güvenilirliğinin doğrulanmasına olanak tanır. Atıfta bulunulan birincil kaynakların varlığı, kullanıcılar tarafından duyulan güveni artırır ve elde edilen bilginin doğrulanmasını kolaylaştırır.
• Konu alanına özelleştirme. Retrieval-augmentation, dil modelinin kendisini değiştirmeksizin modelin çalışmasını dar bir bilgi alanına göre görece kolay biçimde uyarlamaya olanak tanır. Bunun için LLM'ye tıbbi makaleler, hukuki belgeler veya şirket teknik kılavuzları gibi istenen konuya ait özel bir bilgi tabanı sunmak yeterlidir. Parametreleri itibarıyla genel olan model, seçilen dataset'ten gerçekleri çektiğinden o alanda uzman rolüne bürünmeye başlar. Örneğin, RAG tabanlı bir hukuki asistan arama alanını tek bir yargı külliyatıyla (belirli bir ülkenin yasaları) sınırlayarak yanıtların tam da o mevzuata uygun olmasını güvence altına alabilir.
• Esneklik ve bilgilerin güncellenebilirliği. Klasik modellerde yeni bilgi eklemek veya yanlış gerçekleri düzeltmek için genişletilmiş bir dataset üzerinde yeniden eğitim (fine-tuning) yapılması gerekiyordu; bu ise zaman ve kaynak açısından maliyetli bir işlemdir. RAG bu sorunu çözer: modelin bilgilerini güncellemek için dış veritabanını güncellemek ya da ek kaynaklar bağlamak yeterlidir ve model yeni bilgiyi hemen kullanmaya başlar. Bu durum sistemin güncelliğinin kolaylıkla korunmasını sağlar — veriler, model çalışması kesintiye uğramadan gerçek zamanlı olarak bile "sıcak" biçimde değiştirilebilir.
• Verimlilik ve kaynak tasarrufu. RAG yaklaşımı, tüm bilgiyi kendi parametrelerine sığdırmaya çalışan aşırı büyük modellerin eğitilmesinden çoğu zaman daha pratik bir seçenektir. Aramayı entegre ederek, nöral ağın içinde her gerçeği ezberletmeye çalışmaksızın orta ölçekli bir modelle karşılaştırılabilir sonuçlar elde etmek mümkündür. Bunun yanı sıra, RAG pipeline'ının uygulanması görece kolaydır: hazır araçlar (framework'ler, kütüphaneler) mevcuttur ve geliştiriciler temel bir RAG prototipinin tam anlamıyla birkaç satır kodla oluşturulabileceğini göstermektedir. Bu şekilde RAG, yapay zeka benimsemenin toplam maliyetini düşürür: her görev için yeni bir model eğitmek yerine arama mekanizmasını yapılandırmak ve uygun veriler sağlamak yeterlidir.

RAG'ın Sorunları ve Sınırlılıkları

Retrieval-Augmented Generation, bariz avantajlarına karşın hem arama bileşenlerinin hem de dil modellerinin kısıtlamalarını miras alır. Aşağıda RAG sistemlerine özgü başlıca sorunlar sıralanmıştır:

• Arama kalitesine bağımlılık. Alınan yanıt, çıkarılan verilerin ne ölçüde ilgili ve güvenilir olduğuyla doğru orantılı biçimde doğru olacaktır. Arama modülü soruyla ilgisi olmayan ya da hata içeren belgeler döndürürse, üretken model bu gerçekleri "düzeltemez" — onlara dayanarak yanıt üretir. Dolayısıyla dış bilgi tabanının kalitesi ve güncelliği, RAG'ın doğruluğunu doğrudan belirler. Belge çıktısının ilgili kalması için indeksin düzenli olarak güncellenmesi ve sıralama algoritmalarının ayarlanması gerekir.
• Yüksek karmaşıklık ve kaynak yoğunluğu. RAG sisteminin çalışması için yalnızca LLM'nin kendisi değil, arama altyapısı da gereklidir: büyük bir veritabanının saklanması ve güncellenmesi, indeksleme, sorgu yürütme süresi. Tüm bunlar hesaplama maliyetlerini artırır ve yalnızca dil modeline kıyasla yanıt hızını düşürebilir. En kötü senaryoda arama aşamasındaki gecikmeler veya çok büyük miktarda verinin işlenmesi sistemi yavaşlatabilir. Pratikte yanıt kalitesi ile performans arasında denge kurmak, pipeline'ı optimize etmek (örneğin yanıt süresini normal sınırlar içinde tutmak için bilgi tabanının boyutunu veya arama derinliğini sınırlamak) gerekmektedir.
• Veri ve destek gereksinimleri. RAG'ın etkin çalışması için kaliteli, yapılandırılmış ve erişilebilir dış veriler gereklidir. Dış bilgi tabanı zayıf biçimde organize edilmişse veya gürültü içeriyorsa, arama modeli yararlı bilgi bulmakta güçlük çekebilir. Üstelik gerekli veriler her zaman açık veya ucuz değildir: şirketlerin kendi knowledge base'lerini oluşturması ve sürdürmesi gerekmektedir. Bu durum ek maliyetler yaratır ve veri güncelleme çabaları gerektirir (örneğin yeni belgelerin eklenmesi, eskimiş bilgilerin temizlenmesi). RAG'ın zayıf noktası, bilgi tabanının güncel durumda sürdürülmesine olan bağımlılıktır.
• Bazı LLM hatalarının giderilemezliği. RAG, uydurma bilgi üretimini (konfibasyon) önemli ölçüde azaltsa da yanlış yanıtları her zaman tamamen ortadan kaldırmak mümkün değildir. Üretken model, özellikle sağlanan bağlam yetersiz veya çelişkiliyse, mantıksal bir hata yapabilir ya da bilgiyi yanlış genelleyebilir. Pratikte RAG, hata odağını kaydırır: açıkça uydurulmuş gerçekler ("halüsinasyonlar") yerine bilgi entegrasyon hataları daha sık karşılaşılır — örneğin model önemli bir parçayı gözden kaçırabilir veya farklı kaynakları birbiriyle yanlış ilişkilendirebilir. Bu nedenle, sorumluluğun yüksek olduğu uygulamalarda (tıp, hukuk) sistem yanıtlarının doğrulanması ve düzeltilmesi için insan katılımı hâlâ zorunludur.

RAG'ın Uygulama Alanları

Retrieval-Augmented Generation yöntemi, bilginin çıkarılması ve kullanılmasıyla ilgili pek çok senaryoda uygulama bulmuştur. Aşağıda RAG'ın en fazla fayda sağladığı başlıca alanlar sıralanmıştır:

• Soru-cevap sistemleri ve sohbet botları. RAG, kullanıcı sorularını yüksek doğrulukla yanıtlayan ve kaynaklara atıflar sunabilen sanal asistanlar ve sohbet botları oluşturmaya olanak tanır. Müşteri desteği alanında bu tür botlar, şirketin iç bilgi tabanına (SSS, yardım makaleleri) başvurarak müşteri taleplerine anında yanıt verir ve çalışanlar üzerindeki yükü azaltır. Klasik SSS sistemlerinin aksine, RAG botları yanıtı canlı bir dille formüle eder; ancak bunu yaparken kullanıcının sorununa özgü güncel verilerle "destekler".
• Tıp ve sağlık. Özel bir tıbbi veritabanıyla (bilimsel makaleler, klinik protokoller, referans kitaplar) zenginleştirilmiş üretken model, bir hekim veya hastanın akıllı asistanı olarak görev yapabilir. Örneğin sistem, tıp literatüründe konuya ilişkin güncel araştırmaları bularak nadir bir tanı hakkındaki soruyu yanıtlayabilir. RAG'ın tıptaki önemli bir avantajı, birincil kaynaklara (örneğin klinik deney sonuçlarına) atıfta bulunabilmesidir; bu da hekimlerin güveni açısından zorunludur. Bu tür sistemler karar destek, semptom kontrolü, tıp öğrencilerinin eğitimi gibi alanlarda kullanılarak en güncel tıbbi bilgilere erişim sağlar.
• Hukuk ve finans. Hukuki uygulamada ve finansal analizde bilginin doğruluğu ve doğrulanabilirliği özellikle kritik öneme sahiptir. RAG sistemleri, profesyonellerin gerekli verileri hızla bulmasına yardımcı olabilir: örneğin bir avukat, model aracılığıyla mevcut davayla ilgili emsal bir mahkeme kararını veya ilgili yasa maddesini bulup alıntılayabilir; bir finansal analist ise güncel ekonomik raporlardan veya piyasa haberlerinden ilgili kesintilere hızla ulaşabilir. Model yanıtlarının her biri, sektör standartlarına uyan ve uzmanın sonraki manuel çalışmasını kolaylaştıran belirli belgelere (mevzuat, raporlar, makaleler) atıflar içerebilir.
• Bilimsel araştırma ve içerik üretimi. Gazeteciler, araştırmacılar ve yazarlar, malzeme hazırlarken gerçek ve kaynak araştırmasını hızlandırmak için RAG'ı kullanabilir. Örneğin model, bir sorgu üzerine birkaç güvenilir yayından bilgileri "derleyerek" gerçek doğrulama ve alıntı seçme süresini önemli ölçüde kısaltabilir. RAG tabanlı araştırma asistanları, ilgili çalışmalara yapılan atıfları, açık tabanlardan (örneğin uluslararası raporlardaki istatistikler) alınan verileri ve hatta taslak çevirileri otomatik olarak çıkararak yazarların analizin özüne odaklanmasına olanak tanır. Bu tür araçlar medyada, akademik çevrede, literatür taraması hazırlamada ve benzeri alanlarda kullanım bulmaktadır.
• Kurumsal bilgi ve belge araması. Pek çok kuruluşta değerli bilgilerin önemli bir kısmı metin belgeleri biçiminde saklanır: yönetmelikler, kılavuzlar, raporlar, yazışmalar, günlük dosyaları. RAG, bu tür yapılandırılmamış verilerde dil aracılığıyla etkileşimli arama yapma imkânı sunar. Bir çalışan soru sorabilir ("Uzaktan çalışan personel için izin politikasında ne yazıyor?") — model, iç belgenin ilgili bölümünü bulur, alıntılar ve özetlenmiş bir yanıt oluşturur. Bu durum iş verimliliğini artırır: yeni çalışanlar sorularına daha hızlı yanıt bulur, destek birimleri olay tabanında hızlı arama için bir araç elde eder, yöneticiler ise birikmiş metin verilerini analiz etme imkânı kazanır. Büyük BT şirketleri RAG yaklaşımını kurumsal çözümlere hâlihazırda entegre etmektedir: Microsoft, Google, IBM, AWS ve diğerlerinin teknolojileri, LLM'yi kurumun verilerinde arama ile bütünleştirmektedir.

Perspektifler ve İleriki Araştırmalar

Retrieval-Augmented Generation yöntemi aktif olarak gelişmekte olup önümüzdeki yıllarda yeteneklerinin daha da genişlemesi beklenmektedir. Yönelimlerden biri, dış bilgi olarak yalnızca metinlerin değil görüntülerin, ses/video kayıtlarının ve hatta sensör verilerinin de kullanılabildiği çok modlu RAGdır. Deneyler, dil modellerini görsel veritabanı aramasıyla birleştirmenin umut verici olduğunu göstermektedir; bu yaklaşım, görüntü ya da video içeriğine ilişkin soruları açıklamalar ve ilgili metinlere dayanarak yanıtlamaya olanak tanıyacaktır. Bir diğer önemli yönelim, birden fazla bilgi kaynağının eş zamanlı kullanımıdır: gelecekteki RAG sistemleri farklı tabanlardan (örneğin Vikipedi, özel ansiklopediler, kullanıcının kişisel notları) verileri birleştirerek tüm bu heterojen bilgileri dikkate alan yanıtlar sentezleyebilecektir.

Araştırmacıların önünde ayrıca RAG'ın güvenilirliğini ve güvenliğini artırma görevi de durmaktadır. Dış verilerde yer alabilecek önyargıların ve hataların yayılma riskini en aza indirmek, aynı zamanda yanıt tutarlılığını güvence altına almak gerekmektedir. Özgün RAG'ı geliştiren ekip bu yönde adımlar atmıştı — örneğin ilk bilgi tabanını yalnızca görece doğrulanmış ve tarafsız bir kaynak olarak Vikipedi makaleleriyle sınırlayarak. Gelecekte, modelin kesinlikle kaliteli bağlam aldığını güvence altına almak amacıyla özel filtreler ve belge seçme yöntemleri oluşturulması planlanmaktadır. Bunun yanı sıra, araştırmalar arama mekanizmasının iyileştirilmesine de odaklanmaktadır: sorguları daha doğru anlayan ve karmaşık ya da belirsiz ifadelerde bile ilgili bilgiyi bulan yeni sıralama ve anlamsal indeksleme algoritmaları geliştirilmektedir.

Son olarak, RAG'ın dil modellerinin eğitim süreciyle daha derin entegrasyonu da ilgi çekici bir alandır. Retrieval mekanizmalarının yalnızca çıkarım aşamasında değil, LLM'lerin ön eğitimi veya fine-tuning sürecinde de kullanıldığı yaklaşımlar ortaya çıkmaya başlamıştır. Bu durum, modellerin olgusal doğruluğunu daha da artırabilir ve ağırlıklara statik olarak kaydedilmiş bilgilere olan bağımlılığı azaltabilir. 2024 yılında yayımlanan araştırma incelemelerine göre, topluluk RAG ekosisteminin gelişiminde büyük bir potansiyel görmektedir: altyapının optimize edilmesinden (arama hızlandırma, bellek maliyetlerinin düşürülmesi) RAG sistemlerinin kalitesini değerlendirmek için standart benchmark'ların oluşturulmasına kadar. Tüm bunlar, üretken modelleri sürekli güncellenen dış bilgilerle çalışırken daha doğru, evrensel ve güvenli hâle getirmeyi amaçlamaktadır; bu da yeni nesil güvenilir yapay zekaya giden yolda kilit bir adım niteliği taşımaktadır.

Dış bağlantılar

• Retrieval-Augmented Generation (RAG) nedir — NVIDIA blogu
• Retrieval-Augmented Generation for Large Language Models: A Survey — arXiv'de bilimsel inceleme
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — RAG'a ilişkin özgün makale
• RAG nedir? Uygulamaları, sınırlılıkları ve zorlukları — Bright Data blogu

Kaynakça

• Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401.
• Karpukhin, V. et al. (2020). Dense Passage Retrieval for Open-Domain Question Answering. arXiv:2004.04906.
• Guu, K. et al. (2020). REALM: Retrieval-Augmented Language Model Pre-Training. arXiv:2002.08909.
• Qu, Y. et al. (2020). RocketQA: An Optimized Training Approach to Dense Passage Retrieval for Open-Domain Question Answering. arXiv:2010.08191.
• Izacard, G.; Grave, E. (2021). Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering. arXiv:2007.01282.
• Borgeaud, S. et al. (2022). Improving Language Models by Retrieving from Trillions of Tokens. arXiv:2112.04426.
• Wei, J. et al. (2022). Chain of Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Mialon, G. et al. (2023). Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv:2312.10997.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Yang, Z. et al. (2023). Re-ViLM: Retrieval-Augmented Visual Language Model for Zero and Few-Shot Image Captioning. arXiv:2302.04858.
• Barnett, S. et al. (2024). Seven Failure Points When Engineering a Retrieval Augmented Generation System. arXiv:2401.05856.
• Wang, Y. et al. (2024). Self-Instruct: Aligning Language Models with Self-Generated Instructions. arXiv:2212.10560.
• Han, H. et al. (2025). Retrieval-Augmented Generation with Graphs (GraphRAG). arXiv:2501.00309.