Retrieval-augmented generation (RAG) (TH)

From Systems analysis Wiki
Jump to navigation Jump to search

Retrieval-Augmented Generation (RAG) (ไทย: การสร้างข้อความเสริมด้วยการค้นคืนข้อมูล) — คือวิธีการในสาขาปัญญาประดิษฐ์ ซึ่งโมเดลภาษาเชิงสร้างสรรค์ (LLM) ได้รับการเชื่อมต่อกับแหล่งข้อมูลภายนอกเพื่อเพิ่มความแม่นยำและความน่าเชื่อถือของคำตอบ กล่าวอีกนัยหนึ่งคือ ก่อนที่โมเดลจะสร้างคำตอบ มันจะทำการค้นหาข้อมูลที่เกี่ยวข้อง (เช่น ในฐานข้อมูลเอกสาร เว็บไซต์ หรือฐานข้อมูล) แล้วนำข้อมูลที่ค้นพบมาใช้ในการสร้างคำตอบ[1][2] แนวทางนี้ช่วยเสริมความรู้จากแหล่งข้อมูลที่เป็นปัจจุบัน และช่วยเอาชนะข้อจำกัดของ LLM เองที่เกี่ยวกับความจุ "หน่วยความจำ" ที่จำกัดและข้อมูลที่ล้าสมัย[3] ระบบ RAG สามารถอ้างอิงเอกสารเฉพาะ (เช่น ในรูปแบบเชิงอรรถ) ในคำตอบที่สร้างขึ้น ซึ่งเพิ่มความโปร่งใสและช่วยให้ผู้ใช้สามารถตรวจสอบข้อเท็จจริงได้[1] ส่งผลให้ลดความเสี่ยงของการเกิดภาพหลอน (hallucinations) — กรณีที่โมเดลให้ข้อมูลที่ไม่เป็นความจริงด้วยความมั่นใจ[1][3] RAG ขยายฐานความรู้ของ LLM ให้มีขนาดแทบไม่จำกัด และช่วยให้โมเดลสามารถใช้ข้อมูลล่าสุดได้โดยไม่ต้องฝึกใหม่[4]

ต้นกำเนิดและพัฒนาการของวิธีการ

แนวคิดการรวมการค้นหาข้อมูลกับการสร้างคำตอบอัตโนมัตินั้นเริ่มต้นขึ้นก่อนการถือกำเนิดของ LLM สมัยใหม่มานานแล้ว ตั้งแต่ช่วงทศวรรษที่ 1970 มีความพยายามสร้างระบบquestion-answering ที่ค้นหาคำตอบในฐานข้อมูลข้อความตามคำถามที่กำหนด[1] ในช่วงทศวรรษที่ 1990 บริการเว็บ Ask Jeeves ได้เผยแพร่การค้นหาคำตอบในภาษาธรรมชาติ และในปี ค.ศ. 2011 ระบบ IBM Watson ได้แสดงให้เห็นถึงความสามารถของ AI โดยชนะรายการโทรทัศน์ Jeopardy! เหนือผู้เข้าร่วมที่เป็นมนุษย์[1]

ระยะพัฒนาการสมัยใหม่เชื่อมโยงกับการนำโมเดลภาษาเชิงนิวรัลมาใช้: Retrieval-Augmented Generation ในฐานะแนวทางเฉพาะถูกเสนอขึ้นในปี ค.ศ. 2020 โดยกลุ่มนักวิจัยจาก Facebook AI Research, University College London และหน่วยงานอื่นๆ ภายใต้การนำของ Patrick Lewis[1] ในงานวิจัยของพวกเขาซึ่งได้รับการตอบรับในงาน NeurIPS 2020 ได้อธิบายโมเดล RAG ซึ่งเป็นโมเดล seq2seq เชิงสร้างสรรค์ (เช่น BART) ที่มีการเข้าถึงแบบแตกต่างได้ (differentiable access) ไปยังที่เก็บความรู้ภายนอก "แบบไม่ใช้พารามิเตอร์"[5] ผู้เขียนใช้ Wikipedia ภาษาอังกฤษทั้งหมดเป็นฐานความรู้ภายนอก โดยแสดงในรูปแบบดัชนีเวกเตอร์ (~21 ล้านส่วนของข้อความ) ซึ่งใช้สำหรับการค้นหาด้วยอัลกอริทึมนิวรัลDense Passage Retrieval[5] สำหรับคำถามที่เข้ามา โมเดล RAG จะดึงส่วนที่เหมาะสมที่สุดจากดัชนีและเพิ่มเข้าไปในบริบทของการสร้างคำตอบ กลไกนี้ทำให้บรรลุผลลัพธ์ระดับสูงสุด (state-of-the-art) ในงานที่มีฐานความรู้แบบเปิด เช่น ในการทดสอบ Natural Questions, WebQuestions และอื่นๆ[2] มีการสังเกตว่าคำตอบของโมเดล RAG มีความเฉพาะเจาะจงและถูกต้องตามข้อเท็จจริงมากกว่าแนวทางเชิงสร้างสรรค์ก่อนหน้า เนื่องจากการสังเคราะห์ข้อมูลจากแหล่งต่างๆ พร้อมกัน[2] ไม่นาน Facebook ได้เผยแพร่โค้ดต้นฉบับของ RAG อย่างเปิดเผย: โมเดลถูกรวมเข้ากับไลบรารี HuggingFace Transformers และชุดข้อมูลที่เกี่ยวข้อง ทำให้นักพัฒนาสามารถนำ RAG ไปใช้ในโครงการของตนได้อย่างง่ายดาย[2] นับตั้งแต่ปี ค.ศ. 2020 วิธีการ RAG ได้รับความนิยมอย่างรวดเร็ว — ตามคำกล่าวของผู้เขียน แม้ตัวย่อจะไม่ไพเราะ แต่แนวทางนี้ได้รับการแพร่หลายอย่างกว้างขวาง ก่อให้เกิดงานวิจัยหลายร้อยชิ้นและกลายเป็นรากฐานของบริการเชิงพาณิชย์มากมาย[1]

หลักการทำงานของ RAG

แผนผังหลักการของ Retrieval-Augmented Generation: โมดูลค้นหา (ซ้าย) ดึงเอกสารที่เกี่ยวข้องจากฐานความรู้ หลังจากนั้นโมเดลเชิงสร้างสรรค์ (ขวา) สร้างคำตอบโดยอิงจากคำถามของผู้ใช้โดยคำนึงถึงข้อมูลที่ค้นพบ[6] แนวทางนี้ช่วยให้ LLM อาศัยข้อมูลภายนอกที่เป็นปัจจุบันในการสร้างคำตอบ แผนภาพแสดงให้เห็นว่าคำถามของผู้ใช้ถูกแปลงเป็นเวกเตอร์และใช้สำหรับค้นหาส่วนข้อความที่คล้ายกัน จากนั้นนำมาเชื่อมต่อกับบริบทของโมเดล "ขยาย" ความรู้และเพิ่มความแม่นยำของคำตอบ

ระบบ RAG โดยทั่วไปประกอบด้วยสองส่วนหลัก: โมดูลค้นหา (retriever) และโมดูลสร้างคำตอบ (generator)[6] ในขั้นตอนการเตรียมการ จะสร้างดัชนีเวกเตอร์ของฐานความรู้: เอกสาร (ข้อความ) ทั้งหมดถูกแบ่งเป็นส่วนๆ และแปลงโดยโมเดลembeddingเป็นเวกเตอร์ตัวเลข ซึ่งเก็บไว้ในฐานข้อมูลเฉพาะทางสำหรับการค้นหาในภายหลัง[6] เมื่อได้รับคำถามจากผู้ใช้ โมเดล embedding เดียวกันจะเข้ารหัสคำถามเป็นเวกเตอร์ จากนั้นจะค้นหาเพื่อนบ้านที่ใกล้ที่สุดในปริภูมิเวกเตอร์ — เลือก top K ส่วนที่คล้ายที่สุดจากดัชนีความรู้ (เช่น K = 5)[6] ส่วนเหล่านี้ถือเป็นบริบทภายนอกที่มีข้อเท็จจริงที่น่าจะเกี่ยวข้องกับหัวข้อของคำถาม

ในขั้นตอนถัดไป บริบทที่สร้างขึ้นจะถูกนำไปใช้โดยโมเดลเชิงสร้างสรรค์ คำถามเดิมพร้อมกับส่วนข้อความที่ค้นพบจะถูกป้อนให้กับ LLM (เช่น transformer แบบ seq2seq หรือโมเดลที่เน้นคำสั่ง) เพื่อสร้างคำตอบสุดท้าย[2] โมเดลภาษาจึงอ้างอิงไม่เพียงแค่ความรู้ที่เรียนรู้มา (แบบพารามิเตอร์) แต่ยังรวมถึงข้อมูลภายนอกที่ได้รับด้วย ในการใช้งาน RAG ต้นฉบับ บทบาทของ generator คือโมเดล BART ที่ผ่านการฝึกล่วงหน้า ส่วน "หน่วยความจำ" ภายนอกแสดงด้วยคอลเลกชัน Wikipedia ที่ทำดัชนีด้วยวิธี DPR[5]

Fusion - แนวทางการรวมความรู้

คุณลักษณะสำคัญของ RAG คือวิธีที่โมเดลรวมข้อมูลจากเอกสารที่ค้นพบหลายรายการ ต่างจากการต่อข้อความทั้งหมดเข้าด้วยกันง่ายๆ RAG ใช้แนวทางที่เรียกว่า late fusion («การรวมผลลัพธ์แบบล่าช้า») — โมเดลเชิงสร้างสรรค์ประมวลผลแต่ละส่วนจาก K ส่วนที่ได้รับแบบขนาน และสร้างคำตอบสมมุติพร้อมคะแนนความมั่นใจสำหรับแต่ละส่วน จากนั้นรวมตัวเลือกเหล่านี้เป็นผลลัพธ์สุดท้าย[2] วิธีนี้ช่วยให้ RAG สังเคราะห์คำตอบแม้ในกรณีที่ไม่มีแหล่งข้อมูลใดแหล่งเดียวที่มีคำตอบตรงๆ และครบถ้วนสำหรับคำถาม ตัวอย่างเช่น หากข้อมูลที่จำเป็นกระจายอยู่ในบทความต่างๆ โมเดลสามารถรวม "เบาะแส" จากเอกสารหลายรายการเป็นคำตอบเดียวได้[2] (มีการสังเกตว่าการเพิ่มจำนวนเอกสารที่ใช้มักจะเพิ่มความครอบคลุมของคำตอบโดยแลกกับการสูญเสียความสอดคล้องของข้อความเล็กน้อย[7])

รูปแบบการใช้งาน

ในงานวิจัยต้นฉบับปี ค.ศ. 2020 มีการเสนอสองรูปแบบของสถาปัตยกรรม RAG[6] ในโหมด RAG-Sequence โมเดลเชิงสร้างสรรค์ได้รับชุดเอกสารที่ค้นพบที่ตายตัวและใช้เพื่อสร้างคำตอบทั้งหมดในคราวเดียว ในโหมด RAG-Token ในทางกลับกัน อนุญาตให้มีการอัปเดตแบบไดนามิก: ในแต่ละขั้นตอนของการสร้าง token ถัดไป โมเดลสามารถทำการค้นหาใหม่และโหลดส่วนข้อความเพิ่มเติมหากจำเป็นเพื่อปรับแต่งคำตอบ ทั้งสองแนวทางแสดงระดับคุณภาพสูงที่ใกล้เคียงกัน RAG-Sequence นั้นง่ายและเร็วกว่า ในขณะที่ RAG-Token ในทางทฤษฎีช่วยให้พิจารณาข้อมูลที่หลากหลายมากขึ้นในคำตอบที่ยาว[6]

ข้อดีของ RAG

  • ความทันสมัยและความถูกต้องตามข้อเท็จจริง การเชื่อมต่อกับข้อมูลภายนอกช่วยให้ LLM ให้คำตอบที่แม่นยำและมีเหตุผลมากขึ้นโดยอิงจากข้อมูลจริง ไม่ใช่เพียงแค่พารามิเตอร์ของโมเดล ซึ่งช่วยลดความเสี่ยงของข้อมูลที่ล้าสมัยหรือเป็นเรื่องแต่งในคำตอบของโมเดลได้อย่างมีนัยสำคัญ[3][1] ต่างจากโมเดลที่มี "ภาพตัดขวางของความรู้" ที่ตายตัว RAG สามารถตอบคำถามเกี่ยวกับเหตุการณ์หรือข้อเท็จจริงที่เกิดขึ้นหลังจากการฝึกโมเดลเสร็จสิ้น — ด้วยการเข้าถึงแหล่งข้อมูลใหม่ล่าสุด[4]
  • ความโปร่งใสและความไว้วางใจของผู้ใช้ ระบบ RAG สามารถให้ลิงก์ไปยังแหล่งข้อมูล (เช่น บทความ รายงาน หรือฐานข้อมูล) ที่เป็นพื้นฐานของคำตอบ[1] โดยพื้นฐานแล้ว โมเดลจัดรูปแบบคำตอบคล้ายกับงานวิชาการที่มีเชิงอรรถ ซึ่งช่วยให้สามารถตรวจสอบความน่าเชื่อถือของแต่ละข้อเท็จจริงได้ การมีแหล่งที่มาที่อ้างอิงได้ช่วยเพิ่มความไว้วางใจจากผู้ใช้และอำนวยความสะดวกในการตรวจสอบข้อมูลที่ได้รับ
  • การปรับเฉพาะสำหรับสาขาเฉพาะ Retrieval-augmentation ช่วยให้ปรับการทำงานของโมเดลให้เหมาะกับสาขาความรู้เฉพาะได้ค่อนข้างง่ายโดยไม่ต้องเปลี่ยนโมเดลภาษาเอง เพียงพอที่จะให้ LLM มีฐานความรู้เฉพาะทางในหัวข้อที่ต้องการ ไม่ว่าจะเป็นบทความทางการแพทย์ เอกสารทางกฎหมาย หรือคู่มือทางเทคนิคของบริษัท โมเดลซึ่งยังคงเป็นโมเดลทั่วไปตามพารามิเตอร์ของมัน จะเริ่มทำหน้าที่เป็นผู้เชี่ยวชาญในสาขานั้น เนื่องจากดึงข้อเท็จจริงจาก dataset ที่คัดเลือกมา[4][8] ตัวอย่างเช่น ผู้ช่วยทางกฎหมายที่ใช้ RAG สามารถจำกัดขอบเขตการค้นหาไว้ที่คลังเอกสารภายใต้เขตอำนาจศาลเดียว (กฎหมายของประเทศเฉพาะ) รับประกันว่าคำตอบจะสอดคล้องกับกฎหมายนั้นโดยเฉพาะ[8]
  • ความยืดหยุ่นและความสามารถในการอัปเดตความรู้ ในโมเดลแบบดั้งเดิม การเพิ่มความรู้ใหม่หรือแก้ไขข้อเท็จจริงที่ผิดพลาดจำเป็นต้องทำการฝึกใหม่ (fine-tuning) บน dataset ที่ขยายแล้ว ซึ่งมีค่าใช้จ่ายสูงทั้งด้านเวลาและทรัพยากร RAG แก้ปัญหานี้: เพื่ออัปเดตความรู้ของโมเดล ก็เพียงพอแค่อัปเดตฐานข้อมูลภายนอกหรือเชื่อมต่อแหล่งข้อมูลเพิ่มเติม และโมเดลจะเริ่มใช้ข้อมูลใหม่ทันที[2] ซึ่งช่วยให้รักษาความทันสมัยของระบบได้อย่างง่ายดาย — ในทางปฏิบัติ ข้อมูลสามารถ "แทนที่แบบร้อน" ได้แม้กระทั่งแบบเรียลไทม์โดยไม่ต้องหยุดการทำงานของโมเดล[1]
  • ประสิทธิภาพและการประหยัดทรัพยากร แนวทาง RAG มักจะปฏิบัติได้จริงมากกว่าการฝึกโมเดลขนาดใหญ่มากที่พยายามครอบคลุมข้อมูลทั้งหมดในพารามิเตอร์ของมัน การรวมการค้นหาเข้าไปช่วยให้บรรลุผลลัพธ์ที่เทียบเคียงได้กับโมเดลขนาดปานกลาง โดยไม่พยายามจดจำข้อเท็จจริงทั้งหมดภายในเครือข่ายนิวรัล[6] นอกจากนี้ การนำ RAG pipeline ไปใช้นั้นค่อนข้างไม่ซับซ้อน: มีเครื่องมือสำเร็จรูป (frameworks, ไลบรารี) และนักพัฒนาแสดงให้เห็นว่าต้นแบบ RAG เบื้องต้นสามารถสร้างได้ด้วยโค้ดเพียงไม่กี่บรรทัด[1] ด้วยเหตุนี้ RAG จึงลดต้นทุนรวมของการนำ AI ไปใช้: แทนที่จะฝึกโมเดลใหม่สำหรับแต่ละงาน ก็เพียงพอแค่กำหนดค่ากลไกการค้นหาและจัดเตรียมข้อมูลที่เหมาะสม

ปัญหาและข้อจำกัดของ RAG

แม้จะมีข้อดีที่ชัดเจน Retrieval-Augmented Generation ก็รับข้อจำกัดทั้งจากส่วนประกอบการค้นหาและจาก LLM เอง[9] ด้านล่างนี้คือปัญหาหลักที่มีอยู่ในระบบ RAG:

  • การพึ่งพาคุณภาพของการค้นหา คำตอบที่ได้รับจะถูกต้องในระดับที่ข้อมูลที่ดึงมานั้นมีความเกี่ยวข้องและน่าเชื่อถือเท่านั้น หากโมดูลค้นหาส่งคืนเอกสารที่ไม่เกี่ยวข้องกับคำถามหรือมีข้อผิดพลาด โมเดลเชิงสร้างสรรค์จะไม่สามารถ "แก้ไข" ข้อเท็จจริงเหล่านั้นได้ — มันจะสร้างคำตอบโดยอิงจากข้อมูลเหล่านั้น[8] ดังนั้น คุณภาพและความทันสมัยของฐานความรู้ภายนอกจึงกำหนดความแม่นยำของ RAG โดยตรง จำเป็นต้องอัปเดตดัชนีและปรับอัลกอริทึมการจัดอันดับอย่างสม่ำเสมอเพื่อให้การแสดงผลเอกสารยังคงมีความเกี่ยวข้อง
  • ความซับซ้อนสูงและการใช้ทรัพยากรมาก ระบบ RAG ต้องการไม่เพียงแค่ LLM เอง แต่ยังรวมถึงโครงสร้างพื้นฐานสำหรับการค้นหา: การจัดเก็บและอัปเดตฐานข้อมูลขนาดใหญ่ การทำดัชนี เวลาในการประมวลผลคำถาม ทั้งหมดนี้เพิ่มต้นทุนการคำนวณและอาจลดความเร็วในการตอบสนองเมื่อเทียบกับการใช้เพียงโมเดลภาษาเดียว[8] ในกรณีที่เลวร้ายที่สุด ความล่าช้าในขั้นตอนการค้นหาหรือการประมวลผลข้อมูลจำนวนมากจะทำให้ระบบช้าลง ในทางปฏิบัติจำเป็นต้องสมดุลระหว่างคุณภาพของคำตอบและประสิทธิภาพ โดยปรับปรุง pipeline (เช่น จำกัดขนาดฐานความรู้หรือความลึกของการค้นหาเพื่อรักษาเวลาตอบสนองให้อยู่ในขอบเขตปกติ)
  • ข้อกำหนดด้านข้อมูลและการสนับสนุน เพื่อให้ RAG ทำงานได้อย่างมีประสิทธิภาพ จำเป็นต้องมีข้อมูลภายนอกที่มีคุณภาพ มีโครงสร้าง และเข้าถึงได้ โมเดลค้นหาอาจมีปัญหาในการค้นหาข้อมูลที่มีประโยชน์หากฐานความรู้ภายนอกมีการจัดระเบียบไม่ดีหรือมีสัญญาณรบกวน[8] นอกจากนี้ ข้อมูลที่จำเป็นไม่ใช่ทุกครั้งที่จะเปิดเผยหรือราคาถูก: บริษัทต้องสร้างและดูแลรักษาknowledge bases ของตนเอง ซึ่งสร้างค่าใช้จ่ายเพิ่มเติมและต้องการความพยายามในการปรับปรุงข้อมูล (เช่น การเพิ่มเอกสารใหม่ การลบข้อมูลที่ล้าสมัย) จุดอ่อนของ RAG คือการพึ่งพาการดูแลรักษาฐานความรู้ให้ทันสมัยอยู่เสมอ
  • ความไม่สามารถขจัดข้อผิดพลาดบางอย่างของ LLM แม้ RAG จะลดจำนวนการสร้างข้อมูลเท็จอย่างมีนัยสำคัญ แต่ไม่สามารถขจัดคำตอบที่ผิดพลาดได้ทั้งหมดเสมอไป[9] โมเดลเชิงสร้างสรรค์ยังคงอาจเกิดข้อผิดพลาดเชิงตรรกะหรือสรุปข้อมูลอย่างไม่ถูกต้อง โดยเฉพาะอย่างยิ่งหากบริบทที่ให้มาไม่ครบถ้วนหรือขัดแย้งกัน[9] ในทางปฏิบัติ RAG เปลี่ยนโฟกัสของข้อผิดพลาด: แทนที่จะเป็นข้อเท็จจริงที่แต่งขึ้นอย่างชัดเจน («ภาพหลอน») มักพบข้อผิดพลาดในการรวมความรู้แทน — เช่น โมเดลอาจพลาดส่วนสำคัญหรือเชื่อมโยงแหล่งข้อมูลต่างๆ ไม่ถูกต้อง ดังนั้นในการใช้งานที่มีความรับผิดชอบสูง (การแพทย์ กฎหมาย) ยังคงต้องการการมีส่วนร่วมของมนุษย์เพื่อตรวจสอบและแก้ไขคำตอบของระบบ

การประยุกต์ใช้ RAG

วิธีการ Retrieval-Augmented Generation ถูกนำไปประยุกต์ใช้ในสถานการณ์มากมายที่เกี่ยวข้องกับการดึงและใช้ประโยชน์จากความรู้ ด้านล่างนี้คือสาขาหลักที่ RAG แสดงให้เห็นประโยชน์มากที่สุด:

  • ระบบถามตอบและแชทบอท RAG ช่วยให้สามารถสร้างผู้ช่วยเสมือนและแชทบอทที่ตอบคำถามผู้ใช้ด้วยความแม่นยำสูงและสามารถให้ลิงก์ไปยังแหล่งข้อมูลได้ ในด้านการสนับสนุนลูกค้า บอทดังกล่าวเข้าถึงฐานความรู้ภายในของบริษัท (FAQ บทความอ้างอิง) และให้คำตอบทันทีสำหรับคำถามของลูกค้า ลดภาระงานของพนักงาน[8] ต่างจากระบบ FAQ แบบดั้งเดิม บอท RAG ตอบสนองด้วยภาษาธรรมชาติ แต่ "สนับสนุน" ด้วยข้อมูลที่เป็นปัจจุบันและเฉพาะเจาะจงกับปัญหาของผู้ใช้
  • การแพทย์และการดูแลสุขภาพ โมเดลเชิงสร้างสรรค์ที่เสริมด้วยฐานข้อมูลทางการแพทย์เฉพาะทาง (บทความวิทยาศาสตร์ โปรโตคอลทางคลินิก คู่มืออ้างอิง) สามารถทำหน้าที่เป็นผู้ช่วยอัจฉริยะสำหรับแพทย์หรือผู้ป่วย ตัวอย่างเช่น ระบบสามารถตอบคำถามเกี่ยวกับการวินิจฉัยที่หายากโดยค้นหางานวิจัยล่าสุดในหัวข้อนั้นจากวรรณกรรมทางการแพทย์[8] ข้อดีสำคัญของ RAG ในการแพทย์คือความสามารถในการอ้างอิงแหล่งข้อมูลหลัก (เช่น ผลการทดลองทางคลินิก) ซึ่งจำเป็นสำหรับความไว้วางใจจากแพทย์ ระบบดังกล่าวถูกนำไปใช้เพื่อสนับสนุนการตัดสินใจ การตรวจสอบอาการ การศึกษาของนักศึกษาแพทย์ และอื่นๆ โดยให้การเข้าถึงความรู้ทางการแพทย์ล่าสุด
  • กฎหมายและการเงิน ในการปฏิบัติทางกฎหมายและการวิเคราะห์ทางการเงิน ความแม่นยำและความสามารถในการตรวจสอบของข้อมูลมีความสำคัญอย่างยิ่ง ระบบ RAG สามารถช่วยให้ผู้เชี่ยวชาญค้นหาข้อมูลที่จำเป็นได้อย่างรวดเร็ว: ตัวอย่างเช่น ทนายความโดยใช้โมเดลจะค้นหาและอ้างอิงคำพิพากษาตามบรรทัดฐานหรือข้อกฎหมายที่เกี่ยวข้องกับคดีปัจจุบัน ในขณะที่นักวิเคราะห์การเงินจะรับบทคัดย่อจากรายงานเศรษฐกิจล่าสุดหรือข่าวตลาดได้อย่างรวดเร็ว[8] ในเวลาเดียวกัน คำตอบแต่ละข้อของโมเดลอาจมีลิงก์ไปยังเอกสารเฉพาะ (กฎหมาย รายงาน บทความ) ซึ่งสอดคล้องกับมาตรฐานของอุตสาหกรรมและอำนวยความสะดวกในการทำงานด้วยตนเองในภายหลังของผู้เชี่ยวชาญ
  • การวิจัยทางวิทยาศาสตร์และการสร้างเนื้อหา นักข่าว นักวิจัย และนักเขียนสามารถใช้ RAG เพื่อเร่งการค้นหาข้อเท็จจริงและแหล่งข้อมูลในการเตรียมเนื้อหา ตัวอย่างเช่น โมเดลสามารถ "รวบรวม" ข้อมูลจากสิ่งพิมพ์ที่น่าเชื่อถือหลายรายการตามคำขอ และด้วยเหตุนี้จึงลดเวลาในการตรวจสอบข้อเท็จจริงและการเลือกคำพูดได้อย่างมีนัยสำคัญ[8] ผู้ช่วยวิจัยที่ใช้ RAG จะดึงลิงก์ไปยังงานที่เกี่ยวข้องโดยอัตโนมัติ ข้อมูลจากฐานข้อมูลเปิด (เช่น สถิติจากรายงานระหว่างประเทศ) และแม้กระทั่งฉบับร่างการแปล ช่วยให้ผู้เขียนมุ่งเน้นไปที่ส่วนการวิเคราะห์ของงาน เครื่องมือดังกล่าวพบการประยุกต์ใช้ในสื่อ วงการวิชาการ การเตรียมการทบทวนวรรณกรรม และอื่นๆ
  • ความรู้ขององค์กรและการค้นหาตามเอกสาร ในหลายองค์กร ปริมาณข้อมูลที่มีค่าจำนวนมากถูกจัดเก็บในรูปแบบเอกสารข้อความ: ระเบียบข้อบังคับ คู่มือ รายงาน การติดต่อสื่อสาร ไฟล์บันทึก RAG ให้วิธีการค้นหาแบบโต้ตอบในข้อมูลที่ไม่มีโครงสร้างดังกล่าวโดยใช้ภาษาธรรมชาติ พนักงานสามารถถามคำถาม («นโยบายการลาสำหรับพนักงานทางไกลระบุอะไรไว้บ้าง?») — และโมเดลจะค้นหาส่วนที่จำเป็นของเอกสารภายใน อ้างอิง และสรุปคำตอบ[1] ซึ่งเพิ่มประสิทธิภาพการทำงาน: พนักงานใหม่ค้นหาคำตอบได้เร็วขึ้น ฝ่ายสนับสนุนได้รับเครื่องมือสำหรับการค้นหาในฐานข้อมูลเหตุการณ์อย่างรวดเร็ว และฝ่ายบริหารได้รับวิธีการวิเคราะห์ข้อมูลข้อความที่สะสมมา บริษัท IT ขนาดใหญ่ได้นำแนวทาง RAG ไปใช้แล้วในโซลูชันองค์กร: เทคโนโลยีจาก Microsoft, Google, IBM, AWS และอื่นๆ รวม LLM เข้ากับการค้นหาข้อมูลขององค์กร[1]

แนวโน้มและการวิจัยเพิ่มเติม

วิธีการ Retrieval-Augmented Generation กำลังพัฒนาอย่างแข็งขัน และในอีกไม่กี่ปีข้างหน้าคาดว่าจะมีการขยายความสามารถเพิ่มเติม ทิศทางหนึ่งคือMultimodal RAG ซึ่งข้อมูลภายนอกอาจเป็นไม่เพียงแค่ข้อความ แต่ยังรวมถึงรูปภาพ เสียง/วิดีโอ หรือแม้แต่ข้อมูลจากเซนเซอร์ การทดลองแสดงให้เห็นถึงความสามารถในการรวมโมเดลภาษากับการค้นหาในฐานข้อมูลภาพ ซึ่งช่วยให้ตอบคำถามเกี่ยวกับเนื้อหาของรูปภาพหรือวิดีโอโดยอาศัยคำอธิบายและข้อความที่เกี่ยวข้อง[2] ทิศทางสำคัญอีกอย่างคือการใช้แหล่งความรู้หลายแหล่งพร้อมกัน: ระบบ RAG ในอนาคตจะสามารถรวมข้อมูลจากฐานข้อมูลต่างๆ (เช่น Wikipedia สารานุกรมเฉพาะทาง บันทึกส่วนตัวของผู้ใช้) และสังเคราะห์คำตอบโดยคำนึงถึงข้อมูลที่หลากหลายเหล่านี้ทั้งหมด[2]

นักวิจัยยังเผชิญกับความท้าทายในการเพิ่มความน่าเชื่อถือและความปลอดภัยของ RAG จำเป็นต้องลดความเสี่ยงของการแพร่กระจายอคติและข้อผิดพลาดที่อาจมีอยู่ในข้อมูลภายนอก และรับประกันความสอดคล้องของคำตอบ ทีมนักพัฒนาของ RAG ต้นฉบับได้ดำเนินการในทิศทางนี้แล้ว — ตัวอย่างเช่น โดยจำกัดฐานความรู้เริ่มต้นไว้เพียงบทความ Wikipedia เท่านั้นในฐานะแหล่งข้อมูลที่ค่อนข้างได้รับการตรวจสอบและเป็นกลาง[2] ในอนาคตมีแผนที่จะสร้างตัวกรองพิเศษและวิธีการคัดเลือกเอกสารเพื่อให้โมเดลได้รับบริบทที่มีคุณภาพอย่างแน่นอน นอกจากนี้ การวิจัยมุ่งเน้นไปที่การปรับปรุงกลไกการค้นหาเอง: มีการพัฒนาอัลกอริทึมการจัดอันดับและการทำดัชนีเชิงความหมายใหม่ๆ ที่สามารถเข้าใจคำถามและค้นหาข้อมูลที่เกี่ยวข้องได้อย่างแม่นยำยิ่งขึ้น แม้กระทั่งสำหรับคำถามที่ซับซ้อนหรือคลุมเครือ

สุดท้าย ความสนใจที่น่าสนใจคือการรวม RAG เข้ากับกระบวนการฝึกโมเดลภาษาอย่างลึกซึ้งยิ่งขึ้น ขณะนี้กำลังปรากฏแนวทางที่กลไก retrieval ถูกใช้ไม่เพียงแค่ในขั้นตอนการอนุมาน แต่ยังในระหว่างการฝึกล่วงหน้าหรือการปรับแต่งละเอียด (fine-tuning) ของ LLM[10] ซึ่งอาจเพิ่มความถูกต้องตามข้อเท็จจริงของโมเดลและลดการพึ่งพาความรู้ที่บันทึกไว้แบบคงที่ในน้ำหนักได้มากยิ่งขึ้น ตามการทบทวนที่เผยแพร่ในปี ค.ศ. 2024 ชุมชนเห็นโอกาสอันยิ่งใหญ่ในการพัฒนาระบบนิเวศของ RAG: ตั้งแต่การปรับปรุงโครงสร้างพื้นฐาน (การเร่งการค้นหา การลดต้นทุนหน่วยความจำ) ไปจนถึงการสร้าง benchmark มาตรฐานสำหรับประเมินคุณภาพของระบบ RAG[3] ทั้งหมดนี้มีเป้าหมายเพื่อทำให้โมเดลเชิงสร้างสรรค์มีความแม่นยำ เอนกประสงค์ และปลอดภัยมากขึ้นเมื่อทำงานกับความรู้ภายนอกที่อัปเดตอย่างต่อเนื่อง ซึ่งเป็นขั้นตอนสำคัญบนเส้นทางสู่ปัญญาประดิษฐ์ที่น่าเชื่อถือในรุ่นถัดไป

ลิงก์อ้างอิง

  • Retrieval-Augmented Generation (RAG) คืออะไร — บล็อก NVIDIA
  • Retrieval-Augmented Generation for Large Language Models: A Survey — การทบทวนทางวิทยาศาสตร์บน arXiv
  • Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — บทความต้นฉบับเกี่ยวกับ RAG
  • RAG คืออะไร? การประยุกต์ใช้ ข้อจำกัด และความท้าทาย — บล็อก Bright Data

เอกสารอ้างอิง

  • Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv:2005.11401.
  • Karpukhin, V. et al. (2020). Dense Passage Retrieval for Open-Domain Question Answering. arXiv:2004.04906.
  • Guu, K. et al. (2020). REALM: Retrieval-Augmented Language Model Pre-Training. arXiv:2002.08909.
  • Qu, Y. et al. (2020). RocketQA: An Optimized Training Approach to Dense Passage Retrieval for Open-Domain Question Answering. arXiv:2010.08191.
  • Izacard, G.; Grave, E. (2021). Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering. arXiv:2007.01282.
  • Borgeaud, S. et al. (2022). Improving Language Models by Retrieving from Trillions of Tokens. arXiv:2112.04426.
  • Wei, J. et al. (2022). Chain of Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
  • Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  • Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
  • Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
  • Mialon, G. et al. (2023). Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv:2312.10997.
  • Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
  • Yang, Z. et al. (2023). Re-ViLM: Retrieval-Augmented Visual Language Model for Zero and Few-Shot Image Captioning. arXiv:2302.04858.
  • Barnett, S. et al. (2024). Seven Failure Points When Engineering a Retrieval Augmented Generation System. arXiv:2401.05856.
  • Wang, Y. et al. (2024). Self-Instruct: Aligning Language Models with Self-Generated Instructions. arXiv:2212.10560.
  • Han, H. et al. (2025). Retrieval-Augmented Generation with Graphs (GraphRAG). arXiv:2501.00309.

หมายเหตุ

  1. 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 «What Is Retrieval-Augmented Generation aka RAG». NVIDIA Blogs. [1]
  2. 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 «Facebook open-sources RAG, an AI model that retrieves documents to answer questions». VentureBeat. [2]
  3. 3.0 3.1 3.2 3.3 Mialon, Grégoire et al. «Retrieval-Augmented Generation for Large Language Models: A Survey». arXiv. [3]
  4. 4.0 4.1 4.2 «Applied AI Software Engineering: RAG». Pragmatic Engineer. [4]
  5. 5.0 5.1 5.2 Lewis, Patrick et al. «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks». arXiv. [5]
  6. 6.0 6.1 6.2 6.3 6.4 6.5 6.6 «How RAG Makes LLMs Smarter». Exxact Blog. [6]
  7. «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks». arXiv. [7]
  8. 8.0 8.1 8.2 8.3 8.4 8.5 8.6 8.7 8.8 «What Is RAG? Use Cases, Limitations, and Challenges». Bright Data Blog. [8]
  9. 9.0 9.1 9.2 Lewis, Patrick et al. «Seven Failure Points When Engineering a Retrieval Augmented Generation System». arXiv. [9]
  10. «Генерация, дополненная поиском». Википедия. [10]