GraphRAG (VI)
GraphRAG — đây là một mô hình nâng cao của Retrieval-Augmented Generation (RAG), trong đó thay vì tìm kiếm truyền thống trên các đoạn văn bản rời rạc (chunk), người ta sử dụng đồ thị tri thức (Knowledge Graph, KG)[1]. Cấu trúc đồ thị biểu diễn tường minh các mối quan hệ giữa các thực thể và hệ thống phân cấp của các khái niệm trong lĩnh vực, cho phép LLM thực hiện suy luận trích xuất tri thức đa bước và tạo ra các câu trả lời nhận thức ngữ cảnh tốt hơn, có thể giải thích được[2].
Phương pháp GraphRAG thể hiện ưu thế đáng kể so với RAG cổ điển khi làm việc với các truy vấn phức tạp, đa bước (multi‑hop), trong đó câu trả lời phụ thuộc vào sự kết hợp của nhiều sự kiện nằm rải rác trên các tài liệu khác nhau[3].
Hạn chế của RAG cổ điển và ưu điểm của đồ thị
RAG cổ điển, dựa trên tìm kiếm vector trên văn bản phi cấu trúc, gặp phải một số hạn chế cơ bản trở nên nghiêm trọng trong các tình huống doanh nghiệp phức tạp:
- Thiếu liên kết cấu trúc: RAG truyền thống xử lý các chunk văn bản như các đơn vị độc lập và không nhìn thấy các mối quan hệ tường minh giữa chúng. Điều này khiến nó kém hiệu quả với các truy vấn multi‑hop, trong đó để trả lời cần đi qua một chuỗi sự kiện (A→B→C), còn tìm kiếm chỉ tìm thấy mắt xích đầu và cuối (A và C), bỏ qua các mắt xích trung gian[1].
- Mơ hồ ngữ nghĩa: Trong các lĩnh vực chuyên sâu (y tế, luật, kỹ thuật), các thuật ngữ có ý nghĩa đặc thù. Tìm kiếm vector, mặc dù nắm bắt được chủ đề chung, có thể diễn giải sai vai trò của một đối tượng cụ thể, dẫn đến việc trích xuất ngữ cảnh không liên quan.
- Khả năng giải thích hạn chế: RAG cổ điển cung cấp các đoạn tài liệu nhưng không có bằng chứng tường minh về cách các đoạn đó liên kết thành một chuỗi logic. GraphRAG, ngược lại, làm cho quá trình này trở nên minh bạch, cung cấp đường đi trong đồ thị như bằng chứng và yêu cầu gắn các khẳng định với nguồn gốc (trích dẫn)[4].
GraphRAG giải quyết những vấn đề này bằng cách biểu diễn tri thức dưới dạng mạng lưới các thực thể và quan hệ kết nối, cho phép hệ thống không chỉ tìm văn bản tương tự mà còn thực hiện suy luận logic dựa trên mô hình miền được hình thức hóa.
Kiến trúc GraphRAG
Pipeline tổng thể của GraphRAG mở rộng RAG cổ điển bằng cách thêm các bước xây dựng và sử dụng đồ thị tri thức. Nó được chia thành hai giai đoạn chính: chuẩn bị ngoại tuyến (offline) và xử lý truy vấn trực tuyến (online).
Giai đoạn 1: Nhập dữ liệu và lập chỉ mục (offline)
Trong giai đoạn này, dữ liệu nguồn (tài liệu, cơ sở dữ liệu) được chuyển đổi thành hai biểu diễn bổ sung cho nhau: dạng đồ thị và dạng vector.
- Trích xuất tri thức: Các sự kiện có cấu trúc được trích xuất từ văn bản thông qua pipeline NLP:
- Named Entity Recognition (NER): Tìm các đề cập đến thực thể (người, tổ chức, sản phẩm).
- Entity Linking (EL): Liên kết các đề cập với các định danh chuẩn trong đồ thị để khử mơ hồ (ví dụ: «Nguyễn V.A.» và «V. Nguyễn» trở thành một nút duy nhất)[5].
- Relation Extraction (RE): Xác định các quan hệ giữa các thực thể (ví dụ: Công ty X −mua lại→ Startup Y).
- Mô hình hóa và lưu trữ đồ thị: Các bộ ba được trích xuất (chủ thể‑vị từ‑đối tượng) được nạp vào cơ sở dữ liệu đồ thị. Việc chọn mô hình (Property Graph hay RDF) phụ thuộc vào nhiệm vụ. Điều cực kỳ quan trọng là lưu trữ nguồn gốc (provenance) của mỗi sự kiện — liên kết đến tài liệu nguồn và đoạn văn bản[3]. Đồ thị cũng có thể bổ sung siêu dữ liệu về thời gian (valid_from/valid_to) và độ tin cậy (confidence).
- Lập chỉ mục lai: Song song với đồ thị, một chỉ mục vector được tạo cho các đoạn văn bản nguồn. Điều này cho phép kết hợp tìm kiếm cấu trúc theo đồ thị với tìm kiếm ngữ nghĩa theo văn bản.
Giai đoạn 2: Xử lý truy vấn và tạo câu trả lời (online)
- Phân tích truy vấn: Truy vấn của người dùng được phân tích để xác định các thực thể chính, đóng vai trò là «điểm vào» trong đồ thị.
- Trích xuất đồ thị con: Thay vì tìm kiếm các chunk riêng lẻ, GraphRAG tìm đồ thị con có liên quan — một đoạn đồ thị kết nối xung quanh các «điểm vào», chứa thông tin để trả lời. Để làm điều này, các thuật toán như duyệt k‑hop hoặc Personalized PageRank (PPR) được sử dụng[6].
- Tìm kiếm lai và hợp nhất kết quả: Song song với việc trích xuất đồ thị con, tìm kiếm theo chỉ mục vector và/hoặc từ khóa (BM25) được thực hiện. Kết quả từ đồ thị và văn bản được kết hợp và chuyển sang bước tiếp theo.
- Xếp hạng lại (Re‑ranking): Danh sách kết hợp các ứng viên (nút đồ thị và chunk văn bản) được xếp hạng lại bằng mô hình chính xác hơn (ví dụ: cross-encoder) để chọn lọc thông tin có liên quan nhất. Điều này cho phép lọc bỏ nhiễu và nâng cao độ chính xác[7].
- Đóng gói ngữ cảnh và tạo sinh: Ngữ cảnh đã được chọn lọc và xếp hạng (đồ thị con và văn bản) được chuyển đổi sang định dạng mà LLM có thể hiểu (ví dụ: danh sách các khẳng định có chỉ dẫn nguồn gốc). Ngữ cảnh được làm giàu này được đưa vào prompt để tạo câu trả lời cuối cùng.
- Truy vết và trích dẫn: Nhờ liên kết «sự kiện ↔ nguồn gốc» trong đồ thị, câu trả lời được tạo ra chứa các tham chiếu chính xác đến tài liệu xác nhận từng luận điểm. Điều này đảm bảo tính có căn cứ và minh bạch cao.
Bảng so sánh các thành phần
| Thành phần/khía cạnh | Các biến thể triển khai | Ưu điểm | Nhược điểm/rủi ro | Khi nào nên ưu tiên |
|---|---|---|---|---|
| Mô hình đồ thị tri thức | RDF/OWL | Bản thể học chặt chẽ, suy luận logic (reasoning), tương thích với Linked Open Data. | Khó lưu trữ các thuộc tính quan hệ (thời gian, nguồn gốc) mà không cần các thực thể bổ sung (reification). | Các miền giàu ngữ nghĩa với các bản thể học hiện có; cần suy diễn. |
| Property Graph (Neo4j, v.v.) | Linh hoạt, thuộc tính tùy ý trên nút/cạnh, hiệu suất cao. | Yêu cầu lược đồ rõ ràng theo cách thủ công hoặc có nguy cơ «hỗn loạn»; không có tiêu chuẩn thống nhất. | Khởi động nhanh với dữ liệu phi cấu trúc; tích hợp với tài liệu (multi‑model DB). | |
| Trích xuất đồ thị con | k‑hop BFS / DFS | Bao phủ tất cả các nút đến độ sâu k, đơn giản trong triển khai. | «Bùng nổ» đồ thị: tăng theo cấp số nhân số lượng nút; có thể trả về nhiều nhiễu. | Đồ thị nhỏ hoặc duyệt ở độ sâu 1–2; cấu trúc phân cấp. |
| Personalized PageRank (PPR) | Tập trung vào các nút thực sự liên quan, nhiễu được lọc bỏ[6]. | Có thể bỏ qua nút xa nhưng quan trọng (nếu ít đường đi nhưng nút đó có tính quyết định). | Các mạng phức tạp với nhiều đường đi (đồ thị xã hội, đồ thị trích dẫn). | |
| Tìm kiếm lai | Danh sách kết hợp (scalar fusion với trọng số λ) | Điều chỉnh trọng số λ cho phép cân bằng precision/recall theo nhiệm vụ[8]. | λ cố định không tối ưu cho mọi loại truy vấn. | Trong giai đoạn tạo mẫu; khi đã biết một nguồn rõ ràng quan trọng hơn. |
| Cross‑encoder rerank | Tăng đáng kể độ chính xác; khả năng tính đến các mối quan hệ phức tạp. | Tăng độ trễ; yêu cầu dữ liệu để huấn luyện hoặc sử dụng các mô hình có sẵn[7]. | Các tình huống đòi hỏi độ chính xác cao (luật, y tế), trong đó ngữ cảnh có liên quan tối đa là quan trọng. | |
| Bảo mật dữ liệu | Lọc đồ thị con (RBAC/ABAC) | Kiểm soát chi tiết (đến cấp độ nút) loại trừ rò rỉ. | «Vùng mù»: nếu một nút quan trọng bị loại bỏ, câu trả lời có thể trở nên không đầy đủ. | Trong môi trường doanh nghiệp với các yêu cầu kiểm soát truy cập nghiêm ngặt (PII, GDPR, bí mật thương mại). |
Truy vết, tin cậy và bảo mật
Một trong những ưu điểm chính của GraphRAG là khả năng trình bày chuỗi bằng chứng minh bạch. Thay vì câu trả lời từ «hộp đen», hệ thống có thể hiển thị chuỗi lập luận: «Sự kiện A được đề cập trong [doc1]. Nó liên quan đến sự kiện B [doc2], còn B theo [doc3] dẫn đến C», — điều này tăng mức độ tin tưởng của người dùng và đơn giản hóa việc gỡ lỗi.
Ngoài ra, cấu trúc đồ thị cho phép triển khai kiểm soát truy cập chi tiết (RBAC/ABAC). Mỗi nút hoặc cạnh trong đồ thị có thể có nhãn kiểm soát truy cập. Khi trích xuất đồ thị con, hệ thống tự động lọc bỏ dữ liệu mà người dùng không có quyền truy cập, đảm bảo bảo mật trong các lĩnh vực nhạy cảm (tài chính, nhân sự, y tế).
Đánh giá chất lượng
Việc đánh giá hệ thống GraphRAG là đa giai đoạn và bao gồm các chỉ số cho từng thành phần:
- Chỉ số trích xuất tri thức: F1‑score cho NER và RE, để đánh giá chất lượng xây dựng đồ thị.
- Chỉ số trích xuất đồ thị con: Subgraph Recall@K (tỷ lệ các trường hợp trong đó các nút/cạnh cần thiết để trả lời nằm trong đồ thị con được trích xuất) và Path Precision/Recall cho các câu hỏi multi‑hop.
- Chỉ số câu trả lời LLM:
- Faithfulness / Groundedness: mức độ câu trả lời dựa chặt chẽ vào ngữ cảnh được cung cấp.
- Human evaluation: đánh giá của chuyên gia theo các tiêu chí về tính chính xác, đầy đủ và mạch lạc.
Để tự động hóa việc đánh giá, các benchmark chuyên dụng (ví dụ: WebQuestionsSP, GrailQA) và các framework (ví dụ: RAGAS) được sử dụng[9].
Xem thêm
- Retrieval‑Augmented Generation (RAG)
- Đồ thị tri thức
- Cơ sở dữ liệu vector
- Embedding
- AI-agent
- Đánh giá và benchmark LLM
Tài liệu tham khảo
- Zhang, Q. et al. (2025). A Survey of Graph Retrieval‑Augmented Generation for Customized Large Language Models. arXiv:2501.13958.
- Xu, Z. et al. (2024). Retrieval‑Augmented Generation with Knowledge Graphs for Customer Service Question Answering. arXiv:2404.17723.
- Hu, Y. et al. (2024). GRAG: Graph Retrieval‑Augmented Generation. arXiv:2405.16506.
- Nakano, R. et al. (2021). WebGPT: Browser‑assisted Question‑Answering with Human Feedback. arXiv:2112.09332.
- Yang, R. et al. (2025). KG‑IRAG: A Knowledge Graph‑Based Iterative Retrieval‑Augmented Generation Framework for Temporal Reasoning. arXiv:2503.14234.
- Song, Y. et al. (2023). Advancements in Complex Knowledge Graph Question Answering: A Survey. DOI:10.3390/electronics12214395.
- Nogueira, R.; Cho, K. (2019). Passage Re‑ranking with BERT. arXiv:1901.04085.
- Hsu, H.‑L.; Tzeng, J. (2025). DAT: Dynamic Alpha Tuning for Hybrid Retrieval in Retrieval‑Augmented Generation. arXiv:2503.23013.
- Lewis, P. et al. (2020). Retrieval‑Augmented Generation for Knowledge‑Intensive NLP Tasks. arXiv:2005.11401.
- Karpukhin, V. et al. (2020). Dense Passage Retrieval for Open‑Domain Question Answering. arXiv:2004.04906.
- Sun, H. et al. (2018). Open‑Domain Question Answering Using Early Fusion of Knowledge Bases and Text (GRAFT‑Net). arXiv:1809.00782.
- Sun, H.; Bedrax‑Weiss, T.; Cohen, W. W. (2019). PullNet: Open‑Domain Question Answering with Iterative Retrieval on Knowledge Bases and Text. arXiv:1904.09537.
- He, X. et al. (2024). G‑Retriever: Retrieval‑Augmented Generation for Textual Graph Understanding and Question Answering. arXiv:2402.07630.
- Es, S.; James, J.; Espinosa‑Anke, L.; Schockaert, S. (2024). RAGAs: Automated Evaluation of Retrieval Augmented Generation. ACL:2024.eacl-demo.16.
Chú thích
- ↑ 1.0 1.1 Zhang, Q., et al. A Survey of Graph Retrieval-Augmented Generation for Customized Large Language Models. arXiv, 2025. arXiv:2501.13958.
- ↑ Xu, Z., et al. Retrieval-Augmented Generation with Knowledge Graphs for Customer Service Question Answering. SIGIR, 2024. arXiv:2404.17723; DOI: 10.1145/3626772.3661370.
- ↑ 3.0 3.1 Hu, Y., et al. GRAG: Graph Retrieval‑Augmented Generation. arXiv, 2024. arXiv:2405.16506; также в Findings of NAACL 2025: ACL Anthology.
- ↑ Nakano, R., et al. WebGPT: Browser‑assisted question‑answering with human feedback. arXiv, 2021. arXiv:2112.09332.
- ↑ Yang, R., et al. KG‑IRAG: A Knowledge Graph‑Based Iterative Retrieval‑Augmented Generation Framework for Temporal Reasoning. arXiv, 2025. arXiv:2503.14234.
- ↑ 6.0 6.1 Song, Y., Li, W., Dai, G., Shang, X. Advancements in Complex Knowledge Graph Question Answering: A Survey. Electronics, 2023. DOI: 10.3390/electronics12214395.
- ↑ 7.0 7.1 Nogueira, R., Cho, K. Passage Re‑ranking with BERT. arXiv, 2019. arXiv:1901.04085.
- ↑ Hsu, H.‑L.; Tzeng, J. DAT: Dynamic Alpha Tuning for Hybrid Retrieval in Retrieval‑Augmented Generation. arXiv, 2025. arXiv:2503.23013.
- ↑ Es, S.; James, J.; Espinosa Anke, L.; Schockaert, S. RAGAs: Automated Evaluation of Retrieval Augmented Generation. EACL (System Demonstrations), 2024. ACL:2024.eacl-demo.16; также preprint: arXiv:2309.15217.