Graph of Thoughts (VI)

Graph-of-Thoughts (GoT) — là một khái niệm trong lĩnh vực làm việc với các mô hình ngôn ngữ lớn (LLM, Large Language Models), đề xuất biểu diễn quá trình suy luận của mô hình dưới dạng một đồ thị tùy ý gồm các «suy nghĩ» (các bước trung gian trong quá trình giải quyết vấn đề) có liên hệ với nhau. Phương pháp này được đề xuất bởi một nhóm các nhà nghiên cứu do Maciej Besta dẫn đầu từ ETH Zurich và được công bố vào năm 2024 tại hội nghị AAAI. Mục tiêu của Graph-of-Thoughts là mở rộng khả năng của prompt engineering (kỹ thuật thiết kế câu lệnh) vượt ra ngoài các sơ đồ hiện có như Chain-of-Thought (chuỗi suy nghĩ) và Tree-of-Thoughts (cây suy nghĩ). Khác với các phương pháp đó, phương pháp GoT cho phép bất kỳ đoạn suy luận nào do mô hình tạo ra (suy nghĩ) có thể tham chiếu đến bất kỳ đoạn nào khác, tạo thành một mạng lưới ý tưởng thay vì cấu trúc tuyến tính hoặc dạng cây nghiêm ngặt. Các tác giả cho rằng điều này phản ánh chính xác hơn bản chất phức tạp, phi tuyến tính của tư duy con người và có khả năng đưa cơ chế suy luận của LLM đến gần hơn với cách hoạt động của não người (với các kết nối thần kinh hồi quy).

Graph-of-Thoughts là một phương pháp xây dựng câu lệnh (prompting framework), tức là không yêu cầu huấn luyện thêm hay tinh chỉnh bản thân mô hình — thay vào đó, nó tổ chức cuộc đối thoại với LLM theo một cách đặc biệt, hướng dẫn mô hình qua một loạt các bước-«suy nghĩ» được kết nối theo sơ đồ đồ thị. Cấu trúc này cho phép kết hợp và tái sử dụng các nhánh suy luận khác nhau: ví dụ, mô hình có thể xem xét song song nhiều giả thuyết hoặc các phần của bài toán, sau đó kết hợp những giả thuyết thành công nhất thành một giải pháp thống nhất. Theo phong cách bách khoa toàn thư, Graph-of-Thoughts có thể được định nghĩa là sự tổng quát hóa các chiến lược suy luận có cấu trúc trước đó với LLM, cung cấp tính linh hoạt tối đa trong việc tổ chức các quá trình tư duy trong một câu lệnh phức hợp duy nhất.

Tiền đề: Chain-of-Thought và Tree-of-Thoughts

Phương pháp Graph-of-Thoughts phát triển từ các phương pháp trước đó sử dụng cấu trúc suy luận tường minh khi làm việc với các mô hình ngôn ngữ. Phương pháp cơ bản là Chain-of-Thought (CoT) – «chuỗi suy nghĩ». Trong phương pháp CoT, người dùng được khuyến khích đưa vào câu lệnh gửi cho mô hình không chỉ điều kiện bài toán mà còn cả các bước suy luận trung gian dẫn đến câu trả lời. Các nghiên cứu cho thấy cách trình bày này cải thiện đáng kể khả năng của LLM trong việc giải quyết các bài toán phức tạp, chẳng hạn như các bài toán toán học hay đố logic, mà không cần thay đổi các tham số của mô hình. Về thực chất, CoT khuyến khích mô hình phân tích từng bước một vấn đề phức tạp thành các giai đoạn đơn giản hơn, mô phỏng quá trình suy nghĩ tuần tự.

Sự phát triển của ý tưởng này là kỹ thuật Self-Consistency: thay vì một chuỗi suy nghĩ, nhiều chuỗi độc lập được tạo ra, sau đó lựa chọn chuỗi thuyết phục nhất. Điều này cho phép mô hình xem xét các cách tiếp cận khác nhau để giải quyết vấn đề và giảm nguy cơ nhận được câu trả lời sai do theo đuổi duy nhất một hướng suy luận không đúng. Tuy nhiên, ngay cả nhiều chuỗi CoT cũng không cho phép «kết hợp các ý tưởng»: mỗi chuỗi được xem xét độc lập, và mô hình chỉ chọn chuỗi tốt nhất mà không kết hợp nội dung của chúng.

Để khắc phục hạn chế này, sơ đồ Tree-of-Thoughts (ToT) – «cây suy nghĩ» đã được đề xuất. Trong ToT, quá trình suy luận được tổ chức như một cây: tại mỗi điểm, mô hình có thể sinh ra nhiều phương án phát triển suy nghĩ (nhánh), sau đó các trạng thái trung gian này được đánh giá và lựa chọn những trạng thái triển vọng nhất để tiếp tục đào sâu. Sử dụng tìm kiếm trên cây (ví dụ, theo chiều rộng — BFS, hoặc theo chiều sâu — DFS) và khả năng quay lại các nút để phát triển nhánh khác, Tree-of-Thoughts cung cấp cho mô hình ngôn ngữ cơ chế mạnh mẽ hơn để giải quyết các bài toán phức tạp so với CoT tuyến tính. Các khả năng mới xuất hiện, như quay lui và xem xét lại: nếu một nhánh dẫn đến ngõ cụt, có thể quay lại nút trước đó và thử con đường khác. Phương pháp này đã chứng minh hiệu quả trong việc giải quyết các bài toán logic và tìm kiếm, nơi việc liệt kê các phương án và lập kế hoạch đóng vai trò quan trọng.

Tuy nhiên, cây suy nghĩ cũng áp đặt những hạn chế nghiêm ngặt: mỗi suy nghĩ (nút của cây) chỉ thuộc về một nhánh, sự tương tác chỉ xảy ra giữa các nút cha và nút con, và các nhánh khác nhau không thể hợp lại hay trao đổi thông tin. Nói cách khác, sự trao đổi chéo ý tưởng (cross-pollination) giữa các giả thuyết khác nhau trong khuôn khổ một giải pháp là khó khăn: các nhánh của cây phát triển độc lập và chỉ hợp lại ở gốc khi chuỗi suy luận tốt nhất được chọn. Trong tư duy sáng tạo hay phân tích thực tế, con người thường quay lại một ý tưởng đã xem xét trước đó và kết hợp nó với một nhánh suy luận khác. Sự đan xen của các suy nghĩ như vậy vượt ra ngoài cấu trúc của cây.

Những quan sát này đã dẫn các nhà nghiên cứu đến ý tưởng về một cấu trúc linh hoạt hơn — đồ thị, nơi các kết nối giữa các suy nghĩ không bị hạn chế và có thể tạo thành một mạng lưới phức tạp. Như được lưu ý trong một bài đánh giá phân tích năm 2024, sự xuất hiện của các chuỗi, cây và đồ thị suy nghĩ phản ánh sự ra đời của một lớp phương pháp mới có khả năng tăng cường đáng kể các khả năng của LLM thông qua việc cấu trúc tường minh quá trình suy luận. Cụ thể, các câu lệnh có cấu trúc đã cho phép cải thiện đáng kể kết quả của LLM trong nhiều lĩnh vực — từ giải các bài toán toán học và đố logic đến lập kế hoạch và thậm chí viết sáng tạo. Trên nền tảng chung này, sơ đồ Graph-of-Thoughts ra đời như bước tiếp theo trong sự phát triển của các phương pháp prompting có cấu trúc.

Khái niệm Graph-of-Thoughts: cấu trúc đồ thị của các suy nghĩ

Graph-of-Thoughts đề xuất biểu diễn quá trình thực hiện các nhiệm vụ của mô hình ngôn ngữ dưới dạng một đồ thị có hướng tùy ý. Về mặt hình thức, đồ thị suy nghĩ trong GoT là một tập hợp các đỉnh (suy nghĩ) và các cạnh (sự phụ thuộc giữa các suy nghĩ). Đỉnh của đồ thị là một suy nghĩ riêng lẻ của mô hình — thuật ngữ này chỉ bất kỳ đơn vị nội dung nào phụ thuộc vào ngữ cảnh bài toán: có thể là một phát biểu riêng lẻ, một bước giải, một đoạn văn bản, một đoạn văn, một khối mã, v.v., được mô hình tạo ra để phản hồi câu lệnh. Một cạnh giữa các đỉnh có nghĩa là một suy nghĩ được sử dụng để tạo ra suy nghĩ khác — tức là trong câu lệnh, mô hình được chỉ định rõ ràng rằng nó cần dựa trên một kết quả trước đó cụ thể để tạo ra kết quả mới. Như vậy, các cạnh ghi lại các phụ thuộc: bước suy luận hiện tại phụ thuộc vào dữ liệu nào đã được thu thập trước đó.

Sự khác biệt quan trọng nhất của GoT so với các cấu trúc đơn giản hơn là khả năng tổng hợp và hợp nhất các suy nghĩ. Trong đồ thị, một đỉnh (suy nghĩ mới) có thể có nhiều đỉnh tiền nhiệm. Điều này tương ứng với tình huống khi hai hoặc nhiều chuỗi suy luận riêng biệt được kết hợp: mô hình nhận được đầu vào là nhiều đoạn đã được tạo trước đó cùng một lúc và trên cơ sở đó tạo ra một kết luận tổng hợp. Ví dụ, khi giải một bài toán, mô hình có thể xem xét song song hai giả thuyết, sau đó tạo ra một suy nghĩ mới kết hợp những mặt tích cực của cả hai giả thuyết và loại bỏ những nhược điểm của chúng. Các phép tổng hợp như vậy là không thể trong khuôn khổ sơ đồ cây (nơi mỗi nút chỉ có một cha), nhưng được thực hiện tự nhiên trong sơ đồ đồ thị. Ngoài việc hợp nhất các ý tưởng, đồ thị còn cho phép giới thiệu các vòng phản hồi (feedback loops): về nguyên tắc, cấu trúc GoT không cấm các chu trình, tức là mô hình có thể đưa một số kết quả trở lại giai đoạn suy luận trước đó để xử lý lại hoặc tinh chỉnh. Các tác giả liên kết điều này với sự tương đồng với các kết nối hồi quy trong mạng thần kinh của não, nơi đầu ra của một nhóm tế bào thần kinh có thể tác động ngược lại lên các lớp trước đó, tạo thành các vòng suy nghĩ khép kín.

Về mặt thực tế, việc triển khai Graph-of-Thoughts đòi hỏi tổ chức đặc biệt trong cuộc đối thoại với mô hình. Các nhà nghiên cứu đã phát triển một khung kiến trúc mô-đun cho GoT. Nó phân tách các thành phần cho: (1) kiểm soát chi tiết từng bước (suy nghĩ) — «bộ điều khiển» quản lý thứ tự và logic tạo ra các suy nghĩ; (2) tạo động các câu lệnh — cho mỗi bước, một mô-đun đặc biệt tạo ra prompt dựa trên ngữ cảnh hiện tại và các đỉnh đồ thị được chọn (các đỉnh tiền nhiệm); (3) phân tích cú pháp và đánh giá các phản hồi của mô hình — các đoạn nhận được từ LLM được phân tích và đánh giá về chất lượng, tính hữu ích hoặc sự phù hợp với tiêu chí bài toán. Kiến trúc GoT do đó cho phép xây dựng đồ thị suy luận theo chế độ tương tác: sau mỗi bước, quyết định được đưa ra về việc thêm đỉnh mới nào, cách kết nối chúng với các đỉnh trước đó, những nhánh nào cần tiếp tục hay kết hợp. Nhờ tính mô-đun, khung như vậy có thể được mở rộng với các loại «biến đổi suy nghĩ» mới (ví dụ, các phép toán đặc biệt trên đồ thị) và được điều chỉnh cho các mô hình khác nhau (các tác giả đã thử nghiệm thành công GoT với LLM thuộc các dòng GPT-3.5, GPT-4, LLAMA 2 và các dòng khác). Một thuộc tính quan trọng là GoT không yêu cầu thay đổi các tham số của mô hình ngôn ngữ — tất cả các cải tiến đạt được thông qua việc xây dựng câu lệnh thông minh hơn và xử lý phản hồi. Điều này có nghĩa là các LLM mạnh mẽ hiện có có thể được sử dụng «nguyên trạng», và Graph-of-Thoughts đóng vai trò là một lớp phủ quản lý hoạt động của chúng.

Cần lưu ý rằng thuật ngữ Graph-of-Thought cũng xuất hiện trong một công trình khác, độc lập, khác biệt so với phương pháp của Besta và các đồng nghiệp. Vào năm 2023, Yao Yao và các đồng tác giả đã đề xuất một phương pháp cải thiện khả năng reasoning của LLM thông qua một mô-đun encoder đồ thị suy nghĩ bổ sung, đòi hỏi phải fine-tuning mô hình. Công trình của họ mang tên «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models» mô tả kiến trúc hai giai đoạn: đầu tiên tạo ra đồ thị các phát biểu trung gian có liên hệ với nhau, sau đó nó được biến đổi bởi một encoder đặc biệt và được tích hợp vào mô hình thông qua cơ chế gated fusion. Phương pháp lai kết hợp với huấn luyện này đã cho thấy một số cải thiện độ chính xác trên các bài toán, ví dụ, trên tập câu hỏi đa phương thức ScienceQA, độ chính xác tăng từ 85,2% lên 87,6% khi sử dụng mô hình T5-base. Tuy nhiên, phương pháp này, mặc dù tương tự về tên gọi, về cơ bản khác biệt: nó đòi hỏi thay đổi mô hình (fine-tuning) và không phải là sơ đồ prompt engineering. Các tác giả của phương pháp GoT gốc (AAAI 2024) chỉ rõ rằng họ không xem xét trong công trình của mình mô hình của Yao và đồng nghiệp đó, vì họ tập trung vào các phương pháp không cập nhật tham số LLM. Như vậy, Graph-of-Thoughts trong bối cảnh bài đánh giá này là chính xác là framework ở cấp độ câu lệnh, chứ không phải sửa đổi kiến trúc mạng thần kinh.

Ứng dụng và kết quả

Các tác giả GoT đã trình diễn những lợi thế của nó trên một số bài toán khó giải quyết bằng một câu lệnh trực tiếp đơn giản (input-output prompting) hoặc thậm chí với chuỗi suy nghĩ. Đặc điểm nổi bật của những bài toán như vậy là chúng có thể được phân rã thành nhiều phần (bài toán con), giải quyết các phần này riêng biệt, sau đó tổng hợp câu trả lời hoàn chỉnh từ các kết quả bộ phận. Trong số các ví dụ được xem xét: sắp xếp danh sách chưa được sắp xếp, đếm từ khóa trong văn bản (ví dụ, để tóm tắt tài liệu), thực hiện các phép toán trên tập hợp (hợp, giao của các danh sách, v.v.), cũng như hợp nhất các tài liệu văn bản (kết hợp thông tin từ nhiều nguồn). Trong tất cả các trường hợp này, Graph-of-Thoughts cho phép phân rã bài toán một cách tự nhiên. Ví dụ, để sắp xếp, danh sách được chia thành các phần, mỗi phần được sắp xếp riêng như một nhánh suy nghĩ độc lập, sau đó các kết quả được kết hợp (mô phỏng một thuật toán như merge sort); hoặc khi phân tích văn bản, mô hình có thể trích xuất thông tin từ các tài liệu khác nhau song song, sau đó tổng hợp chúng thành một.

Kết quả thực nghiệm xác nhận tính hiệu quả của sơ đồ GoT. Theo báo cáo của Besta và các đồng nghiệp, trong bài toán sắp xếp, đồ thị suy nghĩ đã cho phép cải thiện đáng kể chất lượng giải pháp so với các phương pháp trước đó. Cụ thể, độ chính xác sắp xếp khi sử dụng GoT cao hơn 70% so với chuỗi suy nghĩ CoT đơn giản, và cao hơn 62% so với cây suy nghĩ ToT. Đồng thời, phương pháp giảm chi phí tài nguyên tính toán: số lần gọi mô hình (và theo đó, khối lượng token hóa của câu lệnh) giảm 31% so với Tree-of-Thoughts cho cùng một bài toán. Điều này có nghĩa là tổ chức đồ thị của quá trình suy luận không chỉ cải thiện kết quả cuối cùng mà còn làm cho giải pháp hiệu quả hơn về mặt kinh tế, tránh các tính toán dư thừa nhờ kết hợp thông minh các kết luận trung gian. Những lợi ích tương tự cũng đạt được trên các bài toán kiểm tra khác, đặc biệt là những bài toán yêu cầu tổng hợp thông tin không đồng nhất. Các nhà nghiên cứu lưu ý rằng GoT hiệu quả nhất chính xác là với các bài toán tổng hợp, bao gồm nhiều thành phần: «Graph-of-Thoughts đặc biệt phù hợp với các bài toán tự nhiên phân rã thành các bài toán con nhỏ hơn, được giải quyết riêng biệt với việc kết hợp kết quả sau đó». Trong những trường hợp như vậy, đồ thị suy nghĩ có khả năng bao quát tất cả các khía cạnh của vấn đề và tổng hợp một giải pháp đầy đủ hơn so với việc theo một hướng suy luận duy nhất.

Để hiểu sâu hơn tại sao một cách xây dựng câu lệnh tốt hơn cách khác, một chỉ số đặc biệt đã được đề xuất trong công trình năm 2024 — «khối lượng của một suy nghĩ» (volume of a thought). Khối lượng được xác định cho từng suy nghĩ riêng lẻ (đỉnh đồ thị) là số suy nghĩ khác có thể đến được đỉnh này thông qua các cạnh có hướng (nói đơn giản hơn, đỉnh này chịu ảnh hưởng thông tin từ bao nhiêu bước trung gian). Trong Chain-of-Thought, bất kỳ suy nghĩ nào cũng chỉ dựa trên một tiền nhiệm, do đó khối lượng của nó bằng 1 (chuỗi tuyến tính). Trong cây suy nghĩ, khối lượng có thể lớn hơn, nhưng vẫn bị giới hạn bởi cấu trúc của một nhánh riêng lẻ. Trong đồ thị, nhờ tổng hợp, một đỉnh riêng lẻ có thể tích lũy đóng góp của nhiều đỉnh khác cùng một lúc — «khối lượng» của nó cao hơn đáng kể. Đã được chứng minh rằng GoT cho phép các kết luận cuối cùng dựa trên khối lượng suy nghĩ tiền nhiệm lớn hơn đáng kể, kết hợp nội dung của chúng. Sự kiện này phản ánh sự bao quát sâu hơn không gian giải pháp và là lời giải thích định lượng về lợi thế của suy luận dạng đồ thị so với các sơ đồ đơn giản hơn.

So sánh và ý nghĩa

Graph-of-Thoughts hiện nay đại diện cho hình thức tổng quát nhất của prompting có cấu trúc cho LLM. Trong các bảng so sánh các sơ đồ khác nhau (CoT, CoT với self-consistency, ToT và GoT), người ta nhấn mạnh rằng chỉ GoT hỗ trợ tô-pô tùy ý của quá trình tư duy. Nó bao gồm khả năng của tất cả các phương pháp trước đó: có thể hoạt động như một chuỗi đơn, như cây với các nhánh, và như sự kết hợp của nhiều chuỗi, nếu điều đó phù hợp để giải quyết bài toán. Điều quan trọng nhất — không có hạn chế cứng nhắc về kết nối giữa các bước, điều này về mặt lý thuyết làm cho không gian các chiến lược suy luận có thể có là rộng nhất.

Quan trọng cần hiểu rằng tính linh hoạt của GoT đi kèm với sự phức tạp hơn trong việc kiểm soát. Việc triển khai đồ thị suy nghĩ đòi hỏi một thuật toán điều phối bên ngoài, sẽ quyết định khi nào và những suy nghĩ nào cần được tạo ra, cái nào trong số đó cần lựa chọn hoặc kết hợp, khi nào dừng quá trình và đưa ra câu trả lời. Trong CoT đơn giản, không cần đưa ra những quyết định như vậy — mô hình tự tạo ra suy luận tuyến tính cho đến cuối. Trong ToT, một phần kiểm soát được đặt lên thuật toán tìm kiếm trên cây (ví dụ, lựa chọn nút để mở rộng). Trong GoT, mức độ tự do cao hơn, và hiệu quả của phương pháp phụ thuộc vào chất lượng của các heuristic đánh giá các kết quả trung gian và vào việc xây dựng đúng đắn các câu lệnh ở mỗi bước. Như vậy, Graph-of-Thoughts có thể được xem xét không chỉ như một định dạng câu lệnh, mà như một cấu trúc suy luận được áp đặt lên quá trình tương tác với LLM — một loại kế hoạch động, theo đó mô hình giải quyết bài toán, và người dùng (hoặc chương trình điều khiển) hướng dẫn quá trình này.

Sự xuất hiện của Graph-of-Thoughts phản ánh mong muốn làm cho hoạt động của các mô hình ngôn ngữ lớn trở nên có thể diễn giải và kiểm soát được hơn. Bằng cách đặt rõ ràng cấu trúc của giải pháp, các nhà nghiên cứu không chỉ đạt được chất lượng tốt hơn mà còn có khả năng phân tích cách mô hình đi đến một kết luận cụ thể. Điều này đưa các phương pháp tiếp cận trong NLP đến gần hơn với các phương pháp thuật toán tìm kiếm và lập kế hoạch cổ điển, nhưng bây giờ việc thực hiện các bước được giao cho mô hình mạng thần kinh. Một số chuyên gia xem các câu lệnh có cấu trúc (chuỗi, cây, đồ thị suy nghĩ) là một hướng đầy hứa hẹn, có khả năng vượt qua những hạn chế của «hộp đen» trong các mô hình sâu và tăng độ tin cậy của chúng khi làm việc với các bài toán phức tạp.

Phương pháp luận Graph-of-Thoughts tiếp tục phát triển tích cực. Mã nguồn và các ví dụ triển khai GoT đã được các tác giả đưa vào phạm vi công khai, điều này đã cho phép cộng đồng thử nghiệm với phương pháp mới. Các phần mở rộng cũng đang xuất hiện: ví dụ, các phiên bản đa phương thức của đồ thị suy nghĩ, kết hợp văn bản với hình ảnh và các loại dữ liệu khác, cũng như các nỗ lực tích hợp trực tiếp các ý tưởng của GoT vào kiến trúc mô hình (như trong công trình đã đề cập của Yao et al., 2023). Năm 2025, một bài đánh giá-phân loại chi tiết về các phương pháp Chain-of-Thought, Tree-of-Thoughts và Graph-of-Thoughts đã được xuất bản, hệ thống hóa kiến thức tích lũy và mô tả các cơ sở lý thuyết của các phương pháp tiếp cận như vậy. Tất cả điều này cho thấy sự quan tâm lớn của cộng đồng khoa học đối với việc quản lý có cấu trúc tư duy của LLM. Graph-of-Thoughts đã tự khẳng định mình là một công cụ hiệu quả để giải quyết các bài toán phức tạp và có thể sẽ trở thành nền tảng cho các đổi mới tiếp theo trong lĩnh vực các giải pháp AI kết hợp sức mạnh của các mô hình ngôn ngữ lớn với tính minh bạch và logic của các thuật toán cổ điển.

Tham khảo

• Bài báo gốc «Graph of Thoughts: Solving Elaborate Problems with Large Language Models» trên arXiv
• Phiên bản HTML của bài báo gốc
• Bài đánh giá «Demystifying Chains, Trees, and Graphs of Thoughts» trên arXiv
• Bài báo «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models» trên arXiv
• Multimodal Graph-of-Thoughts — bài viết của Deepgram
• LLMs Graph of Thoughts Framework — bài viết trên Medium

Tài liệu

• Besta, M. et al. (2024). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Yao, Y. et al. (2023). Beyond Chain-of-Thought: Effective Graph-of-Thought Reasoning in Language Models. arXiv:2305.16582.
• Wei, J. et al. (2022). Chain of Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Wei, J. et al. (2024). Demystifying Chains, Trees, and Graphs of Thoughts. arXiv:2401.14295.
• Huang, S. et al. (2023). Language Is Not All You Need: Aligning Perception with Language Models (Kosmos-1). arXiv:2302.14045.
• Mitra, C. et al. (2024). Compositional Chain-of-Thought Prompting for Large Multimodal Models. In CVPR 2024. PDF.
• Zheng, G. et al. (2023). DDCoT: Duty-Distinct Chain-of-Thought Prompting for Multimodal Reasoning in Language Models. arXiv:2310.16436.
• Mu, J. et al. (2023). Learning to Compress Prompts with Gist Tokens. arXiv:2304.08467.