Graph of Thoughts (FA)

From Systems analysis Wiki
Jump to navigation Jump to search

Graph-of-Thoughts (GoT) — مفهومی در حوزه کار با مدل‌های زبانی بزرگ (LLM، Large Language Models) است که فرآیند استدلال مدل را به‌صورت یک گراف دلخواه از «افکار» به‌هم‌پیوسته (گام‌های میانی حل مسئله) نمایش می‌دهد[1]. این رویکرد توسط گروهی از پژوهشگران به سرپرستی ماتسی بستا (Maciej Besta) از ETH Zurich پیشنهاد شد و در سال ۲۰۲۴ در کنفرانس AAAI منتشر گردید[2]. هدف Graph-of-Thoughts گسترش امکانات prompt engineering (مهندسی درخواست) فراتر از طرح‌های موجود، مانند Chain-of-Thought (زنجیره افکار) و Tree-of-Thoughts (درخت افکار) است[1]. برخلاف آن‌ها، رویکرد GoT به هر قطعه استدلالی که مدل تولید کرده (فکری) اجازه می‌دهد به هر قطعه دیگری ارجاع دهد و شبکه‌ای از ایده‌ها بسازد، نه ساختاری کاملاً خطی یا درختی[3]. نویسندگان ادعا می‌کنند این رویکرد ماهیت پیچیده و غیرخطی تفکر انسانی را دقیق‌تر بازتاب می‌دهد و به‌طور بالقوه مکانیزم استدلال LLM را به عملکرد مغز انسان (با اتصالات عصبی بازگشتی آن) نزدیک‌تر می‌کند[1][1].

Graph-of-Thoughts یک چارچوب درخواست‌سازی (prompting framework) است، یعنی نیازی به آموزش یا تنظیم دقیق مدل ندارد — در عوض، دیالوگ با LLM را به شیوه‌ای خاص سازمان می‌دهد و مدل را از طریق سلسله‌ای از گام‌های «فکر» که بر اساس طرح گراف به‌هم متصل‌اند هدایت می‌کند[1]. این ساختار امکان ترکیب و استفاده مجدد از شاخه‌های مختلف استدلال را فراهم می‌سازد: برای مثال، مدل می‌تواند به‌صورت موازی چند فرضیه یا بخش از مسئله را بررسی کند و سپس موفق‌ترین آن‌ها را در یک راه‌حل واحد ادغام نماید[1]. به زبان دایرةالمعارفی، Graph-of-Thoughts را می‌توان به‌عنوان تعمیم استراتژی‌های پیشین استدلال ساختارمند با LLM تعریف کرد که حداکثر انعطاف را در سازمان‌دهی فرآیندهای تفکر در قالب یک درخواست جامع واحد فراهم می‌آورد[1].

پیش‌زمینه: Chain-of-Thought و Tree-of-Thoughts

روش Graph-of-Thoughts از رویکردهای پیشین‌تری رشد یافته که هنگام کار با مدل‌های زبانی از ساختار صریح استدلال بهره می‌برند. رویکرد پایه Chain-of-Thought (CoT) — «زنجیره افکار» — است. در روش CoT به کاربر پیشنهاد می‌شود در درخواست به مدل نه‌تنها شرط مسئله، بلکه گام‌های میانی استدلال منتهی به پاسخ را نیز بگنجاند[1]. پژوهش‌ها نشان داده که چنین شیوه ارائه‌ای توانایی LLM در حل مسائل پیچیده، مثلاً معماهای ریاضی یا منطقی، را به‌طور قابل توجهی بهبود می‌بخشد، بدون آنکه پارامترهای خود مدل تغییر کند[1]. در واقع، CoT مدل را تشویق می‌کند تا مسئله پیچیده را به‌صورت گام‌به‌گام به مراحل ساده‌تر تجزیه کند و جریان متوالی افکار را شبیه‌سازی نماید.

تکنیک Self-Consistency توسعه‌ای بر این ایده بود: به‌جای یک زنجیره فکر، چندین زنجیره مستقل تولید می‌شود و پس از آن متقاعدکننده‌ترین آن‌ها انتخاب می‌گردد[1]. این امر به مدل اجازه می‌دهد رویکردهای مختلف برای حل مسئله را بررسی کند و خطر دریافت پاسخ اشتباه ناشی از پیروی از یک خط استدلال نادرست را کاهش دهد. با این حال، حتی زنجیره‌های متعدد CoT امکان «ادغام ایده‌ها» را نمی‌دهند: هر زنجیره به‌صورت مجزا بررسی می‌شود و مدل تنها بهترین را انتخاب می‌کند، بدون آنکه محتوای آن‌ها را ترکیب نماید.

برای رفع این محدودیت طرح Tree-of-Thoughts (ToT) — «درخت افکار» — پیشنهاد شد[1]. در ToT فرآیند استدلال به‌صورت درخت سازمان می‌یابد: در هر نقطه مدل می‌تواند چندین گزینه توسعه فکر (انشعاب) بسازد، پس از آن این حالت‌های میانی ارزیابی شده و امیدوارکننده‌ترین‌ها برای گسترش بیشتر انتخاب می‌گردند[1]. با استفاده از جستجوی درختی (مثلاً جستجوی سطح‌به‌سطح — BFS، یا جستجوی عمق‌اول — DFS) و امکان بازگشت به گره‌ها و توسعه شاخه دیگر، Tree-of-Thoughts مکانیزمی قوی‌تر از CoT خطی برای حل مسائل پیچیده به مدل زبانی می‌دهد[1]. امکانات جدیدی پدید می‌آیند، مانند بازگشت و بازنگری: اگر یک شاخه به بن‌بست رسید، می‌توان به گره قبلی برگشت و مسیر دیگری را آزمود[1]. این روش اثربخشی خود را در حل مسائل منطقی و جستجویی که در آن‌ها بررسی گزینه‌ها و برنامه‌ریزی نقش مهمی دارند ثابت کرده است.

اما درخت افکار محدودیت‌های جدی نیز دارد: هر فکر (گره درخت) تنها به یک شاخه تعلق دارد، تعامل تنها بین گره‌های والد و فرزند رخ می‌دهد، و شاخه‌های مختلف نمی‌توانند با یکدیگر ادغام شوند یا اطلاعات تبادل کنند[3]. به بیان دیگر، تبادل متقابل ایده‌ها (cross-pollination) بین فرضیه‌های مختلف در چارچوب یک راه‌حل دشوار است: شاخه‌های درخت مستقل رشد می‌کنند و تنها در ریشه — هنگامی که بهترین زنجیره استدلال انتخاب می‌شود — به هم می‌پیوندند[3]. اما در تفکر خلاقانه یا تحلیلی واقعی، انسان اغلب به ایده‌ای که پیش‌تر بررسی کرده برمی‌گردد و آن را با شاخه دیگری از استدلال ترکیب می‌کند. چنین درهم‌تنیدگی افکار از محدوده ساختار درخت فراتر می‌رود[1].

این مشاهدات پژوهشگران را به فکر ساختار انعطاف‌پذیرتری انداخت — گراف، که در آن پیوندهای بین افکار محدودیتی ندارند و می‌توانند شبکه‌ای پیچیده بسازند. همان‌طور که در مرور تحلیلی سال ۲۰۲۴ اشاره شده، ظهور زنجیره‌ها، درخت‌ها و گراف‌های افکار بازتاب‌دهنده پیدایش دسته جدیدی از روش‌هاست که قادرند با ساختاردهی صریح فرآیند استدلال، توانمندی‌های LLM را به‌طور قابل توجهی تقویت کنند[4]. به‌ویژه، prompt‌های ساختارمند موجب بهبود قابل ملاحظه نتایج LLM در زمینه‌های گوناگون شده‌اند — از حل مسائل ریاضی و معماهای منطقی گرفته تا برنامه‌ریزی و حتی نوشتار خلاقانه[4]. در همین بستر کلی بود که طرح Graph-of-Thoughts به‌عنوان گام بعدی در توسعه روش‌های prompting ساختارمند پدیدار شد.

مفهوم Graph-of-Thoughts: ساختار گرافی افکار

Graph-of-Thoughts پیشنهاد می‌کند فرآیند انجام وظایف توسط مدل زبانی به‌صورت یک گراف جهت‌دار دلخواه نمایش داده شود. به‌طور رسمی، گراف افکار در GoT مجموعه‌ای از رئوس (افکار) و یال‌ها (وابستگی‌های بین افکار) است[1]. رأس گراف یک فکر مدل مجزاست — این اصطلاح به هر واحد محتوایی وابسته به زمینه مسئله اشاره دارد: می‌تواند یک گزاره مجزا، یک گام حل، یک قطعه متن، یک پاراگراف، یک بلوک کد و مانند آن‌ها باشد که مدل در پاسخ به درخواست تولید کرده است[1][1]. یال بین دو رأس نشان می‌دهد که یک فکر در تولید فکر دیگر به‌کار رفته — یعنی در prompt صریحاً مشخص شده که مدل باید به نتیجه قبلی مشخصی تکیه کند تا نتیجه جدیدی به‌دست آورد[1]. بدین‌ترتیب، یال‌ها وابستگی‌ها را ثبت می‌کنند: گام جاری استدلال به کدام داده‌های پیشین وابسته است.

مهم‌ترین تمایز GoT از ساختارهای ساده‌تر — امکان تجمیع و ادغام افکار است. در گراف مجاز است که یک رأس (فکر جدید) چندین پیشین داشته باشد[1]. این با موقعیتی مطابقت دارد که در آن دو یا چند زنجیره استدلال مجزا با هم ادغام می‌شوند: مدل چندین قطعه از پیش تولیدشده را به‌عنوان ورودی دریافت کرده و بر اساس آن‌ها یک نتیجه‌گیری ترکیبی می‌سازد[1]. برای مثال، مدل در حل یک مسئله می‌تواند به‌صورت موازی دو فرضیه را بررسی کند و سپس فکر جدیدی بسازد که جنبه‌های مثبت هر دو فرضیه را در خود دارد و کاستی‌های آن‌ها را برطرف می‌کند[1][1]. چنین عملیات تجمیعی در چارچوب درختی (که هر گره تنها یک والد دارد) ممکن نبود، اما در ساختار گرافی به‌طور طبیعی پیاده‌سازی می‌شود[1]. علاوه بر ادغام ایده‌ها، گراف امکان معرفی حلقه‌های بازخورد (feedback loops) را نیز فراهم می‌کند: در اصل، ساختار GoT دوره‌ها را ممنوع نمی‌کند، یعنی مدل می‌تواند نتیجه‌ای را برای پردازش یا اصلاح مجدد به مرحله قبلی استدلال بازگرداند[1]. نویسندگان این را با قیاسی به اتصالات بازگشتی در شبکه‌های عصبی مغز مرتبط می‌دانند، جایی که خروجی یک گروه از نورون‌ها می‌تواند به لایه‌های قبلی بازتأثیر بگذارد و مدارهای بسته تفکر را شکل دهد[1].

پیاده‌سازی عملی Graph-of-Thoughts نیازمند سازمان‌دهی ویژه دیالوگ با مدل است. پژوهشگران یک چارچوب معماری ماژولار برای GoT طراحی کرده‌اند[1]. در آن اجزایی برای: (۱) کنترل دقیق گام‌های فردی (افکار) وجود دارد — «کنترلر» ترتیب و منطق تولید افکار را مدیریت می‌کند؛ (۲) شکل‌دهی پویای prompt — برای هر گام یک ماژول ویژه prompt را بر اساس زمینه جاری و رئوس انتخاب‌شده گراف (پیشینیان) می‌سازد؛ (۳) تجزیه و ارزیابی پاسخ‌های مدل — قطعات دریافتی از LLM از نظر کیفیت، سودمندی یا انطباق با معیارهای مسئله تحلیل و ارزیابی می‌شوند[5]. معماری GoT بدین‌ترتیب امکان ساخت تعاملی گراف استدلال را فراهم می‌کند: پس از هر گام تصمیم گرفته می‌شود کدام رئوس جدید اضافه شوند، چگونه به پیشینیان متصل گردند، کدام شاخه‌ها ادامه یابند یا به هم بپیوندند. به لطف ماژولاریتی، این چارچوب را می‌توان با انواع جدید «تبدیل‌های فکر» (مثلاً عملیات خاص روی گراف) گسترش داد و با مدل‌های مختلف سازگار کرد (نویسندگان GoT را با LLM‌های خانواده GPT-3.5، GPT-4، LLAMA 2 و غیره با موفقیت آزمایش کردند)[1]. ویژگی مهم این است که GoT نیازی به تغییر پارامترهای خود مدل زبانی ندارد — تمام بهبودها از طریق ساختاردهی هوشمندانه‌تر درخواست‌ها و پردازش پاسخ‌ها حاصل می‌شود[1]. این بدان معناست که LLM‌های قدرتمند موجود می‌توانند «همان‌گونه که هستند» استفاده شوند، و Graph-of-Thoughts نقش یک لایه روی‌ساخت را ایفا می‌کند که عملکرد آن‌ها را هدایت می‌نماید.

شایان ذکر است که اصطلاح Graph-of-Thought در یک توسعه مستقل دیگر نیز ظاهر شده که با رویکرد بستا و همکارانش متفاوت است. در سال ۲۰۲۳ یائو یائو (Yao Yao) و همکارانش روشی برای بهبود reasoning در LLM از طریق یک ماژول encoder اضافی برای گراف افکار پیشنهاد دادند که نیازمند fine-tuning مدل بود[6]. کار آن‌ها با عنوان «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models» یک معماری دو مرحله‌ای توصیف می‌کند: ابتدا گرافی از گزاره‌های میانی به‌هم‌پیوسته تولید می‌شود، سپس توسط یک encoder خاص پردازش شده و از طریق مکانیزم gated fusion در مدل یکپارچه می‌گردد[6]. این رویکرد ترکیبی مبتنی بر آموزش، بهبود نسبی دقت را در برخی وظایف نشان داد؛ برای مثال در مجموعه سؤالات چندوجهی ScienceQA دقت هنگام استفاده از مدل T5-base از ۸۵٫۲٪ به ۸۷٫۶٪ افزایش یافت[6]. اما این رویکرد، هرچند از نظر نام مشابه است، اساساً متفاوت است: نیازمند تغییر مدل (fine-tuning) بوده و یک طرح prompt engineering نیست. نویسندگان رویکرد اصلی GoT (AAAI 2024) صریحاً اشاره می‌کنند که آن مدل یائو و همکارانش را در کار خود بررسی نمی‌کنند، زیرا تمرکز آن‌ها بر روش‌هایی است که پارامترهای LLM را به‌روز نمی‌کنند[1]. بنابراین، Graph-of-Thoughts در زمینه این مرور دقیقاً یک چارچوب در سطح prompt است، نه اصلاح معماری شبکه عصبی.

کاربرد و نتایج

نویسندگان GoT مزایای آن را روی تعدادی از وظایفی که حل آن‌ها با یک prompt مستقیم (input-output prompting) یا حتی با زنجیره افکار دشوار است به نمایش گذاشتند. ویژگی بارز چنین وظایفی این است که می‌توان آن‌ها را به چندین بخش (زیروظیفه) تجزیه کرد، این بخش‌ها را جداگانه حل نمود، و سپس از نتایج جزئی یک پاسخ کامل را سنتز کرد[1]. در میان نمونه‌های بررسی‌شده عبارتند از: مرتب‌سازی فهرست نامرتب، شمارش کلمات کلیدی در متن (مثلاً برای خلاصه‌سازی سند)، انجام عملیات روی مجموعه‌ها (اتحاد، اشتراک فهرست‌ها و غیره)، و همچنین ادغام اسناد متنی (ترکیب اطلاعات از منابع متعدد)[1]. در تمام این موارد Graph-of-Thoughts امکان تجزیه طبیعی مسئله را فراهم می‌آورد. برای مثال، برای مرتب‌سازی فهرست به بخش‌هایی تقسیم می‌شود، هر بخش به‌عنوان یک شاخه مستقل از افکار جداگانه مرتب می‌شود، سپس نتایج ادغام می‌گردند (شبیه‌سازی الگوریتمی مانند merge sort)؛ یا در تحلیل متون، مدل می‌تواند به‌صورت موازی اطلاعات را از اسناد مختلف استخراج کند و سپس آن را به‌هم بپیوندد.

نتایج آزمایشی اثربخشی طرح GoT را تأیید می‌کنند. طبق گزارش بستا و همکارانش، در وظیفه مرتب‌سازی، گراف افکار موجب بهبود قابل توجه کیفیت حل در مقایسه با رویکردهای پیشین شد[1]. به‌طور خاص، دقت مرتب‌سازی هنگام استفاده از GoT ۷۰٪ بالاتر از زنجیره ساده افکار CoT بود و ۶۲٪ بالاتر از درخت افکار ToT[1]. همزمان این روش هزینه منابع محاسباتی را کاهش می‌دهد: تعداد فراخوانی‌های مدل (و در نتیجه حجم توکن‌شده درخواست‌ها) برای همان وظیفه ۳۱٪ در مقایسه با Tree-of-Thoughts کاهش یافت[1]. این بدان معناست که سازمان‌دهی گرافی استدلال نه‌تنها نتیجه نهایی را بهبود بخشید، بلکه حل را از طریق ترکیب هوشمندانه نتایج میانی مقرون‌به‌صرفه‌تر ساخت و از محاسبات اضافی پرهیز کرد. چنین مزیت‌هایی در سایر وظایف آزمایشی نیز به‌دست آمد، به‌ویژه در مواردی که نیاز به تجمیع اطلاعات ناهمگون وجود دارد. پژوهشگران اشاره می‌کنند که GoT بیشتر برای وظایف مرکب متشکل از چندین عنصر مؤثر است: «Graph-of-Thoughts به‌ویژه برای وظایفی مناسب است که به‌طور طبیعی به زیروظایف کوچک‌تری تجزیه می‌شوند که می‌توان آن‌ها را جداگانه حل کرد و سپس نتایج را ادغام نمود»[1]. در چنین مواردی گراف افکار قادر است تمام جنبه‌های مشکل را پوشش دهد و راه‌حلی جامع‌تر از پیروی از یک خط استدلال سنتز کند.

برای درک دقیق‌تر اینکه چرا یک شیوه ساخت prompt بهتر از دیگری است، در کار ۲۰۲۴ معیار ویژه‌ای معرفی شد — «حجم فکر» (volume of a thought)[1]. حجم برای هر فکر فردی (رأس گراف) به‌صورت تعداد افکار دیگری که از طریق یال‌های جهت‌دار می‌توان به این فکر رسید تعریف می‌شود (به‌سادگی، این فکر از اطلاعات چه تعداد گام میانی بهره‌مند شده است)[1]. در Chain-of-Thought هر فکر تنها به یک پیشین متکی است، بنابراین حجم آن برابر ۱ است (زنجیره خطی). در درخت افکار حجم می‌تواند بیشتر باشد اما همچنان محدود به ساختار یک شاخه است. در گراف اما به لطف تجمیع، یک رأس می‌تواند سهم بسیاری از افکار دیگر را در خود انباشته کند — «حجم» آن به‌طور قابل توجهی بالاتر است[1]. نشان داده شده که GoT به نتیجه‌گیری‌های نهایی اجازه می‌دهد بر پایه حجم بسیار بیشتری از افکار پیشین قرار گیرند و محتوای آن‌ها را در خود جمع کنند. این واقعیت بازتاب پوشش عمیق‌تر فضای راه‌حل‌هاست و توضیح کمّی مزایای استدلال گرافی نسبت به طرح‌های ساده‌تر به شمار می‌آید.

مقایسه و اهمیت

Graph-of-Thoughts امروزه نمایانگر تعمیم‌یافته‌ترین شکل prompting ساختارمند برای LLM است. در جداول مقایسه طرح‌های مختلف (CoT، CoT با self-consistency، ToT و GoT) تأکید می‌شود که تنها GoT از توپولوژی دلخواه فرآیند تفکر پشتیبانی می‌کند[1]. این رویکرد امکانات تمام رویکردهای پیشین را در خود دارد: می‌تواند هم به‌صورت یک زنجیره واحد، هم به‌صورت درخت با انشعاب، و هم به‌صورت ترکیبی از زنجیره‌های متعدد عمل کند، چنانچه برای حل مسئله مناسب باشد[1]. نکته اصلی این است که محدودیت سختی برای پیوند بین گام‌ها وجود ندارد، که این به‌طور نظری فضای استراتژی‌های ممکن استدلال را در بیشینه‌ترین حد ممکن می‌گسترد[1].

مهم است بدانیم که انعطاف‌پذیری GoT با پیچیدگی بیشتر کنترل همراه است. پیاده‌سازی گراف افکار نیازمند یک الگوریتم هماهنگ‌ساز خارجی است که تصمیم می‌گیرد چه زمانی و کدام افکار را تولید کند، کدام‌یک را انتخاب یا ترکیب نماید، چه زمانی فرآیند را متوقف کرده و پاسخ ارائه دهد. در CoT ساده نیازی به چنین تصمیماتی نیست — مدل خودش استدلال خطی را تا پایان تولید می‌کند. در ToT بخشی از کنترل به الگوریتم جستجوی درختی (مثلاً انتخاب گره برای گسترش) واگذار می‌شود. در GoT اما درجه آزادی بالاتر است و اثربخشی روش به کیفیت اکتشافات ارزیابی‌کننده نتایج میانی و ساخت صحیح prompt در هر گام بستگی دارد[1]. بنابراین، Graph-of-Thoughts را می‌توان نه‌تنها به‌عنوان یک فرمت درخواست، بلکه به‌عنوان یک ساختار استدلال تلقی کرد که بر فرآیند تعامل با LLM اعمال می‌شود — نوعی برنامه پویا که بر اساس آن مدل مسئله را حل می‌کند و کاربر (یا برنامه کنترلر) این فرآیند را هدایت می‌نماید.

ظهور Graph-of-Thoughts بازتاب تمایل برای قابل‌تفسیرتر و قابل‌کنترل‌تر کردن کار مدل‌های زبانی بزرگ است. با تعریف صریح ساختار راه‌حل، پژوهشگران نه‌تنها به کیفیت بهتری دست می‌یابند، بلکه توانایی تحلیل این را که مدل چگونه به یک نتیجه مشخص رسیده را نیز کسب می‌کنند. این رویکردها در NLP را به روش‌های کلاسیک جستجوی الگوریتمی و برنامه‌ریزی نزدیک می‌کند، اما اجرای گام‌ها بر عهده مدل شبکه عصبی گذاشته شده است. برخی از کارشناسان prompt‌های ساختارمند (زنجیره‌ها، درخت‌ها، گراف‌های افکار) را جهتی امیدوارکننده می‌دانند که قادر است محدودیت‌های «جعبه سیاه» در مدل‌های عمیق را رفع کرده و قابلیت اطمینان عملکرد آن‌ها را روی وظایف پیچیده افزایش دهد[4][4].

روش‌شناسی Graph-of-Thoughts همچنان به‌طور فعال در حال توسعه است. کد و نمونه‌های پیاده‌سازی GoT توسط نویسندگان در دسترس عموم قرار گرفت[1]، که به جامعه پژوهشی امکان داد با رویکرد جدید آزمایش کند. گسترش‌هایی نیز پدیدار شده‌اند: برای مثال نسخه‌های چندوجهی گراف افکار که متن را با تصاویر و انواع دیگر داده ترکیب می‌کنند[3][3]، و همچنین تلاش‌هایی برای یکپارچه‌سازی مستقیم ایده‌های GoT در معماری مدل‌ها (مانند کار یادشده Yao et al., 2023). در سال ۲۰۲۵ مرور تفصیلی-طبقه‌بندی روش‌های Chain-of-Thought، Tree-of-Thoughts و Graph-of-Thoughts منتشر شد که دانش انباشته را نظام‌مند می‌کند و مبانی نظری چنین رویکردهایی را توصیف می‌نماید[4][4]. همه این‌ها از علاقه فراوان جامعه علمی به مدیریت ساختارمند تفکر LLM حکایت دارد. Graph-of-Thoughts از هم‌اکنون به‌عنوان ابزاری مؤثر برای حل وظایف پیچیده شناخته شده و احتمالاً پایه‌ای برای نوآوری‌های بیشتر در حوزه راه‌حل‌های هوش مصنوعی خواهد شد که قدرت مدل‌های زبانی بزرگ را با شفافیت و منطق الگوریتم‌های کلاسیک در هم می‌آمیزند.

پیوندها

  • مقاله اصلی «Graph of Thoughts: Solving Elaborate Problems with Large Language Models» در arXiv
  • نسخه HTML مقاله اصلی
  • مرور «Demystifying Chains, Trees, and Graphs of Thoughts» در arXiv
  • مقاله «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models» در arXiv
  • Multimodal Graph-of-Thoughts — مقاله Deepgram
  • LLMs Graph of Thoughts Framework — مقاله در Medium

منابع

  • Besta, M. et al. (2024). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
  • Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
  • Yao, Y. et al. (2023). Beyond Chain-of-Thought: Effective Graph-of-Thought Reasoning in Language Models. arXiv:2305.16582.
  • Wei, J. et al. (2022). Chain of Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
  • Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  • Wei, J. et al. (2024). Demystifying Chains, Trees, and Graphs of Thoughts. arXiv:2401.14295.
  • Huang, S. et al. (2023). Language Is Not All You Need: Aligning Perception with Language Models (Kosmos-1). arXiv:2302.14045.
  • Mitra, C. et al. (2024). Compositional Chain-of-Thought Prompting for Large Multimodal Models. In CVPR 2024. PDF.
  • Zheng, G. et al. (2023). DDCoT: Duty-Distinct Chain-of-Thought Prompting for Multimodal Reasoning in Language Models. arXiv:2310.16436.
  • Mu, J. et al. (2023). Learning to Compress Prompts with Gist Tokens. arXiv:2304.08467.

یادداشت‌ها

  1. 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 1.14 1.15 1.16 1.17 1.18 1.19 1.20 1.21 1.22 1.23 1.24 1.25 1.26 1.27 1.28 1.29 1.30 1.31 1.32 1.33 1.34 1.35 1.36 1.37 1.38 1.39 1.40 1.41 1.42 1.43 Besta, Maciej et al. «Graph of Thoughts: Solving Elaborate Problems with Large Language Models». ar5iv.labs.arxiv.org. [۱]
  2. Besta, Maciej et al. «Graph of Thoughts: Solving Elaborate Problems with Large Language Models». arXiv. [۲]
  3. 3.0 3.1 3.2 3.3 3.4 Grygiel, Jacek. «Multimodal Graph-of-Thoughts: How Text, Images, and Graphs Lead to Better Reasoning». Deepgram. [۳]
  4. 4.0 4.1 4.2 4.3 4.4 4.5 Wei, Jason et al. «Demystifying Chains, Trees, and Graphs of Thoughts». arXiv. [۴]
  5. Wo, Jacek. «LLMs Graph of Thoughts Framework. Case study». Medium. [۵]
  6. 6.0 6.1 6.2 Yao, Yuqing et al. «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models». arXiv. [۶]