Graph of Thoughts (BN)

Graph-of-Thoughts (GoT) — এটি বৃহৎ ভাষা মডেল (LLM, Large Language Models) নিয়ে কাজ করার ক্ষেত্রে একটি ধারণা, যেখানে মডেলের যুক্তি-প্রক্রিয়াকে পরস্পর-সংযুক্ত «চিন্তা»-র (সমাধানের মধ্যবর্তী ধাপ) একটি স্বেচ্ছা-গঠিত গ্রাফ হিসেবে উপস্থাপন করা হয়। এই পদ্ধতিটি ETH Zurich-এর মাচেই বেস্তা (Maciej Besta)-র নেতৃত্বে একদল গবেষক প্রস্তাব করেছিলেন এবং ২০২৪ সালে AAAI সম্মেলনে প্রকাশিত হয়েছিল। Graph-of-Thoughts-এর লক্ষ্য হলো prompt engineering-এর সম্ভাবনাকে বিদ্যমান কাঠামো, যেমন Chain-of-Thought (চিন্তার শৃঙ্খল) এবং Tree-of-Thoughts (চিন্তার বৃক্ষ)-এর সীমানার বাইরে প্রসারিত করা। সেগুলোর বিপরীতে, GoT পদ্ধতি মডেলের তৈরি যেকোনো যুক্তির অংশকে (চিন্তাকে) অন্য যেকোনো অংশের সাথে সংযুক্ত করার অনুমতি দেয়, যা কঠোরভাবে রৈখিক বা বৃক্ষাকার কাঠামোর পরিবর্তে ধারণার একটি নেটওয়ার্ক তৈরি করে। লেখকদের মতে, এটি মানুষের জটিল, অরৈখিক চিন্তার স্বভাবকে আরও সঠিকভাবে প্রতিফলিত করে এবং সম্ভাব্যভাবে LLM-এর যুক্তি-প্রক্রিয়াকে মানব মস্তিষ্কের কার্যপ্রণালীর (এর পুনরাবৃত্তিমূলক স্নায়বিক সংযোগসহ) কাছাকাছি নিয়ে যায়।

Graph-of-Thoughts হলো একটি প্রশ্ন গঠনের পদ্ধতি (prompting framework), অর্থাৎ এটি মডেলের অতিরিক্ত প্রশিক্ষণ বা fine-tuning প্রয়োজন করে না — পরিবর্তে, এটি LLM-এর সাথে সংলাপকে বিশেষভাবে সংগঠিত করে, মডেলকে গ্রাফের নির্দিষ্ট নকশায় সংযুক্ত একাধিক «চিন্তা»-ধাপের মধ্য দিয়ে পরিচালিত করে। এই কাঠামোটি যুক্তির বিভিন্ন শাখাকে সংযুক্ত করতে এবং পুনরায় ব্যবহার করতে দেয়: উদাহরণস্বরূপ, মডেল একসাথে বেশ কয়েকটি অনুকল্প বা কাজের অংশ বিবেচনা করতে পারে, এবং তারপর সেগুলোর মধ্যে সবচেয়ে সফলগুলোকে একটি সমন্বিত সমাধানে একত্রিত করতে পারে। বিশ্বকোষীয় ধারায়, Graph-of-Thoughts-কে সংজ্ঞায়িত করা যায় LLM-এর সাথে কাঠামোগত যুক্তির পূর্ববর্তী কৌশলগুলোর সাধারণীকরণ হিসেবে, যা একটি জটিল প্রশ্নের মধ্যে চিন্তা-প্রক্রিয়া সংগঠিত করার ক্ষেত্রে সর্বাধিক নমনীয়তা প্রদান করে।

পূর্বসূরি: Chain-of-Thought এবং Tree-of-Thoughts

Graph-of-Thoughts পদ্ধতিটি ভাষা মডেলের সাথে কাজ করার সময় স্পষ্ট যুক্তি-কাঠামো ব্যবহারকারী পূর্ববর্তী পদ্ধতিগুলো থেকে বিকশিত হয়েছে। মূল পদ্ধতিটি হলো Chain-of-Thought (CoT) — «চিন্তার শৃঙ্খল»। CoT পদ্ধতিতে ব্যবহারকারীকে মডেলের প্রশ্নে শুধু সমস্যার শর্তই নয়, বরং উত্তরের দিকে নিয়ে যাওয়া মধ্যবর্তী যুক্তির ধাপগুলোও অন্তর্ভুক্ত করতে উৎসাহিত করা হয়। গবেষণা দেখিয়েছে যে এভাবে উপাদান উপস্থাপন করলে মডেলের প্যারামিটার পরিবর্তন না করেই LLM-এর জটিল সমস্যা, যেমন গণিত বা যুক্তির ধাঁধা সমাধানের সক্ষমতা উল্লেখযোগ্যভাবে উন্নত হয়। বস্তুত, CoT মডেলকে একটি জটিল সমস্যাকে ক্রমান্বয়ে সহজ ধাপে ভেঙে ফেলতে উৎসাহিত করে, ধারাবাহিক চিন্তার ধারাকে অনুকরণ করে।

এই ধারণার বিকাশ ঘটেছে Self-Consistency কৌশলে: একটি চিন্তার শৃঙ্খলের পরিবর্তে বেশ কয়েকটি স্বাধীন শৃঙ্খল তৈরি করা হয়, এবং তারপর সেগুলোর মধ্যে সবচেয়ে বিশ্বাসযোগ্যটি বেছে নেওয়া হয়। এটি মডেলকে সমাধানের বিভিন্ন পদ্ধতি বিবেচনা করতে এবং একমাত্র ভুল যুক্তির পথ অনুসরণের কারণে ভুল উত্তর পাওয়ার ঝুঁকি কমায়। তবুও, একাধিক CoT শৃঙ্খলও «ধারণাগুলো একত্রিত করা»র সুযোগ দেয় না: প্রতিটি শৃঙ্খল বিচ্ছিন্নভাবে বিবেচনা করা হয়, এবং মডেল কেবল সেরাটি বেছে নেয়, সেগুলোর বিষয়বস্তু সংযুক্ত না করে।

এই সীমাবদ্ধতা কাটিয়ে উঠতে, Tree-of-Thoughts (ToT) — «চিন্তার বৃক্ষ» কাঠামো প্রস্তাব করা হয়েছিল। ToT-এ যুক্তি-প্রক্রিয়া একটি বৃক্ষ হিসেবে সংগঠিত: প্রতিটি বিন্দুতে মডেল চিন্তার বিকাশের বেশ কয়েকটি বিকল্প (শাখা) তৈরি করতে পারে, এরপর এই মধ্যবর্তী অবস্থাগুলো মূল্যায়ন করা হয় এবং আরও গভীর অনুসন্ধানের জন্য সবচেয়ে প্রতিশ্রুতিবদ্ধগুলো বাছাই করা হয়। বৃক্ষ অনুসন্ধান (যেমন প্রস্থ-প্রথম — BFS, বা গভীরতা-প্রথম — DFS) এবং নোডগুলোতে ফিরে যাওয়া ও অন্য শাখা বিকশিত করার সম্ভাবনা ব্যবহার করে, Tree-of-Thoughts ভাষা মডেলকে রৈখিক CoT-এর চেয়ে জটিল সমস্যা সমাধানের আরও শক্তিশালী প্রক্রিয়া দেয়। নতুন সম্ভাবনা উন্মোচিত হয়, যেমন প্রত্যাবর্তন ও পুনর্বিবেচনা: যদি একটি শাখা অচলাবস্থায় পৌঁছায়, পূর্ববর্তী নোডে ফিরে গিয়ে ভিন্ন পথ চেষ্টা করা যায়। এই পদ্ধতি যুক্তি ও অনুসন্ধান সমস্যা সমাধানে কার্যকারিতা প্রমাণ করেছে, যেখানে বিকল্পগুলো খতিয়ে দেখা এবং পরিকল্পনা গুরুত্বপূর্ণ ভূমিকা পালন করে।

তবে চিন্তার বৃক্ষ কঠোর সীমাবদ্ধতাও আরোপ করে: প্রতিটি চিন্তা (বৃক্ষের নোড) শুধুমাত্র একটি শাখার অন্তর্গত, মিথস্ক্রিয়া শুধুমাত্র পিতামাতা ও সন্তান নোডের মধ্যে ঘটে, এবং বিভিন্ন শাখা একত্রিত হতে বা তথ্য বিনিময় করতে পারে না। অন্য কথায়, একটি সমাধানের মধ্যে বিভিন্ন অনুকল্পের মধ্যে ক্রস-পলিনেশন (cross-pollination) কঠিন: বৃক্ষের শাখাগুলো স্বাধীনভাবে বিকশিত হয় এবং কেবল মূলে একত্রিত হয়, যখন সেরা যুক্তির শৃঙ্খল বেছে নেওয়া হয়। বাস্তব সৃজনশীল বা বিশ্লেষণাত্মক চিন্তায় মানুষ প্রায়ই পূর্বে বিবেচিত ধারণায় ফিরে যায় এবং সেটিকে যুক্তির অন্য শাখার সাথে সংযুক্ত করে। এই ধরনের চিন্তার জড়িয়ে পড়া বৃক্ষের কাঠামোর বাইরে চলে যায়।

এই পর্যবেক্ষণগুলো গবেষকদের একটি আরও নমনীয় কাঠামো — গ্রাফের কথা ভাবতে উদ্বুদ্ধ করেছে, যেখানে চিন্তাগুলোর মধ্যে সংযোগ সীমাহীন এবং একটি জটিল নেটওয়ার্ক গঠন করতে পারে। ২০২৪ সালের একটি বিশ্লেষণমূলক সমীক্ষায় উল্লেখ করা হয়েছে যে চিন্তার শৃঙ্খল, বৃক্ষ ও গ্রাফের আবির্ভাব এমন একটি নতুন শ্রেণির পদ্ধতির জন্মকে প্রতিফলিত করে যা যুক্তি-প্রক্রিয়ার সুস্পষ্ট কাঠামোর মাধ্যমে LLM-এর সক্ষমতা উল্লেখযোগ্যভাবে বাড়াতে পারে। বিশেষ করে, কাঠামোগত prompt গণিত সমস্যা ও যুক্তির ধাঁধা সমাধান থেকে পরিকল্পনা এবং এমনকি সৃজনশীল লেখা পর্যন্ত অনেক ক্ষেত্রে LLM-এর ফলাফল লক্ষণীয়ভাবে উন্নত করেছে। এই সাধারণ পটভূমিতেই Graph-of-Thoughts কাঠামোটি কাঠামোগত prompting পদ্ধতির বিকাশে পরবর্তী ধাপ হিসেবে উদ্ভূত হয়েছে।

Graph-of-Thoughts-এর ধারণা: চিন্তার গ্রাফীয় কাঠামো

Graph-of-Thoughts প্রস্তাব করে যে ভাষা মডেল দ্বারা কাজ সম্পাদনের প্রক্রিয়াকে একটি স্বেচ্ছা-গঠিত নির্দেশিত গ্রাফ হিসেবে উপস্থাপন করা যায়। আনুষ্ঠানিকভাবে, GoT-এ চিন্তার গ্রাফ হলো শীর্ষবিন্দুর (চিন্তা) এবং প্রান্তের (চিন্তাগুলোর মধ্যে নির্ভরতা) একটি সমষ্টি। গ্রাফের একটি শীর্ষবিন্দু হলো মডেলের একটি পৃথক চিন্তা — এই পরিভাষার অধীনে বোঝানো হয় কাজের প্রসঙ্গের উপর নির্ভরশীল যেকোনো অর্থবহ একক: এটি একটি পৃথক বক্তব্য, সমাধানের ধাপ, পাঠ্যের অংশ, অনুচ্ছেদ, কোডের ব্লক ইত্যাদি হতে পারে, যা মডেল প্রশ্নের উত্তরে তৈরি করেছে। শীর্ষবিন্দুগুলোর মধ্যে প্রান্ত বোঝায় যে একটি চিন্তা অন্যটি তৈরিতে ব্যবহৃত হয়েছে — অর্থাৎ prompt-এ স্পষ্টভাবে নির্দেশিত হয়েছে যে মডেলকে নতুন ফলাফল পেতে একটি নির্দিষ্ট পূর্ববর্তী ফলাফলের উপর নির্ভর করতে হবে। এভাবে, প্রান্তগুলো নির্ভরতা নির্ধারণ করে: যুক্তির বর্তমান ধাপটি পূর্বে প্রাপ্ত কোন ডেটার উপর নির্ভর করে।

GoT-কে সহজ কাঠামো থেকে আলাদা করা সবচেয়ে গুরুত্বপূর্ণ বৈশিষ্ট্য হলো চিন্তার একত্রীকরণ ও সংযোজনের সম্ভাবনা। গ্রাফে অনুমোদিত যে একটি শীর্ষবিন্দুর (নতুন চিন্তার) একাধিক পূর্বসূরি থাকতে পারে। এটি সেই পরিস্থিতির সাথে সামঞ্জস্যপূর্ণ যেখানে দুই বা ততোধিক পৃথক যুক্তির শৃঙ্খল একত্রিত হয়: মডেল একসাথে বেশ কয়েকটি পূর্বে তৈরি অংশ ইনপুট হিসেবে পায় এবং সেগুলোর ভিত্তিতে একটি সংশ্লেষিত সিদ্ধান্ত তৈরি করে। উদাহরণস্বরূপ, একটি সমস্যা সমাধান করার সময়, মডেল দুটি অনুকল্প সমান্তরালভাবে বিবেচনা করতে পারে, এবং তারপর একটি নতুন চিন্তা তৈরি করতে পারে যা উভয় অনুকল্পের ইতিবাচক দিকগুলো একত্রিত করে এবং তাদের ত্রুটিগুলো দূর করে। এই ধরনের একত্রীকরণ অপারেশন বৃক্ষাকার কাঠামোর মধ্যে (যেখানে প্রতিটি নোডের শুধুমাত্র একটি পিতামাতা থাকে) সম্ভব ছিল না, কিন্তু গ্রাফীয় কাঠামোয় স্বাভাবিকভাবেই বাস্তবায়িত হয়। ধারণাগুলো মিলিয়ে দেওয়ার পাশাপাশি, গ্রাফ প্রতিক্রিয়া লুপ (feedback loops) প্রবর্তনের অনুমতিও দেয়: মূলগতভাবে, GoT কাঠামো চক্র নিষিদ্ধ করে না, অর্থাৎ মডেল পুনর্প্রক্রিয়াকরণ বা পরিমার্জনের জন্য কিছু ফলাফল যুক্তির পূর্ববর্তী পর্যায়ে ফিরিয়ে দিতে পারে। লেখকরা এটিকে মস্তিষ্কের Neural Network-এ পুনরাবৃত্তিমূলক সংযোগের উপমার সাথে সংযুক্ত করেন, যেখানে নিউরনের একটি গোষ্ঠীর আউটপুট পূর্ববর্তী স্তরগুলোকে বিপরীতভাবে প্রভাবিত করতে পারে, চিন্তার বন্ধ চক্র তৈরি করে।

ব্যবহারিকভাবে Graph-of-Thoughts বাস্তবায়নের জন্য মডেলের সাথে সংলাপের বিশেষ সংগঠন প্রয়োজন। গবেষকরা GoT-এর জন্য একটি মডুলার আর্কিটেকচারাল ফ্রেমওয়ার্ক তৈরি করেছেন। এতে নিম্নলিখিত উপাদানগুলো আলাদা করা হয়েছে: (১) পৃথক ধাপগুলোর (চিন্তা) উপর সূক্ষ্ম নিয়ন্ত্রণ — «কন্ট্রোলার» চিন্তা তৈরির ক্রম ও যুক্তি পরিচালনা করে; (২) prompt-এর গতিশীল গঠন — প্রতিটি ধাপের জন্য একটি বিশেষ মডিউল বর্তমান প্রসঙ্গ এবং বেছে নেওয়া গ্রাফ শীর্ষবিন্দুর (পূর্বসূরি) উপর ভিত্তি করে prompt তৈরি করে; (৩) মডেলের উত্তর পার্সিং ও মূল্যায়ন — LLM থেকে প্রাপ্ত অংশগুলো গুণমান, উপযোগিতা বা কাজের মানদণ্ড পূরণের দিক থেকে বিশ্লেষণ ও মূল্যায়ন করা হয়। GoT আর্কিটেকচার তাই ইন্টারেক্টিভ মোডে যুক্তির গ্রাফ নির্মাণের অনুমতি দেয়: প্রতিটি ধাপের পরে সিদ্ধান্ত নেওয়া হয় কোন নতুন শীর্ষবিন্দু যোগ করতে হবে, কীভাবে সেগুলো পূর্ববর্তীগুলোর সাথে সংযুক্ত করতে হবে, কোন শাখাগুলো অব্যাহত রাখতে বা সংযুক্ত করতে হবে। মডুলারিটির কারণে, এই ধরনের framework নতুন ধরনের «চিন্তার রূপান্তর» (উদাহরণস্বরূপ, গ্রাফের বিশেষ অপারেশন) দিয়ে প্রসারিত করা যায় এবং বিভিন্ন মডেলের সাথে অভিযোজিত করা যায় (লেখকরা সফলভাবে GPT-3.5, GPT-4, LLAMA 2 পরিবারের LLM ইত্যাদির সাথে GoT পরীক্ষা করেছেন)। একটি গুরুত্বপূর্ণ বৈশিষ্ট্য হলো যে GoT ভাষা মডেলের প্যারামিটার পরিবর্তনের প্রয়োজন নেই — সমস্ত উন্নতি আরও বুদ্ধিমান prompt নির্মাণ এবং উত্তর প্রক্রিয়াকরণের মাধ্যমে অর্জিত হয়। এর মানে হলো বিদ্যমান শক্তিশালী LLM-গুলো «যেভাবে আছে» ব্যবহার করা যায়, এবং Graph-of-Thoughts তাদের কাজ পরিচালনাকারী একটি অধিকাঠামোর ভূমিকা পালন করে।

উল্লেখ করা দরকার যে Graph-of-Thought পরিভাষাটি অন্য একটি স্বাধীন গবেষণায়ও আবির্ভূত হয়েছিল, যা বেস্তা ও সহকর্মীদের পদ্ধতি থেকে আলাদা। ২০২৩ সালে ইয়াও ইয়াও এবং সহলেখকরা একটি অতিরিক্ত গ্রাফ encoder মডিউলের মাধ্যমে LLM-এর reasoning উন্নত করার একটি কৌশল প্রস্তাব করেছিলেন, যার জন্য মডেলের পুনরায় প্রশিক্ষণ প্রয়োজন ছিল। «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models» শিরোনামের তাদের কাজটি একটি দ্বি-পর্যায়ের আর্কিটেকচার বর্ণনা করে: প্রথমে পরস্পর-সংযুক্ত মধ্যবর্তী বক্তব্যের একটি গ্রাফ তৈরি করা হয়, তারপর এটি একটি বিশেষ encoder দ্বারা রূপান্তরিত হয় এবং gated fusion প্রক্রিয়ার মাধ্যমে মডেলে একীভূত করা হয়। প্রশিক্ষণসহ এই হাইব্রিড পদ্ধতি কিছু কাজে নির্ভুলতার কিছুটা বৃদ্ধি দেখিয়েছে, উদাহরণস্বরূপ, মাল্টিমোডাল প্রশ্নের ScienceQA সেটে T5-base মডেল ব্যবহার করে নির্ভুলতা ৮৫.২% থেকে ৮৭.৬%-এ বৃদ্ধি পেয়েছে। তবে এই পদ্ধতি, নামে মিল থাকলেও, মৌলিকভাবে আলাদা: এটির জন্য মডেল পরিবর্তন (fine-tuning) প্রয়োজন এবং এটি prompt engineering-এর কাঠামো নয়। মূল GoT পদ্ধতির লেখকরা (AAAI 2024) স্পষ্টভাবে উল্লেখ করেছেন যে তারা তাদের কাজে ইয়াও ও সহকর্মীদের সেই মডেল বিবেচনা করেননি, কারণ তারা বিশেষভাবে LLM প্যারামিটার আপডেট ছাড়া পদ্ধতিগুলোর উপর দৃষ্টি নিবদ্ধ করেছেন। সুতরাং, এই সমীক্ষার প্রেক্ষাপটে Graph-of-Thoughts হলো বিশেষভাবে একটি prompt-স্তরের framework, Neural Network আর্কিটেকচারের পরিবর্তন নয়।

প্রয়োগ এবং ফলাফল

GoT-এর লেখকরা বেশ কয়েকটি কাজে এর সুবিধা প্রদর্শন করেছেন যা একটি সরাসরি prompt (input-output prompting) বা এমনকি চিন্তার শৃঙ্খল দিয়ে সমাধান করা কঠিন। এই ধরনের কাজগুলোর বৈশিষ্ট্যগত বিষয় হলো এগুলো বেশ কয়েকটি অংশে (উপকাজ) বিভক্ত করা যায়, এই অংশগুলো আলাদাভাবে সমাধান করা যায়, এবং তারপর আংশিক ফলাফল থেকে সম্পূর্ণ উত্তর সংশ্লেষণ করা যায়। বিবেচিত উদাহরণগুলোর মধ্যে রয়েছে: অসংগঠিত তালিকার বাছাই, পাঠ্যে কীওয়ার্ড গণনা (উদাহরণস্বরূপ, নথি সারসংক্ষেপের জন্য), সেট অপারেশন সম্পাদন (তালিকা একত্রিতকরণ, ছেদ ইত্যাদি), এবং পাঠ্য নথি একত্রীকরণ (বিভিন্ন উৎস থেকে তথ্য একত্রিত করা)। এই সমস্ত ক্ষেত্রে Graph-of-Thoughts স্বাভাবিকভাবেই কাজটি বিভক্ত করতে অনুমতি দেয়। উদাহরণস্বরূপ, বাছাইয়ের জন্য তালিকাটি অংশে ভাগ করা হয়, প্রতিটি অংশ চিন্তার স্বাধীন শাখা হিসেবে আলাদাভাবে বাছাই করা হয়, এবং তারপর ফলাফলগুলো একত্রিত করা হয় (merge sort-এর মতো অ্যালগরিদম অনুকরণ করে); বা পাঠ্য বিশ্লেষণ করার সময় মডেল সমান্তরালভাবে বিভিন্ন নথি থেকে তথ্য বের করতে পারে, এবং তারপর সেগুলো একত্রিত করতে পারে।

পরীক্ষামূলক ফলাফল GoT কাঠামোর কার্যকারিতা নিশ্চিত করে। বেস্তা ও সহকর্মীদের প্রতিবেদন অনুযায়ী, বাছাই কাজে চিন্তার গ্রাফ পূর্ববর্তী পদ্ধতির তুলনায় সমাধানের গুণমান উল্লেখযোগ্যভাবে উন্নত করেছে। বিশেষভাবে, GoT ব্যবহার করে বাছাইয়ের নির্ভুলতা সহজ চিন্তার শৃঙ্খল CoT-এর চেয়ে ৭০% বেশি এবং চিন্তার বৃক্ষ ToT-এর চেয়ে ৬২% বেশি হয়েছে। একই সময়ে পদ্ধতিটি কম্পিউটেশনাল সম্পদের ব্যয় হ্রাস করেছে: মডেলে অ্যাক্সেসের সংখ্যা (এবং সেই অনুযায়ী, tokenized প্রশ্নের আয়তন) একই কাজের জন্য Tree-of-Thoughts-এর তুলনায় ৩১% হ্রাস পেয়েছে। এর মানে হলো যুক্তির গ্রাফীয় সংগঠন শুধু চূড়ান্ত ফলাফল উন্নত করেনি, বরং মধ্যবর্তী সিদ্ধান্তগুলো বুদ্ধিমানের সাথে সংযুক্ত করে অপ্রয়োজনীয় গণনা এড়িয়ে সমাধানটিকে আরও সাশ্রয়ী করেছে। এই ধরনের লাভ অন্যান্য পরীক্ষামূলক কাজেও পাওয়া গেছে, বিশেষত যেখানে বিভিন্ন তথ্য একত্রিত করা প্রয়োজন। গবেষকরা উল্লেখ করেন যে GoT বিশেষভাবে সমন্বিত কাজের জন্য কার্যকর, যা বেশ কয়েকটি উপাদান নিয়ে গঠিত: «Graph-of-Thoughts বিশেষভাবে এমন কাজের জন্য উপযুক্ত যা স্বাভাবিকভাবে ছোট উপকাজে বিভক্ত হয়, যা আলাদাভাবে সমাধানযোগ্য এবং পরে ফলাফলগুলো একত্রিত করা হয়»। এই ধরনের ক্ষেত্রে চিন্তার গ্রাফ সমস্যার সমস্ত দিক অন্তর্ভুক্ত করতে এবং একটি সরল যুক্তির রেখা অনুসরণের চেয়ে আরও সম্পূর্ণ চরিত্রের সমাধান সংশ্লেষণ করতে সক্ষম।

একটি prompt পদ্ধতি অন্যটির চেয়ে কেন ভালো তা আরও সূক্ষ্মভাবে বোঝার জন্য, ২০২৪ সালের কাজে একটি বিশেষ মেট্রিক প্রস্তাব করা হয়েছে — একটি চিন্তার «আয়তন» (volume of a thought)। আয়তন গ্রাফের প্রতিটি পৃথক চিন্তা (শীর্ষবিন্দু) এর জন্য নির্ধারণ করা হয়েছে যে কতটি অন্য চিন্তা থেকে নির্দেশিত প্রান্ত অনুসরণ করে এই চিন্তায় পৌঁছানো সম্ভব (সহজ কথায়, কতটি মধ্যবর্তী ধাপ থেকে এটি তার তথ্য ঋণী)। Chain-of-Thought-এ যেকোনো চিন্তা শুধুমাত্র একজন পূর্বসূরির উপর নির্ভর করে, তাই এর আয়তন ১ (রৈখিক শৃঙ্খল)। চিন্তার বৃক্ষে আয়তন বেশি হতে পারে, কিন্তু তবুও একটি পৃথক শাখার কাঠামো দ্বারা সীমিত। গ্রাফে, একত্রীকরণের কারণে, একটি পৃথক শীর্ষবিন্দু একসাথে অনেকের অবদান সংগ্রহ করতে পারে — এর «আয়তন» উল্লেখযোগ্যভাবে বেশি। দেখানো হয়েছে যে GoT চূড়ান্ত সিদ্ধান্তগুলোকে পূর্ববর্তী চিন্তার অনেক বেশি আয়তনের উপর ভিত্তি করে গড়ে তুলতে দেয়, সেগুলোর বিষয়বস্তু একত্রিত করে। এই তথ্যটি সমাধানের স্থানের আরও গভীর কভারেজ প্রতিফলিত করে এবং সহজ কাঠামোর তুলনায় গ্রাফীয় যুক্তির সুবিধার পরিমাণগত ব্যাখ্যা হিসেবে কাজ করে।

তুলনা এবং গুরুত্ব

Graph-of-Thoughts আজকের দিনে LLM-এর জন্য কাঠামোগত prompting-এর সবচেয়ে সাধারণীকৃত রূপ উপস্থাপন করে। বিভিন্ন কাঠামোর (CoT, স্ব-সামঞ্জস্যতা সহ CoT, ToT এবং GoT) তুলনামূলক সারণিতে জোর দেওয়া হয়েছে যে শুধুমাত্র GoT চিন্তা-প্রক্রিয়ার স্বেচ্ছা টপোলজি সমর্থন করে। এটি পূর্ববর্তী সমস্ত পদ্ধতির সম্ভাবনা অন্তর্ভুক্ত করে: কাজ সমাধানের জন্য উপযুক্ত হলে এটি একটি শৃঙ্খল হিসেবে, শাখাসহ একটি বৃক্ষ হিসেবে, এবং একাধিক শৃঙ্খলের সমন্বয় হিসেবেও কাজ করতে পারে। মূল বিষয় হলো — ধাপগুলোর মধ্যে সংযোগে কঠোর সীমাবদ্ধতা নেই, যা তাত্ত্বিকভাবে সম্ভাব্য যুক্তি কৌশলের স্থানকে সর্বাধিক প্রশস্ত করে।

বোঝা গুরুত্বপূর্ণ যে GoT-এর নমনীয়তা আরও বেশি নিয়ন্ত্রণ জটিলতার মূল্যে আসে। চিন্তার গ্রাফ বাস্তবায়নের জন্য একটি বাহ্যিক অর্কেস্ট্রেটর অ্যালগরিদম প্রয়োজন যা সিদ্ধান্ত নেবে কখন এবং কোন চিন্তা তৈরি করতে হবে, সেগুলোর মধ্যে কোনটি নির্বাচন বা সংযুক্ত করতে হবে, কখন প্রক্রিয়া বন্ধ করতে হবে এবং উত্তর দিতে হবে। সহজ CoT-এ এই ধরনের সিদ্ধান্ত নেওয়ার প্রয়োজন নেই — মডেল নিজেই শেষ পর্যন্ত রৈখিক যুক্তি তৈরি করে। ToT-এ ব্যবস্থাপনার অংশ বৃক্ষ অনুসন্ধান অ্যালগরিদমের উপর পড়ে (উদাহরণস্বরূপ, উন্নয়নের জন্য নোড নির্বাচন)। GoT-এ স্বাধীনতার মাত্রা বেশি, এবং পদ্ধতির কার্যকারিতা মধ্যবর্তী ফলাফল মূল্যায়নকারী heuristic-এর গুণমান এবং প্রতিটি ধাপে prompt-এর সঠিক নির্মাণের উপর নির্ভর করে। সুতরাং, Graph-of-Thoughts-কে শুধু একটি প্রশ্নের ফরম্যাট হিসেবে নয়, বরং LLM-এর সাথে মিথস্ক্রিয়ার প্রক্রিয়ায় আরোপিত একটি যুক্তির কাঠামো হিসেবে বিবেচনা করা যায় — এক ধরনের গতিশীল পরিকল্পনা যার মাধ্যমে মডেল কাজটি সমাধান করে, এবং ব্যবহারকারী (বা কন্ট্রোলার প্রোগ্রাম) এই প্রক্রিয়াটি পরিচালনা করে।

Graph-of-Thoughts-এর আবির্ভাব বৃহৎ ভাষা মডেলের কাজকে আরও ব্যাখ্যাযোগ্য ও পরিচালনাযোগ্য করার প্রচেষ্টাকে প্রতিফলিত করে। সমাধানের কাঠামো স্পষ্টভাবে নির্ধারণ করে, গবেষকরা শুধু আরও ভালো গুণমান অর্জন করেন না, বরং মডেল কীভাবে এই বা সেই সিদ্ধান্তে পৌঁছেছে তা বিশ্লেষণ করার সুযোগও পান। এটি NLP-তে পদ্ধতিগুলোকে ক্লাসিক অ্যালগরিদমিক অনুসন্ধান ও পরিকল্পনা পদ্ধতির কাছাকাছি নিয়ে আসে, কিন্তু এখন ধাপগুলো সম্পাদনের দায়িত্ব Neural Network মডেলের উপর ন্যস্ত। বেশ কয়েকজন বিশেষজ্ঞ কাঠামোগত prompt (চিন্তার শৃঙ্খল, বৃক্ষ, গ্রাফ) কে একটি প্রতিশ্রুতিশীল দিক হিসেবে বিবেচনা করেন যা গভীর মডেলে «কালো বাক্স»-এর সীমাবদ্ধতা কাটিয়ে উঠতে এবং জটিল কাজে তাদের কার্যকারিতার নির্ভরযোগ্যতা উন্নত করতে সক্ষম।

Graph-of-Thoughts-এর পদ্ধতিতত্ত্ব সক্রিয়ভাবে বিকশিত হতে থাকে। GoT বাস্তবায়নের জন্য কোড ও উদাহরণ লেখকরা উন্মুক্ত প্রকাশনায় প্রকাশ করেছেন, যা সম্প্রদায়কে নতুন পদ্ধতি নিয়ে পরীক্ষা-নিরীক্ষা করার সুযোগ দিয়েছে। সম্প্রসারণও দেখা দিচ্ছে: উদাহরণস্বরূপ, চিন্তার গ্রাফের মাল্টিমোডাল সংস্করণ যা পাঠ্যকে চিত্র ও অন্যান্য ধরনের ডেটার সাথে সংযুক্ত করে, এবং GoT-এর ধারণাগুলো সরাসরি মডেলের আর্কিটেকচারে একীভূত করার প্রচেষ্টাও রয়েছে (উল্লিখিত Yao et al., 2023-এর কাজের মতো)। ২০২৫ সালে Chain-of-Thought, Tree-of-Thoughts এবং Graph-of-Thoughts পদ্ধতির একটি বিস্তারিত ট্যাক্সোনমি সমীক্ষা প্রকাশিত হয়েছে, যা সঞ্চিত জ্ঞান পদ্ধতিগতভাবে উপস্থাপন করে এবং এই পদ্ধতিগুলোর তাত্ত্বিক ভিত্তি বর্ণনা করে। এই সবই LLM-এর কাঠামোগত চিন্তা-ব্যবস্থাপনায় বৈজ্ঞানিক সম্প্রদায়ের ব্যাপক আগ্রহের কথা বলে। Graph-of-Thoughts ইতিমধ্যে জটিল সমস্যা সমাধানের জন্য একটি কার্যকর হাতিয়ার হিসেবে নিজেকে প্রমাণ করেছে এবং সম্ভবত AI সমাধানের ক্ষেত্রে আরও উদ্ভাবনের ভিত্তি হবে, যা বৃহৎ ভাষা মডেলের শক্তিকে ক্লাসিক অ্যালগরিদমের স্বচ্ছতা ও যুক্তির সাথে সংযুক্ত করে।

তথ্যসূত্র

• arXiv-এ মূল নিবন্ধ «Graph of Thoughts: Solving Elaborate Problems with Large Language Models»
• মূল নিবন্ধের HTML সংস্করণ
• arXiv-এ সমীক্ষা «Demystifying Chains, Trees, and Graphs of Thoughts»
• arXiv-এ নিবন্ধ «Beyond Chain-of-Thought, Effective Graph-of-Thought Reasoning in Language Models»
• Multimodal Graph-of-Thoughts — Deepgram-এর নিবন্ধ
• LLMs Graph of Thoughts Framework — Medium-এ নিবন্ধ

সাহিত্য

• Besta, M. et al. (2024). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Yao, Y. et al. (2023). Beyond Chain-of-Thought: Effective Graph-of-Thought Reasoning in Language Models. arXiv:2305.16582.
• Wei, J. et al. (2022). Chain of Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Wei, J. et al. (2024). Demystifying Chains, Trees, and Graphs of Thoughts. arXiv:2401.14295.
• Huang, S. et al. (2023). Language Is Not All You Need: Aligning Perception with Language Models (Kosmos-1). arXiv:2302.14045.
• Mitra, C. et al. (2024). Compositional Chain-of-Thought Prompting for Large Multimodal Models. In CVPR 2024. PDF.
• Zheng, G. et al. (2023). DDCoT: Duty-Distinct Chain-of-Thought Prompting for Multimodal Reasoning in Language Models. arXiv:2310.16436.
• Mu, J. et al. (2023). Learning to Compress Prompts with Gist Tokens. arXiv:2304.08467.