ReAct Prompting (UR)

From Systems analysis Wiki
Jump to navigation Jump to search

ReAct (مخفف Reason + Act، یعنی «سوچو اور عمل کرو») — یہ بڑے زبانی ماڈلز (LLM) کے لیے prompt ڈیزائن کرنے کا ایک طریقہ کار (paradigm) ہے جو انہیں پیچیدہ مسائل زبانی استدلال (خیالات) اور بیرونی ماحول سے تعامل کرنے والے اعمال کے باہم ردّوبدل کے ذریعے حل کرنے کی صلاحیت دیتا ہے[1]۔ یہ طریقہ 2022 میں Google Research اور پرنسٹن یونیورسٹی کے محققین نے پیش کیا اور یہ ذہین agents کی ترقی میں ایک بنیادی نقطہ نظر بن گیا۔

ReAct کی اہم ترین جدت یہ ہے کہ اس نے Chain-of-Thought (CoT) جیسی تکنیکوں کے منطقی استدلال کو بیرونی اعمال کی انجام دہی کے ساتھ یکجا کیا، جیسے معلومات کی تلاش یا پروگرامی انٹرفیسز (API) سے تعامل۔ اس سے ماڈل اپنے منصوبے کو متحرک طور پر درست کر سکتا ہے، حقائق کی جانچ کر سکتا ہے اور اپنے اندرونی، اکثر فرسودہ یا نامکمل علم کی حدود سے پار جا سکتا ہے[2]۔

پس منظر اور تاریخِ تخلیق

ReAct کی آمد سے پہلے پیچیدہ مسائل کے حل کے لیے LLM کے استعمال میں دو بنیادی لیکن علیحدہ علیحدہ نقطہ ہائے نظر موجود تھے:

  • استدلال کی زنجیر (Chain-of-Thought, CoT): ماڈل مسئلے کے حل کے لیے مرحلہ وار منطقی استدلال تیار کرتا ہے، لیکن یہ کام «معلوماتی خلا» میں کرتا ہے، صرف اپنے اندرونی علم پر انحصار کرتے ہوئے۔ اس سے اکثر حقائق کی غلطیاں اور «hallucinations» جنم لیتی ہیں[1]۔
  • اعمال کی منصوبہ بندی (Act-Only): ماڈل بیرونی ماحول سے تعامل (مثلاً متنی کھیلوں میں) کے لیے اعمال کی ایک ترتیب تیار کرتا ہے، لیکن واضح اعلیٰ سطحی منصوبہ بندی کے بغیر۔ ایسے نظام غلطیوں سے نمٹنے میں کمزور ہوتے ہیں اور غیر متوقع حالات میں اپنی حکمت عملی تبدیل نہیں کر پاتے۔

ReAct کو دونوں طریقوں کی خوبیوں کو ہم آہنگی سے یکجا کرنے کے لیے بنایا گیا تھا۔ یہ ماڈل کو نہ صرف استدلال کرنے دیتا ہے بلکہ اپنے استدلال کو بیرونی دنیا کے حقائق پر مبنی کرنے اور حاصل شدہ تاثرات کی بنیاد پر اپنے اعمال کو ڈھالنے کی بھی سہولت دیتا ہے۔

کام کا طریقہ کار: «خیال — عمل — مشاہدہ» کا چکر

ReAct ایک تکراری چکر کے تحت کام کرتا ہے جس میں تین اہم اجزاء شامل ہیں۔ ماڈل بترتیب ایک ایسا سلسلہ تیار کرتا ہے جو Thought، Action اور Observation کے مراحل پر مشتمل ہوتا ہے۔

prompt کی ساخت کی مثال:

سوال: وہ شہر جس میں متبادل کرنٹ کے موجد پیدا ہوئے، کس ملک کا دارالحکومت ہے؟

Thought 1: مجھے یہ معلوم کرنا ہے کہ متبادل کرنٹ کس نے ایجاد کیا۔ پھر اس کی جائے پیدائش تلاش کرنی ہے اور دیکھنا ہے کہ آیا یہ شہر کسی ملک کا دارالحکومت ہے۔

Action 1: Search[متبادل کرنٹ کا موجد]

Observation 1: متبادل کرنٹ (AC) نیکولا ٹیسلا نے تیار اور مقبول کیا۔

Thought 2: اب مجھے یہ جاننا ہے کہ نیکولا ٹیسلا کہاں پیدا ہوئے تھے۔

Action 2: Search[نیکولا ٹیسلا کی جائے پیدائش]

Observation 2: نیکولا ٹیسلا سمیلیان گاؤں، آسٹرو-ہنگری سلطنت (موجودہ کروشیا) میں پیدا ہوئے۔

Thought 3: سمیلیان کوئی دارالحکومت نہیں ہے۔ اس طرح سوال کا اس صورت میں کوئی واضح جواب نہیں ہے۔ تاہم ٹیسلا نے امریکہ میں طویل عرصہ گزارا اور کام کیا۔ شاید مراد اس ملک کے دارالحکومت سے ہے جہاں انہوں نے اپنی بڑی دریافتیں کیں۔ یہ زیادہ پیچیدہ سوال ہے۔ مجھے جائے پیدائش کی بنیاد پر حقیقت بیان کرنی چاہیے۔ ان کی جائے پیدائش کا شہر کوئی دارالحکومت نہیں ہے۔

Final Answer: متبادل کرنٹ سے وابستہ موجد نیکولا ٹیسلا سمیلیان (کروشیا) میں پیدا ہوئے، جو کوئی دارالحکومت نہیں ہے۔

خیال (Thought)

ماڈل ایک اندرونی استدلال تیار کرتا ہے جس میں وہ مسئلے کا تجزیہ کرتا ہے، اسے ذیلی مسائل میں تقسیم کرتا ہے، اعمال کا منصوبہ بناتا یا درست کرتا ہے اور موجودہ صورتحال کا جائزہ لیتا ہے۔ یہ مرحلہ بیرونی ماحول پر اثر نہیں ڈالتا بلکہ اندرونی منصوبہ بندی کے لیے کام کرتا ہے۔

عمل (Action)

اپنے استدلال کی بنیاد پر ماڈل دستیاب ٹولز میں سے کسی ایک سے رجوع کر کے ایک بیرونی عمل انجام دیتا ہے۔ اعمال کی مثالیں:

  • Search [سوال] — علم کی بنیاد (مثلاً Wikipedia) میں معلومات تلاش کرنے کے لیے۔
  • Click [عنصر] — ویب صفحے پر نیویگیشن کے لیے۔
  • API_call [پیرامیٹرز] — بیرونی API کو کال کرنے کے لیے۔

مشاہدہ (Observation)

نظام یا بیرونی ٹول عمل انجام دیتا ہے اور نتیجہ (مشاہدہ) واپس کرتا ہے۔ یہ متن کا ایک ٹکڑا، API کا جواب یا غلطی کا پیغام ہو سکتا ہے۔ ماڈل اس مشاہدے کو اگلا خیال تشکیل دینے کے لیے استعمال کرتا ہے، اس طرح تاثرات کا چکر مکمل ہوتا ہے[2]۔

تجرباتی نتائج اور کارکردگی

ReAct کے مصنفین نے اس طریقے کو مختلف النوع مسائل پر آزمایا اور CoT اور Act-Only طریقوں پر اس کی برتری ثابت کی۔

اہم benchmarks پر بنیادی طریقوں کے مقابلے میں ReAct کے نتائج[1]
Benchmark مسئلہ ReAct (کامیابی/درستگی) Chain-of-Thought (کامیابی/درستگی) Act-Only (کامیابی/درستگی)
FEVER حقائق کی جانچ 87.6% 82.8% 70.1%
HotpotQA متعدد مراحل والے سوالات 31.8% 36.3% 17.0%
ALFWorld متنی کھیل (منصوبہ بندی) 71% 10% 13%
WebShop ویب نیویگیشن 40% - 30.1%
  • حقائق کی جانچ (FEVER) کے مسائل میں ReAct، CoT سے نمایاں طور پر بہتر ہے کیونکہ یہ معلومات کی تصدیق کر سکتا ہے۔
  • تعاملی منصوبہ بندی (ALFWorld، WebShop) کے مسائل میں ReAct زبردست برتری دکھاتا ہے کیونکہ یہ بدلتے ماحول کے ساتھ ڈھل سکتا ہے۔
  • خالص استدلال (HotpotQA) کے مسائل میں CoT برابر یا بہتر نتائج دے سکتا ہے۔ تاہم ہائبرڈ نقطہ نظر ReAct+CoT نے HotpotQA میں 35% تک پہنچ کر بہترین کارکردگی دکھائی[1]۔

تنقید اور حدود

اپنی کارکردگی کے باوجود ReAct میں کچھ حدود اور کمزوریاں موجود ہیں۔

  • «ٹوٹ پھوٹ» (Brittleness): بعد کی تحقیقات سے پتا چلا کہ ReAct کی کامیابی حقیقی معنوں میں استدلال اور عمل کی ہم آہنگی کی بجائے prompt میں موجود مثالوں اور موجودہ مسئلے کے درمیان نحوی مشابہت سے زیادہ جڑی ہو سکتی ہے۔ ماڈل `Thought-Action-Observation` کے سانچے پر عمل تو کر سکتا ہے لیکن استدلال کی معنویت کو پوری طرح نہیں سمجھ سکتا[3]۔
  • حسابی اخراجات: ReAct کے ہر چکر میں کم از کم ایک LLM کال اور ایک بیرونی ٹول تک رسائی درکار ہوتی ہے، جو اسے معیاری prompting کے مقابلے میں سست اور مہنگا بناتا ہے۔
  • ٹولز پر انحصار: Agent کی کارکردگی براہِ راست دستیاب ٹولز کے معیار اور قابلِ اعتماد ہونے پر منحصر ہے۔ API کا غلط یا شور سے بھرا جواب ماڈل کے استدلال کو غلط راستے پر ڈال سکتا ہے۔

اہمیت اور مزید ترقی

ReAct مصنوعی ذہانت کی ترقی میں ایک اہم سنگِ میل بن گیا، جس نے تخلیقی نظاموں سے ایجنٹ پر مبنی نظاموں کی طرف منتقلی کی نشاندہی کی۔ اس نے agents بنانے کے لیے آج کے بیشتر جدید frameworks کی تصوراتی اور عملی بنیاد رکھی، جیسے:

  • LangChain
  • LlamaIndex
  • AutoGen

ReAct کے خیالات زیادہ پیچیدہ استدلالی معماریوں کے لیے نقطہ آغاز بنے، جیسے Reflexion (ناکامیوں کے بعد خود احتسابی کا چکر شامل کرتا ہے) اور Tree of Thoughts (ToT) (بیک وقت متعدد استدلالی راستوں کو دریافت کرتا ہے)۔

روابط

  • ReAct منصوبے کا سرکاری صفحہ
  • Learn Prompting گائیڈ میں ReAct کی تفصیل
  • Google Research (2022). ReAct: Synergizing Reasoning and Acting in Language Models (blog post). Google Research Blog.

کتابیات

  • Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
  • Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
  • Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
  • Verma, V. et al. (2024). On the Brittle Foundations of ReAct Prompting for Agentic Large Language Models. arXiv:2405.13966.
  • Yao, S. et al. (2022). WebShop: Towards Scalable Real-World Web Interaction with Grounded Language Agents. arXiv:2207.01206.
  • Shridhar, M. et al. (2020). ALFWorld: Aligning Text and Embodied Environments for Interactive Learning. arXiv:2010.03768.
  • Qin, L. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Collaboration. arXiv:2308.08155.
  • Thorne, J. et al. (2018). FEVER: A Large-Scale Dataset for Fact Extraction and Verification. arXiv:1803.05355.
  • Yang, Z. et al. (2018). HotpotQA: A Dataset for Diverse, Explainable Multi-hop Question Answering. arXiv:1809.09600.

حواشی

  1. 1.0 1.1 1.2 1.3 Yao, S., Zhao, J., Yu, D., et al. (2022). «ReAct: Synergizing Reasoning and Acting in Language Models». arXiv preprint arXiv:2210.03629. [1]
  2. 2.0 2.1 «ReAct: Synergizing Reasoning and Acting in Language Models». Google Research Blog. [2]
  3. Verma, V., et al. (2024). «On the Brittle Foundations of ReAct Prompting for Agentic Large Language Models». arXiv preprint arXiv:2405.13966. [3]