PromptRobust (benchmark) (UR)
PromptRobust (جسے PromptBench بھی کہا جاتا ہے) — یہ بڑے زبانی ماڈلز (LLM) کی ادورسیریل تبدیلیوں کے خلاف استحکام کی جانچ کے لیے ایک جامع benchmark ہے — یعنی ایسی معمولی تبدیلیاں جو کام کی ہدایت کی عبارت میں کی جائیں لیکن اس کا مطلب نہ بدلیں[1][2]۔ یہ benchmark سنہ 2023 میں Microsoft Research Asia کے محققین کے ایک گروپ (Kaijie Zhu اور دیگر) نے تیار کیا[1]۔ PromptRobust کی تخلیق اس مشاہدے پر مبنی ہے کہ جدید بڑے زبانی ماڈل (BYaM) ہدایت کی عبارت کی باریکیوں کے تئیں حساس ہیں: معمولی سی تبدیلیاں (مثلاً ٹائپنگ کی غلطیاں یا دوبارہ جملہ بندی) بھی ماڈلز کے جوابات پر نمایاں اثر ڈال سکتی ہیں[2]۔ یہ benchmark اس کمزوری کو مقداری طور پر ناپنے اور BYaM کے ساتھ تعامل کے زیادہ قابلِ اعتماد طریقے تیار کرنے میں مدد کرنے کے لیے وضع کیا گیا ہے۔
جانچ کا طریقہ کار
PromptBench تحقیق کے دوران 4788 تبدیل شدہ prompts (اشاروں) کا ایک مجموعہ تیار کیا گیا جو اصل کاموں کا مطلب برقرار رکھتے تھے[3]۔ یہ ادورسیریل prompts چار سطحوں پر تبدیلیاں کر کے بنائے گئے[1]:
- حرفی سطح: ٹائپنگ کی غلطیاں، حروف کی تبدیلی یا ردوبدل (ان پٹ میں اتفاقی غلطیوں کی نقل)۔
- لفظی سطح: بعض الفاظ کو مترادفات سے بدلنا، "شور" والے الفاظ یا دیگر معمولی لغوی تبدیلیاں داخل کرنا۔
- جملے کی سطح: جملوں کی ساخت کو دوبارہ ترتیب دینا، مجموعی موضوع کو بدلے بغیر عبارت کے حصے شامل کرنا یا ترتیب بدلنا۔
- معنوی سطح: کام کو برقرار رکھتے ہوئے درخواست کو گہرائی سے دوبارہ بیان کرنا (مثلاً اسی سوال کی متبادل عبارت بندی)[1]۔
اس طرح کے "حملوں" کا مقصد یہ جانچنا ہے کہ معمولی انحراف (مثلاً اتفاقی ٹائپنگ کی غلطیاں یا مترادف عبارت بندی کا استعمال) ماڈل کی درست طریقے سے کام انجام دینے کی صلاحیت پر کیا اثر ڈالتے ہیں، جبکہ کام خود نہیں بدلا[1]۔ ہر تیار کردہ ادورسیریل prompt کو معیاری NLP کاموں کی ایک فہرست پر آزمایا گیا، جن میں جذبات کا تجزیہ، گرامری درستگی کی شناخت، مکرر جملوں کی تلاش، منطقی استنتاج (NLI)، سمجھ کے ساتھ پڑھنا، مشینی ترجمہ اور ریاضی کے مسائل حل کرنا شامل ہیں[1]۔ تجربات کے لیے 13 datasets پر 8 مختلف اقسام کے کام منتخب کیے گئے — کلاسک GLUE مجموعوں (مثلاً جذبات کے لیے SST-2، NLI کے لیے MNLI) سے لے کر خصوصی ریاضی اور کثیرالزبان ٹیسٹوں تک[1]۔
اہم بات یہ ہے کہ مختلف prompt فارمیٹس کا استحکام بھی جانچا گیا[1]:
- بغیر مثالوں کے براہِ راست درخواستیں (zero-shot، صرف ہدایت)۔
- چند مثالوں کے ساتھ درخواستیں (few-shot، جب prompt میں حل کے نمونے دیے گئے ہوں)۔
- کردار پر مبنی prompts (in-context roles، مثلاً "آپ جذبات کا تجزیہ کرنے والا نظام ہیں، تعین کیجیے...")۔
- کام کو بیان کرنے والے prompts (task-oriented، کام کی براہِ راست وضاحت)[1]۔
نسبتاً چھوٹے Flan-T5-large اور UL2 ماڈل سے لے کر جدید ChatGPT اور GPT-4 تک، اور ساتھ ہی LLaMA 2 خاندان کے اوپن ماڈلز اور ان سے ماخوذ Vicuna کا بھی مختلف بڑے زبانی ماڈلز پر تجربہ کیا گیا[1]۔ حملوں کی تیاری کے لیے ادورسیریل NLP کے موجودہ طریقے (جیسے TextBugger، DeepWordBug، TextFooler وغیرہ) استعمال کیے گئے، جنہیں ان پٹ ڈیٹا کی بجائے prompts کی تبدیلی کے لیے ڈھالا گیا[1]۔ تیار کردہ "مسخ شدہ" prompts کی درستگی خودکار اور دستی طریقوں سے جانچی گئی؛ رپورٹ کے مطابق کم از کم 85% ادورسیریل تبدیلیاں صحیح معنوی مفہوم برقرار رکھتی ہیں اور انسان کو سمجھ میں آتی ہیں[1]۔ اس طرح حملوں کا اثر دراصل دوبارہ صیاغت شدہ کام کو سمجھنے میں ماڈل کی ناکامی کو ظاہر کرتا ہے، نہ کہ خود کام کے مفہوم کے ضیاع کو۔
نتائج اور اخذ شدہ نتیجے
تجربات سے ظاہر ہوا کہ جدید BYaM درخواست کی عبارت میں معمولی تبدیلیوں کے خلاف کافی مستحکم نہیں ہیں[3]۔ تمام تجربہ کیے گئے ماڈلز میں تیار کردہ حملوں کے اثر سے جوابات کے معیار میں نمایاں کمی دیکھی گئی[3]۔ خاص طور پر، یہاں تک کہ سادہ معاملات — جیسے ریاضی کے مسئلے کی عبارت میں ٹائپنگ کی غلطی یا ایک کلیدی لفظ کو اس کے مترادف سے بدلنا — اس نتیجے پر پہنچے کہ ماڈل غلط جواب دیتا ہے، جبکہ بغیر تبدیلی کے وہ درست جواب دیتا[1]۔ مصنفین کا مجموعی نتیجہ یہ ہے: "جدید بڑے زبانی ماڈل ادورسیریل prompts کے خلاف مستحکم نہیں ہیں"[3]، یعنی phrasing میں معمولی انحراف انہیں منظم طریقے سے گمراہ کر سکتے ہیں۔
مختلف اقسام کے حملوں کے تجزیے سے معلوم ہوا کہ BYaM کے کام پر سب سے زیادہ تباہ کن اثر لفظی سطح کی تبدیلیوں کا ہوتا ہے[2]۔ الفاظ کو مترادفات سے بدلنا یا معمولی لفظ سازی کا مسخ کرنا سب سے بڑی کمی کا باعث بنا — اوسطاً انہی کاموں پر اصل نتیجے کے مقابلے میں ≈33% کی کمی[2]۔ حرفی سطح کے حملوں (ٹائپنگ کی غلطیاں، اتفاقی حروف) سے اوسطاً ~20% درستگی میں کمی آئی[2]۔ prompt میں پورے جملوں کی معیاری تبدیلی یا اضافہ، اس کے برعکس، بہت کمزور اثر ڈالا، ماڈل کو تقریباً متاثر نہیں کیا[1]۔ معنوی دوبارہ صیاغت (درخواست کو مختلف طریقے سے گہرائی سے دوبارہ بیان کرنا) سادہ ٹائپنگ غلطیوں کے برابر نقصان دہ ثابت ہوئی[1]۔ یہ حقائق اس بات کو اجاگر کرتے ہیں کہ BYaM خاص طور پر لطیف لغوی تبدیلیوں اور کلیدی الفاظ میں غلطیوں کے سامنے کمزور ہیں[1]۔ قابلِ ذکر بات یہ ہے کہ گرامری مسخ (ٹائپنگ غلطیوں) کو نظریاتی طور پر معیاری ہجے کی جانچ کے ذریعے فلٹر کیا جا سکتا ہے، جبکہ لفظی اور معنوی سطح پر تبدیلیوں کے لیے ماڈل سے گہری معنوی سمجھ کی ضرورت ہے جس کی موجودہ ماڈلز میں اکثر کمی ہوتی ہے[1]۔
مختلف ماڈلز کی کارکردگی کے تجزیے نے ان کے استحکام میں نمایاں تفاوت ظاہر کیا[1]۔ GPT-4 اور UL2 نے ادورسیریل prompts کے خلاف بہترین استحکام ظاہر کیا[1]۔ Flan-T5-large ماڈل اور مکالماتی ماڈل ChatGPT بھی قدرے کم خرابیوں کا شکار ہوئے[1]۔ LLaMA 2 خاندان کے ماڈل درمیانے درجے پر رہے، جبکہ Vicuna (13B) تمام اقسام کے حملوں کے سامنے سب سے زیادہ کمزور ثابت ہوا[1]۔ دلچسپ بات یہ ہے کہ ماڈل کا حجم استحکام کا فیصلہ کن عامل نہیں نکلا[1]: نسبتاً چھوٹا T5-large جواب کے استحکام میں کہیں بڑے ChatGPT ماڈل سے زیادہ پیچھے نہیں رہا[1]۔ مصنفین کا خیال ہے کہ کلیدی کردار ماڈلز کی تربیت اور fine-tuning کے طریقے ادا کرتے ہیں، نہ کہ صرف حجم[1]۔ مثلاً UL2 اور T5-large نے بڑے ڈیٹا مجموعوں پر وسیع pre-training کی تھی، اور ChatGPT کو انسانی رائے سے reinforcement learning (RLHF) کے ساتھ تربیت دی گئی تھی، جس سے ان کا استحکام مضبوط ہوا ہوگا[1]۔ اس کے برعکس، Vicuna نسبتاً محدود ڈیٹاسیٹ پر تربیت یافتہ تھا (ایک اوپن ریپلیکا کے طور پر)، جس سے غالباً عبارت بندی کی تبدیلیوں کے سامنے اس کی زیادہ حساسیت پیدا ہوئی[1]۔ یہ نتائج اشارہ کرتے ہیں کہ fine-tuning کے طریقوں کو بہتر بنانا محض ماڈلز کا حجم بڑھانے سے زیادہ ان کی قابلیت اعتماد کو بہتر بنا سکتا ہے۔
Prompt فارمیٹ کا اثر
درخواست پیش کرنے کا انداز بھی جواب کی قابلیت اعتماد پر اثر ڈالتا ہے[1]۔ یہ ثابت ہوا کہ مثالوں کے ساتھ prompts (few-shot) بغیر مثالوں کی اکہری ہدایات (zero-shot) کے مقابلے میں ماڈل کا استحکام نمایاں طور پر بڑھاتے ہیں[1]۔ prompt میں چند مظاہراتی مثالوں کی موجودگی ماڈل کو شور والی تبدیلیوں کے باوجود کام کو زیادہ درستی سے سمجھنے میں مدد دیتی ہے۔ کردار پر مبنی اور وضاحتی (task-oriented) prompts نے مجموعی طور پر استحکام کی برابر سطح ظاہر کی، اگرچہ ان کی افادیت کام سے کام تک مختلف رہی[1]۔ مثلاً جذبات کے تجزیے اور مکرر جملوں کے ڈیٹا میں کردار کا فارمیٹ قدرے زیادہ قابلِ اعتماد رہا، جبکہ سمجھ کے ساتھ پڑھنے اور ترجمے کے کاموں میں واضح کام کی ہدایات بہتر کام آئیں[1]۔ یہ مشاہدات prompts ڈیزائن کرنے میں رہنمائی کا کام دے سکتے ہیں: تفصیلی مثالیں اور کردار کا سیاق و سباق شامل کرنے سے غیر معمولی عبارت بندی پر ماڈل کی غلطی کا امکان کم ہوتا ہے۔
ماڈلز کے درمیان حملوں کی منتقلی
ماڈلز کے درمیان حملوں کی منتقلی (transfer) محدود ثابت ہوئی[1]۔ ایک ماڈل کے خلاف خاص طور پر تیار کردہ ادورسیریل prompts ہمیشہ دوسرے ماڈل کے خلاف یکساں موثر نہیں ہوتے[1]۔ مثلاً یہ نوٹ کیا گیا کہ ChatGPT کی کمزوریوں کے لیے تیار کردہ "جال" prompts GPT-4 پر بہت کم اثر ڈالتے ہیں[1]۔ مؤخر الذکر بہتر کارکردگی دکھاتا رہا، غالباً اس لیے کہ حملے براہِ راست اس کی آرکیٹیکچر پر منتقل نہیں ہوتے — جو چیز ایک ماڈل کو الجھاتی ہے وہ مختلف تربیت والے زیادہ ترقی یافتہ ماڈل پر اثر نہیں کر سکتی[1]۔ تاہم سادہ مسخ کی بعض اقسام (مثلاً ٹائپنگ غلطیاں) بیک وقت کئی ماڈلز پر منفی اثر ڈالتی رہیں، جو ان کی زبانی بنیاد میں مشابہ کمزوریوں کی طرف اشارہ کرتا ہے۔
عملی سفارشات
PromptBench کے دوران BYaM کے صارفین اور ڈویلپرز کے لیے عملی سفارشات بھی سامنے آئیں[2]۔ ایک سادہ نتیجہ: عبارت بندی کا استحکام اہمیت رکھتا ہے[2]۔ درخواست میں ٹائپنگ کی غلطیوں اور لاپرواہ عبارت بندی سے بچنا ضروری ہے[2]۔ مصنفین ظاہر کرتے ہیں کہ معمولی غلطیوں (ہجے، اتفاقی حروف کا رجسٹر، فالتو خالی جگہیں) کو درست کرنا بھی ماڈل کے جواب کی قابلیت اعتماد کو نمایاں طور پر بڑھا سکتا ہے[2]۔ اس کے علاوہ، ہدایت میں الفاظ کا انتخاب اس کے استحکام پر اثر ڈالتا ہے[2]۔ مستحکم بمقابلہ کمزور prompts میں اصطلاحات کی تعدد کے تجزیے سے معلوم ہوا کہ بعض الفاظ "قابلِ اعتماد" prompts میں زیادہ ملتے ہیں اور بعض ان میں جہاں ماڈل گمراہ ہوا[2]۔ مثلاً "acting"، "provided"، "detection" وغیرہ الفاظ پر مشتمل prompts کم کثرت سے خرابیوں کا باعث بنے، جبکہ "respond"، "following" یا "examine" جیسے الفاظ زیادہ مشکل معاملات میں دیکھے گئے[2]۔ یہ اشارہ کرتا ہے کہ درخواستوں کا ایک خاص انداز اور الفاظ کا ذخیرہ ماڈل کی کمزوریوں کو کم یا، اس کے برعکس، اکسا سکتا ہے۔ مجموعی طور پر یہ سفارش کی جاتی ہے کہ درخواست ممکنہ حد تک واضح، یک معنی اور ماڈل کے لیے مانوس اصطلاحات میں بیان کی جائے، خاص طور پر اہم ترین اطلاقات کے لیے[2]۔
محققین کی طرف سے نوٹ کیا گیا ایک دلچسپ ضمنی اثر — درخواست میں بے معنی یا غیر متعلقہ متن کے ٹکڑے شامل کرنے کا اثر[2]۔ معلوم ہوا کہ prompt کے آخر یا درمیان میں حروف کی اتفاقی ترتیب (مثلاً "LKF0FZxMZ4") شامل کرنا ماڈل کی توجہ بھٹکا سکتا ہے اور اس کے جواب کی درستگی کم کر سکتا ہے[2]۔ دوسری طرف، ایک غیر جانبدار لیکن گرامری طور پر درست جملے کا اضافہ (مثلاً "and true is true" — "اور سچ سچ ہے") بعض صورتوں میں، اس کے برعکس، جواب کو بہتر بناتا تھا، گویا ماڈل کی توجہ سوال کے اہم حصوں پر مرکوز کر رہا ہو[2]۔ یہ رجحان اس بات کو اجاگر کرتا ہے کہ BYaM بظاہر غیر اہم ان پٹ کی تفصیلات پر کتنی غیر متوقع طریقے سے ردعمل ظاہر کرتے ہیں۔ یہ ماڈلز کی اندرونی ساخت کی پیچیدگی کا بھی ثبوت ہے: سیاق و سباق میں معمولی ترین تبدیلیاں ان کے کام کو یا تو بگاڑ سکتی ہیں یا بہتر بنا سکتی ہیں، اس بات پر منحصر کہ ماڈل کی توجہ کیسے تقسیم ہوتی ہے۔
اہمیت اور مستقبل کی پیش رفت
PromptRobust/PromptBench نے BYaM کی قابلیت اعتماد کو سمجھنے میں اہم کردار ادا کیا[2]۔ تجویز کردہ benchmark اور جمع کیا گیا ڈیٹا کمیونٹی کے لیے کھلا ہے: کوڈ اور ادورسیریل prompts کے مجموعے ریپوزیٹری میں دستیاب ہیں[1]۔ اس سے دیگر محققین نئے ماڈلز کو درخواستوں میں تبدیلیوں کے خلاف استحکام پر جانچ سکتے ہیں اور نتائج کا موازنہ کر سکتے ہیں[1]۔ اگلا قدم ایسے حملوں کے خلاف ماڈلز کی حفاظت کے طریقے تیار کرنا ہے — مثلاً بہتر تربیتی الگورتھم جو ممکنہ ٹائپنگ غلطیوں اور دوبارہ صیاغت کو مدنظر رکھیں، یا ان پٹ تقریر کو معمول پر لانے کے لیے بلٹ-ان سسٹم[2]۔ PromptBench کو پہلے سے ایسی تحقیق کی بنیاد کے طور پر دیکھا جاتا ہے جو حقیقی غیر درست ان پٹ ڈیٹا کے سامنے زبانی ماڈلز کی robustness (استحکام) بڑھانے کے لیے ہے[2]۔
بالآخر، Zhu اور ساتھیوں کی یہ تحقیق BYaM کو عملی اطلاقات میں نافذ کرتے وقت prompts کے خلاف استحکام کو مدنظر رکھنے کی اہمیت ظاہر کرتی ہے: ماڈلز کو نہ صرف "صاف" ڈیٹا پر اعلی درستگی ظاہر کرنی چاہیے، بلکہ ان پٹ میں معمولی انحراف پر بھی درستگی برقرار رکھنی چاہیے، چاہے وہ صارف کی اتفاقی غلطیاں ہوں یا جان بوجھ کر کیے گئے حملے[2][4]۔
حوالہ جات
- PromptBench کا اصل مقالہ (arXiv)
- GitHub پر PromptBench ریپوزیٹری
- مضمون "Prompt Robustness: How to Measure and How to Enhance" (Towards AI)
کتابیات
- Liang, P. et al. (2022). Holistic Evaluation of Language Models (HELM). arXiv:2211.09110.
- Chang, Y. et al. (2023). A Survey on Evaluation of Large Language Models. arXiv:2307.03109.
- Ni, S. et al. (2025). A Survey on Large Language Model Benchmarks. arXiv:2508.15361.
- Biderman, S. et al. (2024). The Language Model Evaluation Harness (lm-eval): Guidance and Lessons Learned. arXiv:2405.14782.
- Kiela, D. et al. (2021). Dynabench: Rethinking Benchmarking in NLP. arXiv:2104.14337.
- Ma, Z. et al. (2021). Dynaboard: An Evaluation‑As‑A‑Service Platform for Holistic Next‑Generation Benchmarking. arXiv:2106.06052.
- Goel, K. et al. (2021). Robustness Gym: Unifying the NLP Evaluation Landscape. arXiv:2101.04840.
- Xu, C. et al. (2024). Benchmark Data Contamination of Large Language Models: A Survey. arXiv:2406.04244.
- Liu, S. et al. (2025). A Comprehensive Survey on Safety Evaluation of LLMs. arXiv:2506.11094.
- Chiang, W.-L. et al. (2024). Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preference. arXiv:2403.04132.
- Boubdir, M. et al. (2023). Elo Uncovered: Robustness and Best Practices in Language Model Evaluation. arXiv:2311.17295.
- Huang, L. et al. (2023). A Survey on Hallucination in Large Language Models. arXiv:2311.05232.
حواشی
- ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 1.14 1.15 1.16 1.17 1.18 1.19 1.20 1.21 1.22 1.23 1.24 1.25 1.26 1.27 1.28 1.29 1.30 1.31 1.32 1.33 1.34 1.35 «PromptBench: Towards Evaluating the Robustness of Large Language Models on Adversarial Prompts». arXiv. [1]
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 2.19 «Prompt Robustness: How to Measure and How to Enhance». Towards AI. [2]
- ↑ 3.0 3.1 3.2 3.3 «PromptRobust: Towards Evaluating the Robustness of Large Language Models on Adversarial Prompts». arXiv. [3]
- ↑ «Realer Toxicity Prompts (RTP-2.0): Multilingual and Adversarial Prompts for Evaluating Neural Toxic Degeneration in Large Language Models». Language Technologies Institute - School of Computer Science - Carnegie Mellon University. [4]