Meta Prompting (BN)

মেটা-প্রম্পটিং (ইংরেজি: meta-prompting) — এটি prompt engineering-এর একটি উন্নত পদ্ধতি, যেখানে বৃহৎ ভাষা মডেল (LLM) নিজস্ব নির্দেশনা (প্রম্পট) তৈরি, সংশোধন এবং অপ্টিমাইজ করতে ব্যবহৃত হয়। প্রচলিত পদ্ধতিতে মানুষ নিজে হাতে বিস্তারিত নির্দেশনা লেখেন, কিন্তু মেটা-প্রম্পটিং মডেলটি যে ভূমিকা পালন করবে এবং কাজটি সমাধানের কাঠামো নির্ধারণের উপর মনোযোগ কেন্দ্রীভূত করে। অন্য কথায়, এটি বর্ণনা করে কীভাবে কাজটি সমাধান করতে হবে, প্রতিটি নির্দিষ্ট ক্ষেত্রে কী করতে হবে তা নয়।

এই পদ্ধতি LLM-কে স্বাধীনভাবে জটিল সমস্যা বিভাজন করতে, অনুরোধ পরিমার্জন করতে এবং ইটারেটিভভাবে নিজের উত্তর উন্নত করতে সক্ষম করে, যা আরও স্বায়ত্তশাসিত ও অভিযোজনযোগ্য কৃত্রিম বুদ্ধিমত্তা সিস্টেম তৈরির পথ খুলে দেয়।

মূল পদ্ধতি ও প্রস্তাবনাসমূহ

«মেটা-প্রম্পটিং» পরিভাষাটি ২০২৩ সালের শেষ থেকে ২০২৪ সালের শুরুর দিকে বৈজ্ঞানিক সাহিত্যে ব্যাপক প্রসার লাভ করে, যখন বেশ কয়েকটি গবেষণা দল LLM পরিচালনার ক্ষেত্রে একই ধরনের পদ্ধতি উপস্থাপন করে।

«কাঠামো নির্মাণ» পদ্ধতি (Scaffolding)

মূল প্রস্তাবনাগুলির একটি স্ট্যানফোর্ড বিশ্ববিদ্যালয় এবং OpenAI-এর গবেষকদের দ্বারা প্রস্তাবিত হয়েছিল। scaffolding নামক এই কাঠামোয়, একই ভাষা মডেল (পরীক্ষায় GPT-4) একই সাথে একাধিক ভূমিকা পালন করে:

• পরিচালক (Conductor): উচ্চ-স্তরের মেটা-প্রম্পট গ্রহণ করে এবং জটিল কাজটিকে একাধিক সহজ উপকাজে বিভাজন করে।
• বিশেষজ্ঞ (Experts): «পরিচালক» তার একাধিক «বিশেষজ্ঞ» উদাহরণ শুরু করে, প্রতিটি বিশেষভাবে নির্ধারিত নির্দেশনা অনুযায়ী আলাদা উপকাজ সমাধান করে।
• সংহতকরণ: «পরিচালক» «বিশেষজ্ঞদের» কাজ সমন্বয় করে এবং তাদের উত্তরগুলো চূড়ান্ত সমাধানে একত্রিত করে।

এই অর্কেস্ট্রেশন পদ্ধতি জটিল কাজ সমাধানের কার্যকারিতা উল্লেখযোগ্যভাবে বৃদ্ধি করেছে। উদাহরণস্বরূপ, পরীক্ষায় মেটা-প্রম্পটিং সাধারণ একক-ধাপের অনুরোধের তুলনায় ১৭.১% এবং বহু-উপাদান যুক্তি প্রয়োজনীয় কাজের সেটে (যেমন «২৪» খেলা, দাবার ধাঁধা) অন্যান্য উন্নত পদ্ধতির তুলনায় ১৫–১৭% বেশি কার্যকর ছিল। উল্লেখযোগ্যভাবে, এই পদ্ধতিটি কাজ-নিরপেক্ষ প্রকৃতির এবং zero-shot মোডে কাজ করে, প্রতিটি নতুন কাজের জন্য নির্দিষ্ট উদাহরণের প্রয়োজন হয় না।

তাত্ত্বিক পদ্ধতি ও কাঠামোগত টেমপ্লেট

সমান্তরালভাবে, সিংহুয়া বিশ্ববিদ্যালয়ের গবেষকদের একটি দল মেটা-প্রম্পটিং-এর নিজস্ব ধারণা প্রস্তাব করে, কাজের বিষয়বস্তু থেকে মনোযোগ সরিয়ে তথ্য উপস্থাপনার সিনট্যাক্স ও রূপের উপর কেন্দ্রীভূত করে। বিভাগীয় মডেলের উপর ভিত্তি করে, তারা প্রদর্শন করেছেন যে সমস্যার কাঠামোর বিমূর্ত বিবরণ মডেলকে মানবিক গভীরতার কাছাকাছি যুক্তি তৈরি করতে এবং জটিল প্রশ্নগুলোকে কার্যকরভাবে সহজ ধাপে বিভাজন করতে সক্ষম করে।

সম্পর্কিত ধারণাসমূহ

মেটা-প্রম্পটিং-এর ধারণাগুলো অন্যান্য পদ্ধতিতেও প্রকাশ পায়:

• Automatic Prompt Engineer (APE): এমন একটি পদ্ধতি যেখানে LLM স্বয়ংক্রিয়ভাবে নিজের জন্য কার্যকর নির্দেশনা তৈরি ও বাছাই করে, প্রাপ্ত ফলাফলের গুণমান অনুযায়ী সেগুলো মূল্যায়ন করে।
• Self-Refine: এমন একটি পদ্ধতি যেখানে মডেল পূর্ববর্তী সংস্করণ সমালোচনামূলকভাবে বিশ্লেষণ করে এবং সেই সমালোচনার ভিত্তিতে সংশোধন তৈরি করে নিজের উত্তর ইটারেটিভভাবে উন্নত করে।

প্রয়োগ ও সুবিধাসমূহ

মেটা-প্রম্পটিং গণিতের প্রমাণ, প্রোগ্রামিং এবং ধাপে ধাপে ধাঁধার সমাধানের মতো জটিল বহু-উপাদান যুক্তি প্রয়োজনীয় কাজে উচ্চ কার্যকারিতা প্রদর্শন করেছে। পদ্ধতির মূল সুবিধাগুলো:

• token-দক্ষতা: অনেক উদাহরণের তালিকার পরিবর্তে কাজের সামগ্রিক কাঠামোর উপর মনোযোগ কেন্দ্রীভূত করা প্রম্পটের আয়তন কমায়। মেটা-প্রম্পট একটি সার্বজনীন টেমপ্লেট যা কম token প্রয়োজন করে।
• স্থিতিশীলতা ও নিরপেক্ষতা: পদ্ধতিটি নির্দিষ্ট উদাহরণের উপর নির্ভরতা এড়িয়ে চলে, যা মডেলকে প্রশিক্ষণ নমুনার বিশেষত্বের দিকে পক্ষপাতিত্ব থেকে কম সংবেদনশীল করে তোলে।
• গতিশীল অভিযোজন: স্থির প্রম্পটের বিপরীতে, মেটা-প্রম্পটিং ইটারেটিভ উন্নতির সুযোগ দেয়। মডেল সমাধানের প্রক্রিয়ায় নির্দেশনা পরিমার্জন করতে, অনুপস্থিত তথ্য অনুরোধ করতে এবং কৌশল সংশোধন করতে পারে।
• নতুন কাজে সাধারণীকরণ: উচ্চ-স্তরের নির্দেশনা নতুন, পূর্বে অদেখা কাজে আরও সহজে স্থানান্তরিত হয়, যা মেটা-প্রম্পটিংকে zero-shot পদ্ধতির একটি উন্নত রূপ করে তোলে।

সীমাবদ্ধতা ও ঝুঁকি

• ব্যয় ও গণনার জটিলতা: পদ্ধতিটি একটি কাজের জন্য মডেলে বারবার অনুরোধ করে, যা সময় ও API-অনুরোধের খরচ বাড়ায়। বর্তমান বাস্তবায়নগুলো ক্রমানুসারে কাজ করে, যা সমান্তরালীকরণ কঠিন করে তোলে।
• মডেলের সক্ষমতার উপর নির্ভরশীলতা: মেটা-প্রম্পটিং-এর কার্যকারিতা মূল LLM-এর গুণমানের উপর ব্যাপকভাবে নির্ভর করে। গবেষণায় দেখা গেছে যে GPT-3.5 এই পদ্ধতি থেকে প্রায় কোনো সুবিধা পায় না, যেখানে GPT-4 এবং পরবর্তী মডেলগুলির জন্য সুবিধা উল্লেখযোগ্যভাবে বৃদ্ধি পায়।
• LLM-এর মৌলিক সীমাবদ্ধতা: মেটা-প্রম্পটিং কোনো রামবাণ নয়। যদি কোনো কাজ মূল মডেলের জ্ঞানের সীমার বাইরে হয়, তাহলে নিখুঁতভাবে তৈরি মেটা-প্রম্পটও সঠিক ফলাফলের নিশ্চয়তা দেয় না। এই ক্ষেত্রে হয় fine-tuning অথবা বাহ্যিক সরঞ্জামের সাথে একীভূতকরণ (যেমন ইন্টারনেট অনুসন্ধান বা কোড ইন্টারপ্রেটার) প্রয়োজন।

রেফারেন্স

• OpenAI Cookbook-এ মেটা-প্রম্পটিং-এর উদাহরণ
• Prompt Engineering Guide-এ পদ্ধতির বিবরণ

সাহিত্য

• Suzgun, M.; Kalai, A. T. (2024). Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding. arXiv:2401.12954.
• Zhang, Y.; Yuan, Y.; Yao, A. C.-C. (2023). Meta Prompting for AGI Systems. arXiv:2311.11482.
• Zhou, Y. et al. (2022). Large Language Models Are Human-Level Prompt Engineers. arXiv:2211.01910.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Ning, X. et al. (2023). Skeleton-of-Thought: Prompting LLMs for Efficient Parallel Generation. arXiv:2307.15337.
• Chen, X. et al. (2023). Universal Self-Consistency for Large Language Model Generation. arXiv:2311.17311.
• Wang, X. et al. (2022). Self-Consistency Improves Chain-of-Thought Reasoning in Language Models. arXiv:2203.11171.
• Fernando, C. et al. (2023). PromptBreeder: Self-Referential Self-Improvement via Prompt Evolution. arXiv:2309.16797.
• Zhou, P. et al. (2024). Self-DISCOVER: Large Language Models Self-Compose Reasoning Structures. arXiv:2402.03620.
• Chen, J. et al. (2024). Thought-Augmented Reasoning with Large Language Models. arXiv:2406.04271.