Toolformer (BN)

From Systems analysis Wiki
Jump to navigation Jump to search

Toolformer — এটি বৃহৎ ভাষা মডেল (LLM) তৈরির একটি পদ্ধতি, যা মডেলগুলিকে API কলের মাধ্যমে স্বায়ত্তভাবে বাহ্যিক সরঞ্জাম ব্যবহার করতে সক্ষম করে[1]। এই পদ্ধতিটি ২০২৩ সালে Meta AI Research-এর গবেষকদের একটি দল স্পেনের পম্পেউ ফাব্রা বিশ্ববিদ্যালয়ের সহযোগিতায় প্রস্তাব করেছিল। «Toolformer: Language Models Can Teach Themselves to Use Tools» (Timo Schick et al., 2023) শীর্ষক গবেষণাপত্রে লেখকরা একটি বৈপরীত্যের কথা উল্লেখ করেছেন: আধুনিক LLM পাঠ্য উদাহরণ থেকে জটিল নতুন সমস্যা সমাধানে চমৎকার দক্ষতা দেখায়, কিন্তু একই সঙ্গে প্রায়ই মৌলিক কাজ — যেমন গণনা বা তথ্য অনুসন্ধান — নির্ভরযোগ্যভাবে সম্পন্ন করতে পারে না[1]। এই সীমাবদ্ধতা অতিক্রম করতে দলটি Toolformer মডেল তৈরি করেছে, যা বিভিন্ন কাজের মান উন্নত করতে বাহ্যিক সরঞ্জাম (যেমন সার্চ ইঞ্জিন, ক্যালকুলেটর বা অনুবাদ পরিষেবা) বেছে নিতে এবং কল করতে নিজে শিখতে পারে[1]। ২০২৩ সালের ফেব্রুয়ারিতে এই মডেলটি arXiv-এ প্রিপ্রিন্ট হিসেবে প্রকাশিত হয় এবং পরবর্তীতে NeurIPS 2023 সম্মেলনে গৃহীত ও স্বীকৃত হয়[2]

মডেলের মূল ধারণা ও সামর্থ্য

Toolformer হলো একটি fine-tuned ভাষা মডেল, যা নির্ধারণ করতে পারে কোন সরঞ্জামটি কল করতে হবে, ঠিক কখন কল করতে হবে, কী পরামিতি পাঠাতে হবে এবং প্রাপ্ত ফলাফল কীভাবে তৈরি হওয়া পাঠ্যে অন্তর্ভুক্ত করতে হবে[3]। প্রশিক্ষণ self-supervised পদ্ধতিতে পরিচালিত হয় — মডেল নিজেই API ব্যবহারের উদাহরণ তৈরি করে এবং মূল্যায়ন করে, প্রতিটি সরঞ্জামের জন্য কেবল একটি ছোট প্রদর্শনী সেট (আক্ষরিক অর্থে কয়েকটি উদাহরণ) প্রয়োজন[3]। পূর্ববর্তী পদ্ধতিগুলির বিপরীতে, সরঞ্জাম একীভূত করতে বিস্তারিত লেবেলিং বা মানব-নির্দেশিত টেমপ্লেটের প্রয়োজন হয় না; মডেল নিজেই কখন এবং কীভাবে কোন API প্রয়োগ করতে হবে তা শিখে নেয়, সাধারণ ভাষাগত সক্ষমতা বজায় রাখে এবং সংকীর্ণভাবে নির্ধারিত কাজের মধ্যে সীমাবদ্ধ থাকে না[1]

লেখকরা Toolformer-এ সহজ API কলের মাধ্যমে অ্যাক্সেসযোগ্য বিস্তৃত সরঞ্জামের সংযোগ ঘটিয়েছেন। পরীক্ষামূলক সংস্করণে নিম্নলিখিত ইউটিলিটিগুলি অন্তর্ভুক্ত ছিল[3]:

  • ক্যালকুলেটর – গাণিতিক হিসাব সম্পাদনের জন্য।
  • প্রশ্ন-উত্তর (Q&A) ব্যবস্থা – জ্ঞানভাণ্ডার থেকে তথ্যভিত্তিক প্রশ্নের উত্তর খোঁজার জন্য।
  • সার্চ ইঞ্জিন (২টি ভিন্ন) – ইন্টারনেটে সর্বশেষ তথ্য অনুসন্ধানের জন্য।
  • মেশিন ট্রান্সলেশন ব্যবস্থা – ভাষার মধ্যে পাঠ্য অনুবাদের জন্য।
  • ক্যালেন্ডার – তারিখ ও সময় সংক্রান্ত তথ্য প্রাপ্তির জন্য।

প্রতিটি সরঞ্জাম একটি পাঠ্য খণ্ডের (বিশেষ পাঠ্য চিহ্নের) বিন্যাসে উপস্থাপিত হয়েছে, যা মডেলকে তার তৈরি পাঠ্যের মধ্যে সরাসরি API কল এম্বেড করতে সক্ষম করে[4]। উদাহরণস্বরূপ, মডেল বর্তমান প্রসঙ্গে `[Calculator(...)]` বা `[Search("অনুসন্ধান")]`-এর মতো কাঠামো ঢোকাতে পারে, যা বাহ্যিক অ্যাক্সেসের প্রয়োজনীয়তা সংকেত দেয়। উত্তর তৈরির সময় Toolformer একটি বিশেষ চিহ্ন (তীর →) তৈরি করে, যার মাধ্যমে সিস্টেম তৈরি প্রক্রিয়া বিরতি দেয় এবং সংশ্লিষ্ট API কল সম্পাদন করে; প্রাপ্ত ফলাফল পাঠ্যে প্রতিস্থাপিত হয়, তারপর পরবর্তী অংশের তৈরি চলতে থাকে[4]। এই প্রক্রিয়াটি মডেলকে আর্কিটেকচার পরিবর্তন ছাড়াই একটি একক ভাষা মডিউল হিসেবে থেকে বাহ্যিক পরিষেবার সক্ষমতা গতিশীলভাবে ব্যবহার করতে দেয়।

মডেলের প্রশিক্ষণ (পদ্ধতিবিজ্ঞান)

ডেভেলপাররা সিন্থেটিক ডেটা তৈরির জন্য in-context learning কৌশল ব্যবহার করে[1] Toolformer-এর প্রশিক্ষণ প্রক্রিয়াটি বেশ কয়েকটি ধাপে বর্ণনা করেছেন[4]:

  1. API কল প্রার্থী তৈরি। প্রথমে একটি বড় কর্পাস (যেমন নিবন্ধ বা ওয়েবপেজ) থেকে পাঠ্য নেওয়া হয় এবং তাতে কৃত্রিমভাবে সরঞ্জাম কল ঢোকানো হয়, যা সম্ভাব্যভাবে পাঠ্য অব্যাহত রাখতে বা পরিপূরক করতে সাহায্য করতে পারে। মডেল নিজেই N-shot prompting ব্যবহার করে এই সন্নিবেশ তৈরি করে, প্রতিটি API-এর ব্যবহারের কয়েকটি হাতে তৈরি নমুনার উপর নির্ভর করে[1]। উদাহরণস্বরূপ, মডেলটি এরকম একটি অংশ পেতে পারে: «২০২৪ সালে শহরের জনসংখ্যা ছিল [QA("এই শহরের জনসংখ্যা কত?") → ...] জন», যেখানে QA( ) হলো প্রশ্ন-উত্তর ব্যবস্থার একটি কল যা অনুপস্থিত ডেটা ফেরত দেওয়ার কথা। প্রতিটি সরঞ্জামের জন্য উপযুক্ত প্রসঙ্গ বাছাই করা হয়; যেমন, ক্যালকুলেটরের জন্য মডেলটি এমন বাক্য বেছে নেয় যাতে একাধিক সংখ্যা এবং «সমান» বা «মোট»-এর মতো শব্দ থাকে[4] — যেখানে গাণিতিক ফলাফল সত্যিই প্রয়োজন হবে।
  2. API কল সম্পাদন ও ডেটা পরিবর্ধন। এরপর মডেল দ্বারা তৈরি সমস্ত কল সত্যিকার অর্থে সম্পাদিত হয় — যেমন সার্চ ইঞ্জিনে প্রশ্ন পাঠানো হয় বা ক্যালকুলেটরে রাশি গণনা করা হয়। প্রাপ্ত উত্তরগুলি পাঠ্যে ফিরিয়ে দেওয়া হয়, যা `{উত্তর}`-এর মতো সন্নিবেশ সহ বাক্যের সম্পূর্ণ সংস্করণ তৈরি করে[4][4]। একই সঙ্গে «ফাঁকা» সংস্করণ (উত্তর প্রতিস্থাপন ছাড়া) এবং কোনো কল ছাড়া মূল পাঠ্যও পরবর্তী তুলনার জন্য সংরক্ষিত থাকে।
  3. ফিল্টারিং ও উপযোগিতার স্ব-মূল্যায়ন। এই পর্যায়ে Toolformer স্বায়ত্তভাবে মূল্যায়ন করে যে তৈরি করা API সন্নিবেশগুলির মধ্যে কোনগুলি পাঠ্যের ধারাবাহিকতা পূর্বাভাসের জন্য সত্যিই উপকারী[4]। তিনটি দৃশ্যকল্পে ভাষা মডেলের পাঠ্য অব্যাহত রাখার সম্ভাবনার তুলনা করা হয়: (ক) কোনো কল ছাড়া, (খ) প্রতিস্থাপিত ফলাফল ছাড়া সরঞ্জাম কল সহ, (গ) কল ও প্রতিস্থাপিত ফলাফল উভয় সহ[4]। যদি একটি নির্দিষ্ট API উত্তর যোগ করা বাক্যের সঠিক ধারাবাহিকতার মডেল সম্ভাবনা বাড়ায় (অর্থাৎ মডেলকে পরবর্তী শব্দ পূর্বাভাস দিতে সত্যিই সাহায্য করে), তাহলে সেই উদাহরণটি উপকারী বলে গণ্য হয়। কেবলমাত্র সম্ভাবনায় লাভ দেওয়া সন্নিবেশগুলিই নমুনায় থাকে। এভাবে সেই ক্ষেত্রগুলি বাদ দেওয়া হয় যেখানে সরঞ্জাম কল অতিরিক্ত ছিল বা নতুন তথ্য যোগ করেনি। পরিশেষে, মডেলটি প্রাপ্ত ফিল্টার করা dataset-এ fine-tuning করা হয়, যাতে সর্বোত্তমভাবে সন্নিবিষ্ট API কল সহ পাঠ্যের প্রকৃত উদাহরণ রয়েছে[1]। প্রশিক্ষণ ভাষা মডেলিংয়ের আদর্শ লক্ষ্য অনুযায়ী সম্পন্ন হয় — ক্রমের পরবর্তী token পূর্বাভাস দেওয়া, সরঞ্জাম কলের ফলাফল বোঝানো token সহ।

এটি জোর দিয়ে বলা গুরুত্বপূর্ণ যে প্রতিটি নতুন সরঞ্জাম অন্তর্ভুক্ত করতে কেবল কয়েকটি হাতে তৈরি উদাহরণ প্রয়োজন ছিল — এরপর প্রশিক্ষণ ডেটার তৈরি স্বয়ংক্রিয়ভাবে চলে[3]। এর ফলে Toolformer পদ্ধতি বিশেষায়িত লেবেলকৃত কর্পাসের প্রাপ্যতার উপর প্রায় নির্ভরশীল নয় এবং ডেটা টীকা সংক্রান্ত শ্রম খরচ কমিয়ে আনে। মডেল নিজেই API কলের বিন্যাস ও উপযুক্ততা শেখে এবং এক্ষেত্রে তার সার্বজনীনতা বজায় রাখে: এটি কেবলমাত্র তখনই সরঞ্জাম ব্যবহার করে যখন প্রদত্ত কাজ সমাধানের জন্য এটি সত্যিই প্রয়োজন[1]

পরীক্ষামূলক ফলাফল

পদ্ধতিটি পরীক্ষামূলকভাবে যাচাই করতে গবেষকরা বিদ্যমান ভাষা মডেল GPT-J (৬.৭ বিলিয়ন প্যারামিটার) — The Pile কর্পাসে প্রশিক্ষিত একটি উন্মুক্ত LLM — ব্যবহার করেছেন[4]। এই মডেলটি বর্ণিত পদ্ধতি অনুযায়ী fine-tuned করা হয়েছে, ফলে GPT-J-ভিত্তিক Toolformer তৈরি হয়েছে। নতুন পদ্ধতির কর্মক্ষমতা বেশ কয়েকটি আদর্শ কাজে zero-shot (উদাহরণ ছাড়া) পদ্ধতিতে মূল্যায়ন করা হয়েছে, যার মধ্যে রয়েছে গণিতের পাঠ্য সমস্যার সমাধান, তথ্য অনুসন্ধান ও জ্ঞান-ভিত্তিক প্রশ্নের উত্তর (QA), অনুবাদ এবং পাঠ্যে ফাঁক পূরণ। পরীক্ষার ডেটা হিসেবে ব্যবহৃত হয়েছে Natural Questions, TriviaQA-এর মতো উন্মুক্ত প্রশ্ন সেট (তথ্যভিত্তিক জ্ঞান মূল্যায়নের জন্য), ASDiv, MAWPS, SVAMP-এর মতো কাজের সেট (গাণিতিক পাঠ্য সমস্যা), এবং MLQA, LAMA-এর মতো বহুভাষিক QA benchmark[5]

ফলাফলে দেখা গেছে যে Toolformer অনেক কাজে একই আকারের মূল মডেলকে উল্লেখযোগ্যভাবে ছাড়িয়ে গেছে[1]। তদুপরি, সরঞ্জাম সংযোগের কারণে তুলনামূলকভাবে ছোট মডেলটি (৬.৭ বিলিয়ন প্যারামিটার) বেশ কিছু সূচকে অনেক বড় GPT-3 মডেলকে (১৭৫ বিলিয়ন প্যারামিটার) পরাজিত করতে সক্ষম হয়েছে[1][6]। উদাহরণস্বরূপ, নির্ভুল গণনার প্রয়োজন এমন গণিতের পাঠ্য সমস্যায় Toolformer সাধারণ LLM-এর তুলনায় বিশেষভাবে উল্লেখযোগ্য অগ্রগতি দেখিয়েছে, ক্যালকুলেটরের মাধ্যমে এই সমস্যাগুলি সঠিকভাবে সমাধান করেছে, যেখানে GPT-3-ও ভুল করত[1]। তথ্যভিত্তিক প্রশ্নের (QA) পরীক্ষায় GPT-J-ভিত্তিক Toolformer-ও GPT-3-এর সমতুল্য বা উচ্চতর মানের উত্তর দেখিয়েছে, কারণ এটি সর্বশেষ তথ্যের জন্য ইন্টারনেট অনুসন্ধান করতে পারত[1]। এক্ষেত্রে গুরুত্বপূর্ণ যে নতুন পদ্ধতি ভাষা মডেলের সাধারণ সক্ষমতাকে ক্ষুণ্ণ করেনি, যেমন সাধারণ ডেটায় ধারাবাহিক পাঠ্য অব্যাহত রাখা: Toolformer সরঞ্জাম ছাড়া প্রাকৃতিক ভাষা তৈরির মাত্রা মূল GPT-J-এর স্তরে বজায় রেখেছে[3]। অন্য কথায়, API কলের কার্যকারিতা যোগ করা মডেলের মৌলিক দক্ষতা 'কেড়ে নেয়নি', বরং অতিরিক্ত সক্ষমতা দিয়ে তা প্রসারিত করেছে।

গবেষণার গুরুত্ব ও পরবর্তী গবেষণা

Toolformer-এর উন্নয়ন প্রমাণ করেছে যে সিন্থেটিক ডেটা তৈরি ও উপযোগিতার স্ব-মূল্যায়নের মাধ্যমে প্রায় কোনো হাতে তৈরি লেবেলিং ছাড়াই বাহ্যিক সরঞ্জাম ব্যবহার করতে একটি মডেলকে প্রশিক্ষিত করা মূলগতভাবে সম্ভব। এই অর্জন আরও কার্যকর ও নির্ভরযোগ্য বৃহৎ ভাষা মডেলের পথ খুলে দেয়: তথ্য বা গাণিতিক নিয়ম মুখস্থ করতে কোটি কোটি প্যারামিটার বাড়ানোর পরিবর্তে, তুলনামূলকভাবে কম্প্যাক্ট একটি মডেল নিজের ঘাটতি পূরণ করতে বাহ্যিক সম্পদ (জ্ঞানভাণ্ডার, ক্যালকুলেটর, পরিষেবা) গতিশীলভাবে ব্যবহার করতে পারে[1]। এই পদ্ধতি «হ্যালুসিনেশন» (যখন মডেল অস্তিত্বহীন তথ্য তৈরি করে) কমাতে, পুরো মডেল পুনর্নির্মাণ ছাড়াই উত্তরের নির্ভুলতা ও জ্ঞানের প্রাসঙ্গিকতা বাড়াতে সাহায্য করে। মূলত, Toolformer «দুই জগতের সেরা» অর্জন করে — একটি বড় মডেলের ভাষাগত দক্ষতাকে সংকীর্ণ সরঞ্জামের নির্ভুলতার সাথে একত্রিত করে[3]

Schick ও সহকর্মীদের গবেষণা LLM-এর স্বায়ত্ত বাহ্যিক API আয়ত্তকরণ প্রদর্শনকারী প্রথম গবেষণাগুলির একটি এবং সমাজে ব্যাপক আগ্রহ তৈরি করেছে। এই ধারণাটি বিকশিত করে আরও গবেষণা প্রকাশিত হয়েছে। উদাহরণস্বরূপ, ২০২৩ সালে Graph-ToolFormer মডেল প্রস্তাব করা হয়েছে, যা গ্রাফ ডেটার সাথে কাজ করতে Toolformer-এর নীতিগুলি অভিযোজিত করে। ChatGPT দ্বারা তৈরি ইঙ্গিতের উপর ভিত্তি করে, Graph-ToolFormer একটি ভাষা মডেলকে গ্রাফ বিশ্লেষণ কাজ সমাধানের জন্য বাহ্যিক সরঞ্জাম কল করতে (যেমন গ্রাফের বৈশিষ্ট্য পাওয়া, জ্ঞান নেটওয়ার্কের সাথে কাজ করা ইত্যাদি) প্রশিক্ষিত করে[7]। আরেকটি উল্লেখযোগ্য উন্নয়ন হলো Gorilla মডেল (Univ. of California, Berkeley, ২০২৩), যা অনেক তৃতীয়-পক্ষ প্রোগ্রামিং API-এর সঠিক ব্যবহারে মনোনিবেশ করে[8]। Gorilla হলো একটি LLaMA মডেল যা ডকুমেন্টকৃত ফাংশনের বিস্তৃত সেটে fine-tuned; এটি কাজের বিবরণ থেকে সঠিক API কল তৈরি করতে সক্ষম, এবং এতটাই সফলভাবে যে পরীক্ষায় এটি লাইব্রেরি ও পরিষেবার কল গঠনের নির্ভুলতায় GPT-4-কেও ছাড়িয়ে গেছে[8]। Gorilla-তে ডকুমেন্টেশন অনুসন্ধান প্রক্রিয়ার সাথে একীভূতকরণ বাস্তবায়িত হয়েছে, যা API পরিবর্তনের তথ্য আপডেট করতে এবং সরঞ্জাম ব্যবহারে ভুল ও হ্যালুসিনেশন উল্লেখযোগ্যভাবে কমাতে দেয়[8]। এই গবেষণাগুলি Toolformer-এর খোলা দিকনির্দেশনার গুরুত্ব নিশ্চিত করে: LLM-কে বাহ্যিক সরঞ্জামের সাথে একত্রিত করা আরও শক্তিশালী ও নির্ভরযোগ্য AI সিস্টেম তৈরির একটি প্রতিশ্রুতিশীল পথ হিসেবে বিবেচিত হচ্ছে।

এটি লক্ষ করা যাচ্ছে যে ভাষা মডেলে সরঞ্জাম একীভূত করার ধারণাটি কেবল গবেষণায় নয়, শিল্পেও বিকশিত হচ্ছে। উদাহরণস্বরূপ, ২০২৩ সালের মার্চ মাসে OpenAI কোম্পানি ChatGPT প্লাগইন সিস্টেম উপস্থাপন করে — একটি বিশেষ ইন্টারফেস যা মডেলকে সর্বশেষ তথ্য পেতে এবং গণনা সম্পাদনের জন্য বাহ্যিক পরিষেবার (ওয়েব ব্রাউজার, জ্ঞানভাণ্ডার, গণনা ইঞ্জিন ইত্যাদি) সাথে সংযুক্ত করতে দেয়[9]। ব্যবহারকারীরা দীর্ঘদিন ধরে এই ধরনের কার্যকারিতার অনুরোধ করে আসছিলেন, এবং প্লাগইনের আবির্ভাব কার্যত Toolformer-এর অনুরূপ ধারণা বাস্তবে রূপ দেয়: মডেলটি বিভিন্ন ব্যবহারকারীর অনুরোধ সমাধানে তার সক্ষমতা বিস্তৃত করতে «সরঞ্জাম» দিয়ে পরিপূরক হয়[9]। এভাবে, Toolformer AI উন্নয়নের সাধারণ প্রবণতায় যুক্ত হয়, যেখানে বৃহৎ ভাষা মডেলগুলি একটি প্ল্যাটফর্ম হয়ে উঠছে যা চাহিদা অনুযায়ী বাহ্যিক জ্ঞান ও গণনা ব্যবহার করতে সক্ষম। Meta AI ও UPF দলের গবেষণা এই দিকনির্দেশনার একটি গুরুত্বপূর্ণ ভিত্তি স্থাপন করেছে, দেখিয়েছে কীভাবে LLM প্রায় কোনো হাতে নির্দেশনা ছাড়াই সরঞ্জাম ব্যবহার শিখতে পারে এবং এভাবে আরও সর্বজনীন ও নিরাপদ বুদ্ধিমান সহায়কের কাছাকাছি যেতে পারে[1][3]

তথ্যসূত্র

  • «Toolformer: Language Models Can Teach Themselves to Use Tools» মূল নিবন্ধ arXiv-এ
  • Synced Review-তে Toolformer-এর পর্যালোচনা
  • OpenReview-তে Toolformer পাতা
  • Medium-এ Toolformer-এর পর্যালোচনা
  • arXiv-এ Gorilla মডেলের নিবন্ধ
  • OpenAI ওয়েবসাইটে ChatGPT প্লাগইন পাতা

সাহিত্য

  • Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
  • Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. NeurIPS 2023. OpenReview.
  • Li, M. et al. (2023). API-Bank: A Comprehensive Benchmark for Tool-Augmented LLMs. arXiv:2304.08244.
  • Zhang, T. et al. (2023). Graph-ToolFormer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT. arXiv:2304.11116.
  • Patil, S. G. et al. (2023). Gorilla: Large Language Model Connected with Massive APIs. arXiv:2305.15334.
  • Qin, Y. et al. (2023). ToolLLM: Facilitating Large Language Models to Master 16 000+ Real-World APIs. arXiv:2307.16789.
  • Li, Y. et al. (2024). Tool Learning with Large Language Models: A Survey. arXiv:2405.17935.
  • OpenAI (2023). ChatGPT Plugins. OpenAI Blog.
  • Brown, T. B. et al. (2020). Language Models Are Few-Shot Learners. arXiv:2005.14165.
  • Schick, T. et al. (2023). Meta AI & UPF's Toolformer: Enabling Language Models to Teach Themselves to Use External Tools. Synced Review.

টীকা

  1. 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 Schick, T. et al. «Meta AI & UPF's Toolformer: Enabling Language Models to Teach Themselves to Use External Tools». Synced. [১]
  2. Schick, T. et al. «Toolformer: Language Models Can Teach Themselves to Use Tools». OpenReview. [২]
  3. 3.0 3.1 3.2 3.3 3.4 3.5 3.6 Schick, T. et al. «Toolformer: Language Models Can Teach Themselves to Use Tools». arXiv. [৩]
  4. 4.0 4.1 4.2 4.3 4.4 4.5 4.6 4.7 4.8 OXEN AI. «Arxiv Dives Toolformer: Language models can teach themselves to use tools». Medium. [৪]
  5. «Toolformer: Language Models Can Teach Themselves to Use Tools». Papers With Code. [৫]
  6. Brown, Tom B. et al. «Language Models are Few-Shot Learners». arXiv. [৬]
  7. Zhang, Tingkai et al. «Graph-ToolFormer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT». arXiv. [৭]
  8. 8.0 8.1 8.2 Patil, Shishir G. et al. «Gorilla: Large Language Model Connected with Massive APIs». arXiv. [৮]
  9. 9.0 9.1 «ChatGPT plugins». OpenAI. [৯]