---
title: "Temperature (LLM) (BN)"
source: "https://systems-analysis.info/int/Temperature_(LLM)_(BN)"
wiki: "systems-analysis.info/int"
article: "Temperature_(LLM)_(BN)"
language: "bn"
categories:
  - "Category:Bengali"
  - "Category:Core LLM concepts"
  - "Category:Large language models"
  - "Category:LLM core concepts"
  - "Category:Machine learning"
revision_id: 7844
wiki_created_at: 2026-09-07T01:07:49Z
wiki_modified_at: 2026-09-07T01:07:49Z
downloaded_at: 2026-09-07T23:21:07Z
---

# Temperature (LLM) (BN)

**তাপমাত্রা** (ইংরেজি: Temperature) বৃহৎ ভাষা মডেলের (LLM) প্রসঙ্গে একটি হাইপারপ্যারামিটার, যা টেক্সট জেনারেশনের সময় এলোমেলোতা এবং "সৃজনশীলতা"-র মাত্রা নিয়ন্ত্রণ করে। এটি প্রতিটি ডিকোডিং ধাপে পরবর্তী token-এর সম্ভাব্যতা বণ্টনের "তীক্ষ্ণতা" অথবা বিপরীতভাবে "মসৃণতা" নিয়ন্ত্রণ করে। তাপমাত্রা পরিবর্তন করে জেনারেট করা টেক্সটের পূর্বানুমানযোগ্যতা (সংহতি) এবং বৈচিত্র্য (সৃজনশীলতা)-র মধ্যে ভারসাম্য নিয়ন্ত্রণ করা যায়।

## সহজ ব্যাখ্যা

**তাপমাত্রা** হলো এমন একটি প্যারামিটার, যা নির্ধারণ করে **মডেল পরবর্তী শব্দ বেছে নেওয়ার সময় কতটা সতর্কভাবে বা বিপরীতভাবে কতটা স্বাধীনভাবে কাজ করে**। একটি বৃহৎ ভাষা মডেলের ক্ষেত্রে প্রায় কখনোই একটিমাত্র সম্ভাব্য ধারাবাহিকতা থাকে না: সাধারণত প্রতিটি ধাপে একাধিক উপযুক্ত বিকল্প থাকে, এবং প্রতিটির নিজস্ব সম্ভাব্যতা থাকে। তাপমাত্রা মডেলের জ্ঞানকে বা "সে কী জানে" তাকে প্রভাবিত করে না, বরং জেনারেশনের সময় এই বিকল্পগুলির মধ্যে **সে ঠিক কীভাবে বেছে নেয়** তা নির্ধারণ করে।

**কম তাপমাত্রায়** মডেল আরও রক্ষণশীলভাবে আচরণ করে। এটি সবচেয়ে সম্ভাব্য শব্দগুলিকে বেশি "বিশ্বাস" করে এবং সবচেয়ে প্রত্যাশিত ধারাবাহিকতা থেকে কম বিচ্যুত হয়। ফলে টেক্সট সাধারণত আরও মসৃণ, পূর্বানুমানযোগ্য, আনুষ্ঠানিকভাবে সঠিক এবং ধারাবাহিক হয়। এই মোড সেখানে কার্যকর যেখানে শব্দের নির্ভুলতা, উত্তরের স্থিতিশীলতা, ফলাফলের পুনরাবৃত্তিযোগ্যতা এবং অতিরিক্ত পরিবর্তনশীলতা হ্রাস করা গুরুত্বপূর্ণ। তবে এই পদ্ধতির একটি বিপরীত দিকও আছে: টেক্সট অতিরিক্ত শাব্লনিক, শুষ্ক, একঘেয়ে এবং কখনো কখনো অত্যধিক "সতর্ক" হয়ে যেতে পারে। অতিরিক্ত কম তাপমাত্রায় মডেল একই গঠন অনবরত পুনরাবৃত্তি করতে শুরু করতে পারে (লুপে আটকে যেতে পারে), সবচেয়ে সম্ভাব্য কিন্তু সর্বদা উপযুক্ত নয় এমন ধারাবাহিকতায় "আটকে" যেতে পারে।

**উচ্চ তাপমাত্রায়** মডেল আরও সাহসীভাবে আচরণ করে। এটি কেবল সবচেয়ে সম্ভাব্য নয়, কম স্পষ্ট শব্দও বেছে নেওয়ার সুযোগ বেশি দেয়। এর ফলে উত্তরগুলি আরও বৈচিত্র্যময়, প্রাণবন্ত, অপ্রচলিত এবং কখনো কখনো আরও মৌলিক হয়ে ওঠে। এটি সৃজনশীল কাজে, মস্তিষ্কঝড়ে, ধারণা জেনারেশনে, সাহিত্যিক টেক্সটে বা বেশ কয়েকটি ভিন্ন প্রকাশভঙ্গি খোঁজার ক্ষেত্রে উপকারী হতে পারে। কিন্তু বৈচিত্র্যের সাথে সাথে ঝুঁকিও বাড়ে: টেক্সট কম সংহত, কম নির্ভুল এবং চরম ক্ষেত্রে অদ্ভুত, অযৌক্তিক বা এলোমেলো হয়ে যেতে পারে।

একটি সহজ সহজাত ধারণা হলো যে তাপমাত্রা **জ্ঞানের নিয়ন্ত্রক নয়, শব্দ বেছে নেওয়ার সময় ঝুঁকির নিয়ন্ত্রক**। কম তাপমাত্রা মডেলকে প্রায় সবসময় "সবচেয়ে নিরাপদ" বিকল্পটি বেছে নিতে বাধ্য করে। বেশি তাপমাত্রা মডেলকে আরও বেশি "ঝুঁকি নিতে" এবং কম স্পষ্ট ধারাবাহিকতা চেষ্টা করতে দেয়।

আরেকটি উপকারী উপমা: তাপমাত্রাকে একজন মানুষের প্রশ্নের উত্তর দেওয়ার পদ্ধতির সাথে তুলনা করা যায়। যদি একটি আনুষ্ঠানিক, নির্ভুল এবং সুচিন্তিত উত্তর প্রয়োজন হয়, তাহলে মানুষ সাধারণত সবচেয়ে নিরপেক্ষ এবং প্রত্যাশিত প্রকাশভঙ্গি বেছে নেয় — এটি কম তাপমাত্রার মতো। আর যদি কাজটি হয় একটি অস্বাভাবিক ধারণা, রূপক, গল্পের মোড় বা বেশ কয়েকটি অপ্রচলিত বিকল্প তৈরি করা, তাহলে প্রকাশভঙ্গি আরও স্বাধীন এবং সাহসী হয়ে ওঠে — এটি উচ্চ তাপমাত্রার মতো।

সুতরাং, তাপমাত্রা জেনারেশনের দুটি বৈশিষ্ট্যের মধ্যে ভারসাম্যের জন্য দায়ী:

- উত্তরের **পূর্বানুমানযোগ্যতা এবং স্থিতিশীলতা**;
- প্রকাশভঙ্গির **বৈচিত্র্য এবং অপ্রত্যাশিততা**।

তাপমাত্রা যত কম, মডেল সবচেয়ে সম্ভাব্য এবং মানক ধারাবাহিকতার তত কাছাকাছি। তাপমাত্রা যত বেশি, পরিবর্তনশীলতার জন্য জায়গা তত বেশি, কিন্তু ফলাফলের কঠোরতা এবং সংহতির উপর নিয়ন্ত্রণ তত দুর্বল।

## তাত্ত্বিক সংজ্ঞা

গাণিতিকভাবে, তাপমাত্রা ($T$) **softmax** ফাংশনে একটি ভাজক হিসেবে প্রবর্তিত হয়, যা মডেলের আউটপুট logit ($u_{i}$)-কে সম্ভাব্যতা বণ্টনে ($P_{i}$) রূপান্তরিত করে। সূত্রটি নিম্নরূপ:

$P_{i}^{(T)} = \frac{e^{u_{i}/T}}{\sum\limits_{j}e^{u_{j}/T}}$

যেখানে:

- $P_{i}^{(T)}$ — তাপমাত্রা $T$-এ $i$-তম token-এর চূড়ান্ত সম্ভাব্যতা।
- $u_{i}$ — $i$-তম token-এর জন্য মডেল প্রদত্ত logit (অ-নরমালাইজড মূল্যায়ন)।
- $T$ — তাপমাত্রা প্যারামিটার (কঠোরভাবে ধনাত্মক সংখ্যা)। উদাহরণস্বরূপ, OpenAI API-তে বেশিরভাগ মডেলের জন্য অনুমোদিত পরিসর 0 থেকে 2.0, যেখানে 0 হলো greedy decoding-এর বিশেষ ক্ষেত্রে (নিচে দেখুন)। অন্যান্য লাইব্রেরিতে (Hugging Face Transformers, llama.cpp) তাপমাত্রা যেকোনো ধনাত্মক মান নিতে পারে।

**গুরুত্বপূর্ণ:** তাপমাত্রা আউটপুটকে **শুধুমাত্র sampling মোডে** প্রভাবিত করে। স্যাম্পলিং ছাড়া মোডে (greedy decoding, ক্লাসিক beam search) তাপমাত্রা প্যারামিটার কোনো প্রভাব ফেলে না। উদাহরণস্বরূপ, Hugging Face Transformers-এ তাপমাত্রা কাজ করার জন্য `do_sample=True` সক্রিয় করতে হবে।

### তাপমাত্রার মানের প্রভাব

- **$T = 1$ (মানক মান):** সম্ভাব্যতা বণ্টন অপরিবর্তিত থাকে। এটি হলো মানক softmax, যা মডেলের মূল পূর্বাভাস প্রতিফলিত করে।
- **$T < 1$ (কম তাপমাত্রা, যেমন $0.2$ – $0.7$):** বণ্টন আরও **তীক্ষ্ণ** বা **শীর্ষক** হয়। সবচেয়ে সম্ভাব্য token-গুলির সম্ভাব্যতা বৃদ্ধি পায়, এবং কম সম্ভাব্যগুলির হ্রাস পায়। এটি জেনারেশনকে আরও নির্ধারণবাদী এবং পূর্বানুমানযোগ্য করে তোলে। মডেল আরও বেশি সুস্পষ্ট, উচ্চ-ফ্রিকোয়েন্সির শব্দ বেছে নেয়, যা টেক্সটের সংহতি এবং ব্যাকরণগত সঠিকতা বাড়ায়, কিন্তু এর বৈচিত্র্য কমিয়ে দেয়।
- **$T > 1$ (উচ্চ তাপমাত্রা, যেমন $1.1$ – $1.5$):** বণ্টন আরও **মসৃণ** বা **সমান** হয়। token-গুলির সম্ভাব্যতার পার্থক্য মিলে যায়, যা কম সম্ভাব্য (এবং আরও "অপ্রত্যাশিত") token বেছে নেওয়ার সুযোগ বাড়ায়। এটি টেক্সটকে আরও সৃজনশীল, বৈচিত্র্যময় এবং অপ্রত্যাশিত করে তোলে, কিন্তু অসংলগ্ন বা ব্যাকরণগতভাবে ভুল বাক্যাংশ জেনারেট হওয়ার ঝুঁকি বাড়ায়।

### সীমান্ত ক্ষেত্রসমূহ

- **$T \rightarrow 0$:** সীমায়, যখন তাপমাত্রা শূন্যের দিকে অগ্রসর হয়, softmax ফাংশন argmax-এ পরিণত হয়। মডেল সবসময় সর্বোচ্চ logit-এর token বেছে নেবে। এই মোড **লোভী ডিকোডিং (greedy decoding)**-এর সমতুল্য এবং সম্পূর্ণভাবে নির্ধারণবাদী। এটি প্রায়ই পুনরাবৃত্তিমূলক এবং শাব্লনিক টেক্সটের দিকে নিয়ে যায়। **দ্রষ্টব্য:** $T = 0$ মানটি সূত্রে সরাসরি প্রতিস্থাপন করা যায় না (শূন্য দ্বারা বিভাজন); অনেক বাস্তবায়নে এটি greedy decoding-এর কাছাকাছি সর্বাধিক রক্ষণশীল পছন্দের একটি বিশেষ মোড হিসেবে পরিচালিত হয়। তবে সকল hosted API $T = 0$-এ সম্পূর্ণ নির্ধারণবাদিতা নিশ্চিত করে না — উদাহরণস্বরূপ, Anthropic API-তে শূন্য তাপমাত্রায়ও ফলাফল সামান্য পরিবর্তিত হতে পারে।
- **$T \rightarrow \infty$:** যখন তাপমাত্রা অসীমের দিকে অগ্রসর হয়, সম্ভাব্যতা বণ্টন **সমান** হয়ে যায়। শব্দভাণ্ডারের সকল token সমান সম্ভাব্য হয়ে যায়, এবং মডেল এলোমেলো "চেতনার প্রবাহ" জেনারেট করে, সম্পূর্ণভাবে সংহতি হারায়। বাস্তবে অসীমতার প্রয়োজন নেই: $T > 2.0$-এ ইতিমধ্যে বণ্টন প্রায় সমান হয়ে যায়, এবং টেক্সট অসংলগ্ন token-এর সমষ্টিতে পরিণত হয়।

## ব্যবহারিক প্রয়োগ এবং সুপারিশসমূহ

সঠিক তাপমাত্রা বেছে নেওয়া অত্যন্ত গুরুত্বপূর্ণ এবং নির্দিষ্ট কাজের উপর নির্ভর করে। নিচে উল্লেখিত পরিসরগুলি **মোটামুটি হিউরিস্টিক** — নির্দিষ্ট মডেল, ডোমেইন এবং কাজের উপর নির্ভর করে সর্বোত্তম মান উল্লেখযোগ্যভাবে ভিন্ন হতে পারে।

- **সৃজনশীল কাজের জন্য** (গল্প, কবিতা, মার্কেটিং স্লোগান লেখা):
  - **বেশি তাপমাত্রা ($T \approx 0.7 - 1.2$)** সুপারিশ করা হয়।
  - এটি মডেলকে আরও অপ্রত্যাশিত এবং সৃজনশীল ধারণা জেনারেট করতে, বৈচিত্র্যময় শব্দভাণ্ডার ব্যবহার করতে এবং শাব্লনিক বাক্যাংশ এড়াতে উৎসাহিত করে।

<!-- -->

- **নির্ভুলতা এবং তথ্যনিষ্ঠতা প্রয়োজন এমন কাজের জন্য** (প্রশ্নের উত্তর, সারসংক্ষেপ, কোড জেনারেশন):
  - **কম তাপমাত্রা ($T \approx 0.0 - 0.4$)** সুপারিশ করা হয়।
  - এটি পরিবর্তনশীলতা কমায় এবং ফলাফলের পুনরুৎপাদনযোগ্যতা বাড়ায়, মডেলকে সবচেয়ে সম্ভাব্য টেক্সট ধারাবাহিকতায় মেনে চলতে বাধ্য করে। $T = 0$-এ জেনারেশন নির্ধারণবাদী হয় (স্থির seed এবং এলোমেলোতার অন্য কোনো উৎস না থাকলে), যা পরীক্ষা এবং ডিবাগিংয়ের জন্য উপকারী, কিন্তু sampling-এর সময় প্রকাশিত সমস্যাগুলি মুখোশ দিতে পারে। তবে কম তাপমাত্রা নিজে থেকে **তথ্যগত নির্ভুলতা নিশ্চিত করে না** — যদি মডেলের প্রয়োজনীয় জ্ঞান না থাকে, তাহলে এটি আত্মবিশ্বাসের সাথে ভুল উত্তর জেনারেট করতে পারে। সর্বাধিক তথ্যনিষ্ঠতার জন্য কম তাপমাত্রাকে জ্ঞানভাণ্ডার অনুসন্ধান পদ্ধতি (RAG) এবং উন্নত prompting-এর সাথে একত্রিত করার সুপারিশ করা হয়। OpenAI-এর ডকুমেন্টেশনে ডেটা নিষ্কাশন এবং তথ্যনিষ্ঠ উত্তরের কাজের জন্য $T = 0$ সুপারিশ করা হয়।

<!-- -->

- **Reasoning, গণিত এবং কোড জেনারেশনের কাজের জন্য:**
  - সাধারণত **কম তাপমাত্রা** ব্যবহার করা হয়, তবে নির্দিষ্ট মডেল এবং কাজের উপর নির্ভর করে সর্বোত্তম মান উল্লেখযোগ্যভাবে পরিবর্তিত হয়।
  - **দ্রষ্টব্য:** কিছু reasoning মডেলে (উদাহরণস্বরূপ, OpenAI o1/o3 পরিবার) sampling প্যারামিটারগুলি প্রদানকারীর পক্ষ থেকে **সীমিত বা স্থির** হতে পারে। অভ্যন্তরীণ chain-of-thought-এর জন্য স্থিতিশীল বণ্টন প্রয়োজন, তাই প্রদানকারীরা তাপমাত্রা পরিবর্তন সম্পূর্ণরূপে ব্লক করতে পারে বা কেবল সংকীর্ণ পরিসরে ব্যবহারকারীর মান গ্রহণ করতে পারে।

<!-- -->

- **সংলাপ সিস্টেম এবং চ্যাটবটের জন্য:**
  - **মাঝারি তাপমাত্রা ($T \approx 0.5 - 0.8$)** সুপারিশ করা হয়।
  - এটি ভারসাম্য খুঁজে পেতে সহায়তা করে: উত্তরগুলি সংহত এবং বিষয়ভিত্তিক থাকে, কিন্তু অতিরিক্ত শুষ্ক এবং একঘেয়ে হয় না।

**দ্রষ্টব্য:** OpenAI API-এর ডকুমেন্টেশনে temperature **অথবা** top_p পরিবর্তন করার সুপারিশ করা হয়, কিন্তু **একই সাথে উভয় প্যারামিটার নয়** — অন্যথায় আচরণ পূর্বাভাস দেওয়া কঠিন হয়ে পড়ে। OpenAI API-এর রেফারেন্স উদাহরণে ডিফল্ট মান হিসেবে সাধারণত $T = 1.0$ উল্লেখ থাকে।

## Top-k এবং Top-p-এর সাথে তুলনা

তাপমাত্রা, **Top-k** এবং **Top-p (nucleus sampling)**-এর মতো কাটছাঁটের পদ্ধতিগুলির তুলনায় ভিন্নভাবে কাজ করে:

- **তাপমাত্রা** শব্দভাণ্ডারের সকল token-এর মধ্যে সম্ভাব্যতা **পুনর্বিতরণ** করে, কিন্তু তাদের কাউকে **বাদ দেয় না**। অত্যন্ত কম তাপমাত্রায়ও কম সম্ভাব্য token-গুলির নির্বাচিত হওয়ার ক্ষুদ্র কিন্তু শূন্য নয় এমন সুযোগ থাকে।
- **Top-k** এবং **Top-p** **কঠোর কাটছাঁট** প্রবর্তন করে, নিউক্লিয়াস স্যাম্পলিংয়ে না পড়া token-গুলি সম্পূর্ণরূপে বাদ দেয়। এই কাটছাঁট লেজ token বেছে নেওয়ার ঝুঁকি কমায়, কিন্তু নিজেই একটি মোটামুটি হিউরিস্টিক এবং শূন্যহীন "সত্যিকারের" সম্ভাব্যতা সহ যুক্তিসঙ্গত ধারাবাহিকতা বাদ দিতে পারে।

বাস্তবে এই প্যারামিটারগুলি প্রায়ই একত্রে ব্যবহার করা হয়। উদাহরণস্বরূপ, সামগ্রিক শৈলীর জন্য মাঝারি তাপমাত্রা (যেমন $T = 0.8$) সেট করা এবং বণ্টনের "লেজ" কেটে মোটা ভুলের ঝুঁকি কমাতে Top-p (যেমন $p = 0.9$) যোগ করা যায়। অত্যন্ত কম তাপমাত্রায় ($T \rightarrow 0$) Top-p কার্যত অর্থহীন হয়ে পড়ে, কারণ বণ্টনে এমনিতেই কেবল একটি উল্লেখযোগ্য শীর্ষ থাকে।

## অন্যান্য ডিকোডিং প্যারামিটারের সাথে তাপমাত্রার মিথস্ক্রিয়া

তাপমাত্রা প্রায় কখনই বিচ্ছিন্নভাবে ব্যবহার করা হয় না। বাস্তবে "সৃজনশীলতা ↔ নির্ভরযোগ্যতা" ভারসাম্যের সূক্ষ্ম সমন্বয়ের জন্য এটি অন্যান্য হাইপারপ্যারামিটারের সাথে একত্রিত করা হয়।

### প্যারামিটার প্রয়োগের সাধারণ ক্রম

জনপ্রিয় sampling বাস্তবায়নে (বিশেষত Hugging Face Transformers) প্যারামিটারগুলি সাধারণত নিম্নলিখিত ক্রমে প্রয়োগ করা হয়:

1.  মডেল **কাঁচা logit** ($u_{i}$) তৈরি করে।
2.  **পুনরাবৃত্তির জন্য জরিমানা** (repetition / frequency / presence penalty) প্রয়োগ করা হয় — ইতিমধ্যে জেনারেট করা token-এর উপর ভিত্তি করে logit পরিবর্তন।
3.  **তাপমাত্রা** logit স্কেল করে: $u_{i}/T$।
4.  **Softmax** প্রয়োগ → নতুন সম্ভাব্যতা বণ্টন পাওয়া যায়।
5.  **কাটছাঁট (truncation):** প্রথমে Top-k (যদি নির্দিষ্ট করা থাকে), তারপর Top-p বা Min-p।
6.  অবশিষ্ট "নিউক্লিয়াস" থেকে **র‍্যান্ডম স্যাম্পলিং** (sampling) হয়।

এই সাধারণ স্কিমে তাপমাত্রা পুনরাবৃত্তির জরিমানা প্রয়োগের **পরে**, কিন্তু softmax এবং ফিল্টারিংয়ের **আগে** বণ্টনের আকার পরিবর্তন করে। তাই $T = 0.2$-এ এবং $T = 1.5$-এ একই $top\_ p = 0.9$ সম্পূর্ণ ভিন্ন আকারের "নিউক্লিয়াস" দেয়। জরিমানা এবং তাপমাত্রা অরৈখিকভাবে মিথস্ক্রিয়া করে — প্যারামিটার বাছাইয়ের সময় এটি মনে রাখা গুরুত্বপূর্ণ। Hosted API-তে (OpenAI, Anthropic) প্রয়োগের অভ্যন্তরীণ ক্রম এই স্তরের বিস্তারিততায় সর্বজনীনভাবে নথিভুক্ত নয়।

### Top-p (nucleus sampling) এবং Min-p

**Min-p** (minimum probability sampling) — তুলনামূলকভাবে নতুন একটি কাটছাঁটের পদ্ধতি, যা সবচেয়ে সম্ভাব্য token-এর তুলনায় সম্ভাব্যতার একটি নিম্ন সীমা নির্ধারণ করে (সাধারণত 0.05–0.1)। Top-p-এর বিপরীতে, এটি একটি আপেক্ষিক সীমার উপর ভিত্তি করে token কাটে (সেরা token-এর সম্ভাব্যতার সাথে সংযুক্ত, স্থির ক্রমসঞ্চিত ভরের নয়), যা উচ্চ তাপমাত্রায় (\>0.8) বিশেষভাবে কার্যকর: বৈচিত্র্যের উল্লেখযোগ্য ক্ষতি ছাড়াই সম্পূর্ণ অনুপযুক্ত token নির্বাচন প্রতিরোধ করে। Min-p vLLM এবং llama.cpp সহ বেশ কয়েকটি জনপ্রিয় open-source inference স্ট্যাক দ্বারা সমর্থিত।

### Repetition / Frequency / Presence penalty

Frequency_penalty এবং presence_penalty (OpenAI API) ইতিমধ্যে দেখা token-এর পুনরাবৃত্তির সম্ভাব্যতা কমায়। তারা কম তাপমাত্রার একটি ত্রুটি — শাব্লনিকতা এবং লুপে আটকে যাওয়ার প্রবণতা — পূরণ করতে পারে।

### Typical sampling এবং Mirostat

Typical sampling (Meister et al., 2023) এমন token বেছে নেয় যার সম্ভাব্যতা প্রসঙ্গের "প্রত্যাশিত" এনট্রপির কাছাকাছি। Mirostat (v2) গতিশীলভাবে কাটছাঁটের প্যারামিটার সামঞ্জস্য করে যাতে লক্ষ্য perplexity ধ্রুবক থাকে — এটি দীর্ঘ টেক্সটের জন্য উপকারী যেখানে শৈলীর স্থিতিশীলতা গুরুত্বপূর্ণ।

### দৃষ্টান্তমূলক কনফিগারেশন উদাহরণ

নিচে বিভিন্ন ধরনের কাজের জন্য **আনুমানিক** কনফিগারেশন দেওয়া হয়েছে। এই মানগুলি সাধারণ উদ্দেশ্যের সুপারিশ নয় — সর্বোত্তম প্যারামিটারগুলি নির্দিষ্ট মডেল, কাজ এবং inference স্ট্যাকের উপর নির্ভর করে।

| কাজ                      | তাপমাত্রা | সম্ভাব্য সমন্বয়                      | যুক্তি                          |
|--------------------------|----------|-----------------------------------|-------------------------------|
| Factual Q&A, সারসংক্ষেপ   | 0.0–0.3  | T + top_p=0.9                     | এলোমেলো পরিবর্তনশীলতা হ্রাস     |
| কোড জেনারেশন, গণিত       | 0.1–0.4  | T + repetition_penalty            | স্থিতিশীলতা + লুপ এড়ানো         |
| সংলাপ / চ্যাটবট           | 0.6–0.85 | T + top_p=0.92 বা min_p=0.1       | স্বাভাবিকতা এবং সংহতির ভারসাম্য |
| সৃজনশীলতা (গল্প, মার্কেটিং) | 0.75–1.1 | T + min_p=0.07–0.1                | লেজ ফিল্টারিং সহ বৈচিত্র্য       |
| Long-form / এজেন্ট        | 0.5–0.8  | Mirostat বা T + frequency_penalty | দৈর্ঘ্য এবং সংহতির নিয়ন্ত্রণ      |

**সাধারণ পরামর্শ:** temperature এবং top_p একই সাথে বেশি পরিবর্তন করা উচিত নয়। সাধারণত একটি truncation প্যারামিটার স্থির রেখে তাপমাত্রা দিয়ে সৃজনশীলতা নিয়ন্ত্রণ করা বেশি সুবিধাজনক — এটি মডেলের আচরণ আরও পূর্বানুমানযোগ্য করে তোলে।

**আধুনিক aligned মডেলের বৈশিষ্ট্য:** দৃঢ়ভাবে সমন্বিত মডেলগুলিতে (RLHF / Constitutional AI / RLAIF-প্রশিক্ষিত) উচ্চ তাপমাত্রার প্রভাব মূল মডেলগুলির তুলনায় দুর্বল — $T = 1.2$-এও মডেল কম বিচ্ছিন্ন টেক্সট জেনারেট করে। নির্দিষ্ট সর্বোত্তম মানগুলি নতুন প্রজন্মের মডেলের সাথে পরিবর্তিত হতে পারে; উপরে দেওয়া সুপারিশগুলি 2025–2026 সাল পর্যন্ত প্রযোজ্য।

## সাহিত্য

- Holtzman, A. et al. (2020). *The Curious Case of Neural Text Degeneration*. arXiv:1904.09751.
- Caccia, M. et al. (2018). *Language GANs Falling Short*. arXiv:1811.02549.
- Fan, A. et al. (2018). *Hierarchical Neural Story Generation*. arXiv:1805.04833.
- Meister, C. et al. (2023). *Locally Typical Sampling*. arXiv:2202.00666.
- Hewitt, J.; Manning, C.; Liang, P. (2022). *Truncation Sampling as Language Model Desmoothing*. arXiv:2210.15191.
- Su, Y.; Collier, N. (2022). *Contrastive Search Is What You Need for Neural Text Generation*. arXiv:2210.14140.
- O'Brien, S.; Lewis, M. (2023). *Contrastive Decoding Improves Reasoning in Large Language Models*. arXiv:2309.09117.
- Finlayson, M. et al. (2023). *Closing the Curious Case of Neural Text Degeneration*. arXiv:2310.01693.
- Shi, C. et al. (2024). *A Thorough Examination of Decoding Methods in the Era of Large Language Models*. arXiv:2402.06925.
- Ravfogel, S. et al. (2023). *Conformal Nucleus Sampling*. arXiv:2305.02633.
- Sen, J. et al. (2025). *Advancing Decoding Strategies: Enhancements in Locally Typical Sampling for LLMs*. arXiv:2506.05387.
- Basu, S. et al. (2021). *Mirostat: A Perplexity-Controlled Neural Text Decoding Algorithm*. arXiv:2007.14966.
- Nguyen, M. N. et al. (2025). *Turning Up the Heat: Min-p Sampling for Diverse and High-Quality Text Generation*. arXiv:2407.01082.
- Renze, M.; Guven, E. (2024). *The Effect of Sampling Temperature on Problem Solving in Large Language Models*. arXiv:2402.05201.
- Zhang, S. et al. (2024). *EDT: Improving Large Language Models' Generation by Entropy-based Dynamic Temperature Sampling*. arXiv:2403.14541.
- Li, L. et al. (2025). *Exploring the Impact of Temperature on Large Language Models: Hot or Cold?*. arXiv:2506.07295.

## আরও দেখুন

- বৃহৎ ভাষা মডেল