---
title: "Temperature (LLM) (VI)"
source: "https://systems-analysis.info/int/Temperature_(LLM)_(VI)"
wiki: "systems-analysis.info/int"
article: "Temperature_(LLM)_(VI)"
language: "vi"
categories:
  - "Category:Core LLM concepts"
  - "Category:Large language models"
  - "Category:LLM core concepts"
  - "Category:Machine learning"
  - "Category:Vietnamese"
revision_id: 7863
wiki_created_at: 2026-09-07T01:08:07Z
wiki_modified_at: 2026-09-07T01:08:07Z
downloaded_at: 2026-09-07T23:21:14Z
---

# Temperature (LLM) (VI)

**Nhiệt độ** (tiếng Anh: Temperature) trong ngữ cảnh của các mô hình ngôn ngữ lớn (LLM) là một siêu tham số kiểm soát mức độ ngẫu nhiên và "sáng tạo" trong quá trình sinh văn bản. Nó điều chỉnh độ "sắc nét" hoặc ngược lại, độ "mượt mà" của phân phối xác suất token tiếp theo ở mỗi bước giải mã. Bằng cách điều chỉnh nhiệt độ, có thể kiểm soát sự cân bằng giữa tính dự đoán được (tính mạch lạc) và sự đa dạng (tính sáng tạo) của văn bản được sinh ra.

## Giải thích đơn giản

**Nhiệt độ** là tham số xác định **mức độ thận trọng hay ngược lại, mức độ tự do của mô hình khi chọn từ tiếp theo**. Một mô hình ngôn ngữ lớn hầu như không bao giờ chỉ có một cách tiếp tục duy nhất: thông thường ở mỗi bước có nhiều lựa chọn phù hợp, mỗi lựa chọn có xác suất riêng. Nhiệt độ không ảnh hưởng đến bản thân kiến thức của mô hình hay những gì nó "biết", mà ảnh hưởng đến **cách nó lựa chọn** giữa các lựa chọn đó trong quá trình sinh.

Khi **nhiệt độ thấp**, mô hình hoạt động thận trọng hơn. Nó "tin tưởng" nhiều hơn vào các từ có xác suất cao nhất và ít đi chệch khỏi cách tiếp tục được kỳ vọng nhất. Kết quả là văn bản thường trở nên đều đặn hơn, dự đoán được hơn, đúng về mặt hình thức và nhất quán hơn. Chế độ này hữu ích trong các trường hợp cần độ chính xác trong cách diễn đạt, tính ổn định của câu trả lời, khả năng tái tạo kết quả và giảm thiểu sự biến đổi không cần thiết. Tuy nhiên, cách tiếp cận này cũng có mặt trái: văn bản có thể trở nên quá rập khuôn, khô khan, đơn điệu và đôi khi quá "thận trọng". Khi nhiệt độ quá thấp, mô hình thậm chí có thể bắt đầu lặp đi lặp lại những cấu trúc giống nhau vô hạn (rơi vào vòng lặp), "mắc kẹt" ở những cách tiếp tục có xác suất cao nhất nhưng không phải lúc nào cũng phù hợp.

Khi **nhiệt độ cao**, mô hình hoạt động táo bạo hơn. Nó thường xuyên cho phép lựa chọn không chỉ các từ có xác suất cao nhất mà còn các từ ít rõ ràng hơn. Nhờ đó, các câu trả lời trở nên đa dạng hơn, sinh động hơn, độc đáo hơn và đôi khi độc lạ hơn. Điều này có thể hữu ích trong các nhiệm vụ sáng tạo, brainstorming, tạo ý tưởng, văn bản nghệ thuật hoặc tìm kiếm nhiều cách diễn đạt khác nhau. Nhưng cùng với sự gia tăng đa dạng, rủi ro cũng tăng lên: văn bản có thể trở nên kém mạch lạc hơn, kém chính xác hơn, và trong trường hợp cực đoan — kỳ lạ, phi logic hoặc ngẫu nhiên.

Một cách hiểu trực quan tiện lợi là nhiệt độ không phải là **bộ điều chỉnh kiến thức mà là bộ điều chỉnh rủi ro khi lựa chọn từ**. Nhiệt độ thấp khiến mô hình hầu như luôn chọn lựa chọn "an toàn nhất". Nhiệt độ cao — cho phép nó thường xuyên hơn "mạo hiểm" và thử các cách tiếp tục ít rõ ràng hơn.

Một hình ảnh hữu ích khác: nhiệt độ có thể so sánh với cách một người trả lời câu hỏi. Nếu cần một câu trả lời chính thức, chính xác và cẩn thận, người ta thường chọn những cách diễn đạt trung tính và được kỳ vọng nhất — điều này giống như nhiệt độ thấp. Nếu nhiệm vụ là nghĩ ra một ý tưởng độc đáo, ẩn dụ, tình tiết câu chuyện hay một vài lựa chọn không theo lối mòn, cách diễn đạt trở nên tự do và táo bạo hơn — điều này giống như nhiệt độ cao.

Như vậy, nhiệt độ chịu trách nhiệm về sự cân bằng giữa hai thuộc tính của quá trình sinh:

- **tính dự đoán được và tính ổn định** của câu trả lời;
- **sự đa dạng và bất ngờ** trong cách diễn đạt.

Nhiệt độ càng thấp, mô hình càng gần với cách tiếp tục có xác suất cao nhất và chuẩn mực nhất. Nhiệt độ càng cao, không gian cho sự biến đổi càng lớn, nhưng kiểm soát tính nghiêm ngặt và mạch lạc của kết quả càng yếu.

## Định nghĩa lý thuyết

Về mặt toán học, nhiệt độ ($T$) được đưa vào như một ước số trong hàm **softmax**, hàm này chuyển đổi các logit đầu ra của mô hình ($u_{i}$) thành phân phối xác suất ($P_{i}$). Công thức như sau:

$P_{i}^{(T)} = \frac{e^{u_{i}/T}}{\sum\limits_{j}e^{u_{j}/T}}$

Trong đó:

- $P_{i}^{(T)}$ — xác suất cuối cùng của token thứ $i$ ở nhiệt độ $T$.
- $u_{i}$ — logit (điểm đánh giá chưa chuẩn hóa) cho token thứ $i$, do mô hình tạo ra.
- $T$ — tham số nhiệt độ (số dương nghiêm ngặt). Ví dụ, trong API OpenAI đối với hầu hết các mô hình, phạm vi cho phép là từ 0 đến 2.0, trong đó 0 là trường hợp đặc biệt của greedy decoding (xem bên dưới). Trong các thư viện khác (Hugging Face Transformers, llama.cpp), nhiệt độ có thể nhận bất kỳ giá trị dương nào.

**Lưu ý quan trọng:** nhiệt độ chỉ ảnh hưởng đến đầu ra **trong các chế độ có sampling**. Trong các chế độ không có sampling (greedy decoding, beam search cổ điển), tham số nhiệt độ không có tác dụng. Ví dụ, trong Hugging Face Transformers, để nhiệt độ hoạt động, cần bật `do_sample=True`.

### Ảnh hưởng của giá trị nhiệt độ

- **$T = 1$ (giá trị tiêu chuẩn):** Phân phối xác suất không thay đổi. Đây là softmax tiêu chuẩn phản ánh các dự đoán gốc của mô hình.
- **$T < 1$ (nhiệt độ thấp, ví dụ $0.2$ – $0.7$):** Phân phối trở nên **sắc nét** hơn hoặc **nhọn đỉnh** hơn. Xác suất của các token có xác suất cao nhất tăng lên, còn xác suất của các token ít có khả năng — giảm xuống. Điều này làm cho quá trình sinh xác định hơn và dự đoán được hơn. Mô hình thường xuyên hơn chọn các từ rõ ràng, tần suất cao, điều này làm tăng tính mạch lạc và đúng ngữ pháp của văn bản, nhưng giảm sự đa dạng của nó.
- **$T > 1$ (nhiệt độ cao, ví dụ $1.1$ – $1.5$):** Phân phối trở nên **mượt mà** hơn hoặc **đều** hơn. Sự chênh lệch giữa xác suất của các token được làm phẳng, làm tăng khả năng chọn các token ít có xác suất hơn (và "bất ngờ" hơn). Điều này làm cho văn bản sáng tạo hơn, đa dạng hơn và khó đoán hơn, nhưng làm tăng nguy cơ sinh ra các cụm từ không mạch lạc hoặc sai ngữ pháp.

### Các trường hợp biên

- **$T \rightarrow 0$:** Ở giới hạn, khi nhiệt độ tiến về không, hàm softmax biến thành argmax. Mô hình sẽ luôn chọn token có logit cao nhất. Chế độ này tương đương với **giải mã tham lam (greedy decoding)** và hoàn toàn có tính xác định. Nó thường dẫn đến văn bản lặp đi lặp lại và rập khuôn. **Lưu ý:** giá trị $T = 0$ không thể thay trực tiếp vào công thức (chia cho không); trong nhiều triển khai, nó được xử lý như một chế độ đặc biệt của lựa chọn bảo thủ tối đa, gần với greedy decoding. Đồng thời, không phải tất cả các hosted API đều đảm bảo tính xác định hoàn toàn tại $T = 0$ — ví dụ, trong Anthropic API ngay cả ở nhiệt độ không, kết quả có thể thay đổi không đáng kể.
- **$T \rightarrow \infty$:** Khi nhiệt độ tiến về vô cực, phân phối xác suất trở nên **đều**. Tất cả các token trong từ điển trở nên có xác suất bằng nhau, và mô hình sinh ra một "dòng ý thức" ngẫu nhiên, hoàn toàn mất tính mạch lạc. Trong thực tế, vô cực là không cần thiết: ngay cả ở $T > 2.0$, phân phối trở nên gần như đều, và văn bản biến thành một tập hợp token không mạch lạc.

## Ứng dụng thực tế và khuyến nghị

Việc lựa chọn nhiệt độ đúng đắn là cực kỳ quan trọng và phụ thuộc vào nhiệm vụ cụ thể. Các phạm vi dưới đây là **các quy tắc thực nghiệm thô** — các giá trị tối ưu có thể khác nhau đáng kể tùy thuộc vào mô hình, lĩnh vực và nhiệm vụ cụ thể.

- **Đối với các nhiệm vụ sáng tạo** (viết truyện, thơ, khẩu hiệu marketing):
  - Khuyến nghị **nhiệt độ cao hơn ($T \approx 0.7 - 1.2$)**.
  - Điều này khuyến khích mô hình sinh ra các ý tưởng bất ngờ và sáng tạo hơn, sử dụng vốn từ vựng đa dạng và tránh các cụm từ rập khuôn.

<!-- -->

- **Đối với các nhiệm vụ yêu cầu độ chính xác và tính thực tế** (trả lời câu hỏi, tóm tắt, sinh mã):
  - Khuyến nghị **nhiệt độ thấp ($T \approx 0.0 - 0.4$)**.
  - Điều này giảm sự biến đổi và tăng khả năng tái tạo kết quả, buộc mô hình bám sát các cách tiếp tục có xác suất cao nhất. Tại $T = 0$, quá trình sinh trở nên xác định (với seed cố định và không có các nguồn ngẫu nhiên khác), điều này hữu ích cho việc kiểm thử và gỡ lỗi, nhưng có thể che giấu các vấn đề chỉ xuất hiện khi sampling. Tuy nhiên, nhiệt độ thấp bản thân nó **không đảm bảo độ chính xác thực tế** — nếu mô hình không có kiến thức cần thiết, nó có thể tự tin sinh ra câu trả lời sai. Để đạt tính thực tế tối đa, khuyến nghị kết hợp nhiệt độ thấp với các phương pháp tìm kiếm trong cơ sở kiến thức (RAG) và prompting được cải thiện. Trong tài liệu OpenAI, đối với các nhiệm vụ trích xuất dữ liệu và trả lời thực tế, khuyến nghị $T = 0$.

<!-- -->

- **Đối với các nhiệm vụ reasoning, toán học và sinh mã:**
  - Thông thường sử dụng **nhiệt độ thấp hơn**, tuy nhiên giá trị tối ưu phụ thuộc đáng kể vào mô hình và nhiệm vụ cụ thể.
  - **Lưu ý:** trong một số mô hình reasoning (ví dụ dòng OpenAI o1/o3), các tham số sampling có thể bị **giới hạn hoặc cố định** ở phía nhà cung cấp. Chain-of-thought nội bộ yêu cầu phân phối ổn định, do đó các nhà cung cấp có thể hoàn toàn chặn việc thay đổi nhiệt độ hoặc chỉ chấp nhận giá trị người dùng trong phạm vi hẹp.

<!-- -->

- **Đối với các hệ thống hội thoại và chatbot:**
  - Khuyến nghị **nhiệt độ vừa phải ($T \approx 0.5 - 0.8$)**.
  - Điều này cho phép tìm sự cân bằng: các câu trả lời vẫn mạch lạc và đúng chủ đề, nhưng đồng thời không trở nên quá khô khan và đơn điệu.

**Lưu ý:** trong tài liệu OpenAI API khuyến nghị thay đổi **hoặc** temperature, **hoặc** top_p, nhưng **không cả hai tham số cùng lúc** — nếu không, hành vi trở nên khó đoán. Trong các ví dụ tham khảo của OpenAI API, $T = 1.0$ thường được sử dụng làm giá trị mặc định.

## So sánh với Top-k và Top-p

Nhiệt độ, không giống như các phương pháp cắt tỉa như **Top-k** và **Top-p (nucleus sampling)**, hoạt động theo cách khác:

- **Nhiệt độ** **phân phối lại** xác suất giữa tất cả các token trong từ điển, nhưng **không loại bỏ** bất kỳ token nào trong số chúng. Ngay cả ở nhiệt độ rất thấp, các token ít có xác suất vẫn có cơ hội được chọn nhỏ nhoi nhưng khác không.
- **Top-k** và **Top-p** đưa ra **sự cắt tỉa cứng**, loại trừ hoàn toàn các token không nằm trong nhân của mẫu. Việc cắt tỉa như vậy làm giảm nguy cơ chọn các token đuôi, nhưng bản thân nó là một heuristic thô và có thể loại bỏ các cách tiếp tục có xác suất "thực" khác không.

Trong thực tế, các tham số này thường được sử dụng kết hợp. Ví dụ, có thể đặt nhiệt độ vừa phải (ví dụ $T = 0.8$) cho phong cách chung và thêm Top-p (ví dụ $p = 0.9$) để cắt bỏ "đuôi" phân phối và giảm nguy cơ mắc lỗi nghiêm trọng. Ở nhiệt độ rất thấp ($T \rightarrow 0$), Top-p thực tế mất ý nghĩa, vì phân phối dù sao cũng chỉ có một đỉnh đáng kể.

## Tương tác của nhiệt độ với các tham số giải mã khác

Nhiệt độ hầu như không bao giờ được sử dụng đơn lẻ. Trong thực tế, nó được kết hợp với các siêu tham số khác để tinh chỉnh sự cân bằng "sáng tạo ↔ độ tin cậy".

### Thứ tự áp dụng tham số thông thường

Trong các triển khai sampling phổ biến (đặc biệt là Hugging Face Transformers), các tham số thường được áp dụng theo thứ tự sau:

1.  Mô hình tạo ra **logit thô** ($u_{i}$).
2.  Áp dụng **phạt lặp lại** (repetition / frequency / presence penalty) — thay đổi logit dựa trên các token đã được sinh.
3.  **Nhiệt độ** thu nhỏ logit: $u_{i}/T$.
4.  Áp dụng **softmax** → thu được phân phối xác suất mới.
5.  **Cắt tỉa (truncation):** trước tiên Top-k (nếu được đặt), sau đó Top-p hoặc Min-p.
6.  Từ "nhân" còn lại, thực hiện **lấy mẫu ngẫu nhiên** (sampling).

Trong sơ đồ điển hình này, nhiệt độ thay đổi hình dạng phân phối **sau** khi áp dụng phạt lặp lại, nhưng **trước** softmax và lọc. Do đó, cùng một $top\_ p = 0.9$ tại $T = 0.2$ và tại $T = 1.5$ cho kích thước "nhân" hoàn toàn khác nhau. Phạt và nhiệt độ tương tác phi tuyến — điều quan trọng cần tính đến khi chọn tham số. Thứ tự áp dụng nội bộ trong các hosted API (OpenAI, Anthropic) không được ghi lại công khai ở mức độ chi tiết như vậy.

### Top-p (nucleus sampling) và Min-p

**Min-p** (minimum probability sampling) — một phương pháp cắt tỉa tương đối mới, đặt ngưỡng xác suất tối thiểu so với token có xác suất cao nhất (thường là 0.05–0.1). Không giống như Top-p, nó cắt tỉa token theo ngưỡng tương đối (gắn với xác suất của token tốt nhất, không phải theo khối lượng tích lũy cố định), điều này đặc biệt hiệu quả ở nhiệt độ cao (\>0.8): ngăn chặn việc chọn các token hoàn toàn không phù hợp mà không làm giảm đáng kể sự đa dạng. Min-p được hỗ trợ bởi một số inference stack mã nguồn mở phổ biến, bao gồm vLLM và llama.cpp.

### Repetition / Frequency / Presence penalty

Frequency_penalty và presence_penalty (OpenAI API) làm giảm xác suất lặp lại các token đã xuất hiện. Chúng có thể bù đắp một trong những nhược điểm của nhiệt độ thấp — xu hướng rập khuôn và vòng lặp.

### Typical sampling và Mirostat

Typical sampling (Meister et al., 2023) chọn các token có xác suất gần với entropy "kỳ vọng" của ngữ cảnh. Mirostat (v2) tự động điều chỉnh các tham số cắt tỉa để perplexity mục tiêu duy trì không đổi — điều này hữu ích cho các văn bản dài, nơi tính ổn định của phong cách là quan trọng.

### Ví dụ minh họa về cấu hình

Dưới đây là các cấu hình **ví dụ** cho các loại nhiệm vụ khác nhau. Những giá trị này không phải là khuyến nghị mục đích chung — các tham số tối ưu phụ thuộc vào mô hình cụ thể, nhiệm vụ và inference stack.

| Nhiệm vụ                     | Nhiệt độ | Kết hợp có thể                      | Logic                              |
|------------------------------|----------|-------------------------------------|------------------------------------|
| Factual Q&A, tóm tắt         | 0.0–0.3  | T + top_p=0.9                       | Giảm thiểu biến đổi ngẫu nhiên     |
| Sinh mã, toán học            | 0.1–0.4  | T + repetition_penalty              | Tính ổn định + tránh vòng lặp      |
| Hội thoại / chatbot          | 0.6–0.85 | T + top_p=0.92 hoặc min_p=0.1       | Cân bằng tính tự nhiên và mạch lạc |
| Sáng tạo (truyện, marketing) | 0.75–1.1 | T + min_p=0.07–0.1                  | Đa dạng với lọc đuôi               |
| Long-form / tác nhân         | 0.5–0.8  | Mirostat hoặc T + frequency_penalty | Kiểm soát độ dài và mạch lạc       |

**Lời khuyên chung:** không nên thay đổi mạnh cả temperature và top_p cùng lúc. Thông thường, thuận tiện hơn khi cố định một trong các tham số truncation và quản lý tính sáng tạo bằng nhiệt độ — điều này làm cho hành vi của mô hình dễ đoán hơn.

**Đặc điểm của các mô hình aligned hiện đại:** trong các mô hình được căn chỉnh mạnh (đã qua RLHF / Constitutional AI / RLAIF), tác động của nhiệt độ cao bị suy giảm so với các mô hình cơ sở — mô hình ít khi sinh ra văn bản không mạch lạc ngay cả tại $T = 1.2$. Các giá trị tối ưu cụ thể có thể thay đổi với sự ra đời của các thế hệ mô hình mới; các khuyến nghị trên đây phù hợp tính đến năm 2025–2026.

## Tài liệu tham khảo

- Holtzman, A. et al. (2020). *The Curious Case of Neural Text Degeneration*. arXiv:1904.09751.
- Caccia, M. et al. (2018). *Language GANs Falling Short*. arXiv:1811.02549.
- Fan, A. et al. (2018). *Hierarchical Neural Story Generation*. arXiv:1805.04833.
- Meister, C. et al. (2023). *Locally Typical Sampling*. arXiv:2202.00666.
- Hewitt, J.; Manning, C.; Liang, P. (2022). *Truncation Sampling as Language Model Desmoothing*. arXiv:2210.15191.
- Su, Y.; Collier, N. (2022). *Contrastive Search Is What You Need for Neural Text Generation*. arXiv:2210.14140.
- O'Brien, S.; Lewis, M. (2023). *Contrastive Decoding Improves Reasoning in Large Language Models*. arXiv:2309.09117.
- Finlayson, M. et al. (2023). *Closing the Curious Case of Neural Text Degeneration*. arXiv:2310.01693.
- Shi, C. et al. (2024). *A Thorough Examination of Decoding Methods in the Era of Large Language Models*. arXiv:2402.06925.
- Ravfogel, S. et al. (2023). *Conformal Nucleus Sampling*. arXiv:2305.02633.
- Sen, J. et al. (2025). *Advancing Decoding Strategies: Enhancements in Locally Typical Sampling for LLMs*. arXiv:2506.05387.
- Basu, S. et al. (2021). *Mirostat: A Perplexity-Controlled Neural Text Decoding Algorithm*. arXiv:2007.14966.
- Nguyen, M. N. et al. (2025). *Turning Up the Heat: Min-p Sampling for Diverse and High-Quality Text Generation*. arXiv:2407.01082.
- Renze, M.; Guven, E. (2024). *The Effect of Sampling Temperature on Problem Solving in Large Language Models*. arXiv:2402.05201.
- Zhang, S. et al. (2024). *EDT: Improving Large Language Models' Generation by Entropy-based Dynamic Temperature Sampling*. arXiv:2403.14541.
- Li, L. et al. (2025). *Exploring the Impact of Temperature on Large Language Models: Hot or Cold?*. arXiv:2506.07295.

## Xem thêm

- Mô hình ngôn ngữ lớn