温度参数（Temperature）调节原理与效果归纳总结

温度参数，说白了就是控制模型“敢不敢冒险”的那个旋钮。

刚入行那会儿，我一直以为这东西就是个“随机性开关”——开大一点输出就乱，开小一点就死板。直到有一次做对话生成，客户非要模型既保持事实准确、又能偶尔蹦出点幽默感——调了整整三天温度，才真正搞明白它到底在干嘛。

核心原理：从 softmax 说起

你想想看，Transformer 最后一步输出的是 logits（未归一化的分数）。要想变成概率，得走 softmax：

P(i) = exp(z_i / T) / Σ_j exp(z_j / T)

这里 T 就是温度。T 越大，exp 曲线越平缓，原来差距很大的分数被“压缩”了，高概率的 token 没那么突出，低概率的 token 也有了机会。反过来，T 越小（比如 0.5），高分 token 的优势被放大，模型几乎只选最有把握的那一个。

我用一个具体例子帮你理解。假设 logits 是 [2.0, 1.0, 0.1]：

温度 (T)概率分布效果
T=0.5[0.79, 0.19, 0.02]几乎只选 token 1
T=1.0[0.66, 0.24, 0.10]标准 softmax，略有偏向
T=2.0[0.45, 0.30, 0.25]分布很均匀，随机性强
T=5.0[0.36, 0.33, 0.31]接近均匀随机，几乎无意义

核心规律：T → 0 退化为贪心搜索（只有最高概率 token 被选）；T → ∞ 退化为均匀随机采样。实际有用的范围在 0.3 ~ 1.5 之间。

我踩过的坑：温度和重复惩罚的冲突

曾经我有一个项目，做古诗生成。我设了 T=0.8，觉得输出应该既有诗意又不太跑偏。结果模型第一句还行，后面开始疯狂重复同一个韵脚。为什么？因为温度降低了尾部概率，top-k 截断后剩下的那几个高概率 token 互相竞争，但 repetition penalty 没跟上——惩罚都被温度“抹平”了。

从那以后我养成了一个习惯：调温度的时候一定要把 repetition_penalty 也同步检查。如果 T 偏低，适当增大 penalty；如果 T 偏高，penalty 可以放松一些。

实战代码：HuggingFace 中的 temperature 参数

你用的 Transformers 库，generate() 函数里直接传参数就行：

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("gpt2")
tokenizer = AutoTokenizer.from_pretrained("gpt2")

inputs = tokenizer("机器学习的关键是", return_tensors="pt")
outputs = model.generate(
    inputs.input_ids,
    temperature=0.7,          # 你调的旋钮
    do_sample=True,           # 必须开启，否则 temperature 不生效
    top_k=50,
    top_p=0.95,
    max_new_tokens=50
)
print(tokenizer.decode(outputs[0]))

警告：如果 do_sample=False，哪怕你传了 temperature=0.1，模型也不会用温度，直接走贪心解码。很多人调了半天发现没变化，就是因为忘了开采样。

温度与批次稳定性的关系

你可能觉得温度是个“纯采样参数”，跟批次稳定没关系。我刚开始也这么想。后来做批量推理的时候发现——同一个 batch 里的不同样本，如果用了不同的温度，或者 batch 内某些序列突然生成了极低概率的 token，会导致整个批次的计算不稳定（梯度爆炸、nan 乱飞）。

为什么？因为低温度会让概率分布变得“尖瘦”，softmax 反向传播时的梯度在极端位置会非常大。尤其是 T < 0.5 时，梯度的数值范围可能膨胀好几个数量级。我在训练 RLHF 的采样阶段就被这个问题坑过一次——用了 T=0.3 做对抗采样，结果 loss 直接飞了。

所以我的建议是：

  • 推理时：T < 0.3 基本不要用，除非你确认 logits 范围很小且稳定。
  • 训练时：如果采样作为模型内部操作（如 Gumbel-Softmax），T 不要低于 0.5，否则梯度容易爆炸。
  • 批处理：统一 batch 内所有样本的温度值，不要按样本动态调。

温度调节的“三步走”实践原则

  1. 定基准：先拿 T=1.0 跑一批输出，观察概率分布中 top-1 的置信度。如果普遍 > 0.8，说明模型已经够确定了，可以往上调 T 增加多样性；如果普遍 < 0.3，说明模型太随机，往下调 T。
  2. 微调步长：每次调 0.05 ~ 0.1。你想想看，温度对结果的影响是指数级的——从 1.0 到 0.8 的变化，比从 0.8 到 0.6 的变化小很多。
  3. 验证分布：生成 100 条样本，统计输出 token 的熵值。如果熵值接近 log(V)（V 是词表大小），说明接近均匀随机，T 太高了；如果熵值接近 0，说明太贪心。
import torch
import torch.nn.functional as F

logits = torch.tensor([[2.0, 1.0, 0.1]])
entropy_original = - (F.softmax(logits, dim=-1) * F.log_softmax(logits, dim=-1)).sum(dim=-1)
print(f"T=1.0 时的熵: {entropy_original.item():.3f}")

logits_scaled = logits / 0.7
entropy_low = - (F.softmax(logits_scaled, dim=-1) * F.log_softmax(logits_scaled, dim=-1)).sum(dim=-1)
print(f"T=0.7 时的熵: {entropy_low.item():.3f}")

小技巧：如果你在调试阶段，可以用这个熵值监控器，挂到日志里实时看。我个人习惯把温度调节和熵阈值联动——只有当熵值落在 [0.7 * log(V), 0.9 * log(V)] 范围内时，才认为温度合理。

一张图看懂温度的作用

下面这张 SVG 画出了不同温度下 softmax 概率分布的变化。横轴是 token 索引，纵轴是概率。你能清楚看到：高温把峰拉平，低温让峰更尖。

温度对 softmax 概率分布的影响 Token 索引 概率 T=0.5 T=1.0 T=2.0 T=0.5 T=1.0 T=2.0 温度越低，分布越“尖”； 温度越高，分布越“平”。

温度与其他采样策略的搭配清单

搭配策略推荐温度范围注意事项
仅 top-k0.7 ~ 1.0k 值越大，温度可以稍高
仅 top-p (nucleus)0.8 ~ 1.2p 越小，温度可稍低，防止截断太多
top-k + top-p 联合0.8 ~ 1.0我最常用的组合，兼顾质量与多样性
重复惩罚 + 温度0.6 ~ 0.9低温度时惩罚要调大，否则容易死循环
典型采样 (typical)0.8 ~ 1.2配合 mass 参数，温度可以更自由

嗯，温度参数讲到这里。你可能会问：到底怎么组合最稳？我个人的经验是，先从 top-p=0.95 + T=0.8 起步，然后在实际任务上做两轮 A/B 测试——看生成结果的 BLUE/ROUGE 指标和人工评估哪个更好。别信网上的“万能参数”，每个任务都有自己的脾气。

← 上一章 📖 返回目录 下一章 →