← 返回函数库
采样 / 解码
Temperature Scaling
p_T = softmax(logits / T)
采样前先把 logits 除以温度 T。T→0 → 接近 argmax(确定);T 大 → 分布变平(更随机)。
参数
| 名称 | 类型 | 说明 |
|---|---|---|
| T | float | 温度,常用 0.7–1.2 |
Python 实现
下面是教学用的最小实现,目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python
在计算器里试试
打开底部工具栏的「计算器」,把下面这个表达式贴进表达式输入框,拖动参数滑块看曲线变化:
exp(x/T) / (exp(x/T) + 1)
含 T 滑块