← 返回函数库
采样 / 解码

Temperature Scaling

p_T = softmax(logits / T)

采样前先把 logits 除以温度 T。T→0 → 接近 argmax(确定);T 大 → 分布变平(更随机)。

参数

名称类型说明
Tfloat温度,常用 0.7–1.2

Python 实现

下面是教学用的最小实现,目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。

python

在计算器里试试

打开底部工具栏的「计算器」,把下面这个表达式贴进表达式输入框,拖动参数滑块看曲线变化:

exp(x/T) / (exp(x/T) + 1)

含 T 滑块

同类函数