← 返回函数库
采样 / 解码
Top-k 采样
只在概率最高的 k 个候选里采样
采样时先丢掉概率小的尾巴，只在 top-k 里按归一化概率抽。避免"长尾乱说"。
参数
| 名称 | 类型 | 说明 |
|---|---|---|
| k | int | 保留的候选数（如 40） |
Python 实现
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python
采样时先丢掉概率小的尾巴，只在 top-k 里按归一化概率抽。避免"长尾乱说"。
| 名称 | 类型 | 说明 |
|---|---|---|
| k | int | 保留的候选数（如 40） |
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。