← 返回函数库
采样 / 解码
Top-p(Nucleus)
累积概率前 p 的最小集合内采样
比 top-k 自适应:按概率从大到小累加,直到累计 ≥ p(如 0.9),只在这个集合内采样。难的位置候选多,简单的位置候选少。
参数
| 名称 | 类型 | 说明 |
|---|---|---|
| p | float | 累积概率阈值(如 0.9) |
Python 实现
下面是教学用的最小实现,目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python