← 返回函数库
采样 / 解码

Top-p(Nucleus)

累积概率前 p 的最小集合内采样

比 top-k 自适应:按概率从大到小累加,直到累计 ≥ p(如 0.9),只在这个集合内采样。难的位置候选多,简单的位置候选少。

参数

名称类型说明
pfloat累积概率阈值(如 0.9)

Python 实现

下面是教学用的最小实现,目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。

python

同类函数