← 返回函数库
采样 / 解码
Beam Search
保留 top-b 个候选序列同时扩展
同时维护 b 条候选序列，每步把每条扩展所有 token、按累计 log 概率取 top-b。比贪心找到更优整体序列。
参数
| 名称 | 类型 | 说明 |
|---|---|---|
| b | int | beam width |
Python 实现
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python
同时维护 b 条候选序列，每步把每条扩展所有 token、按累计 log 概率取 top-b。比贪心找到更优整体序列。
| 名称 | 类型 | 说明 |
|---|---|---|
| b | int | beam width |
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。