← 返回函数库
激活函数
Log-softmax
log_softmax(xᵢ) = xᵢ − logΣⱼ e^xⱼ
对 softmax 取 log。配交叉熵损失时直接用它比「先 softmax 再 log」数值上稳定得多。
参数
| 名称 | 类型 | 说明 |
|---|---|---|
| x | tensor | logits |
| axis | int | 沿哪个维度 |
Python 实现
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python