← 返回函数库
激活函数
tanh
tanh(x) = (eˣ − e⁻ˣ) / (eˣ + e⁻ˣ)
双曲正切。把实数压到 (-1, 1),零均值,比 sigmoid 收敛更快。早期 RNN 标配。
参数
| 名称 | 类型 | 说明 |
|---|---|---|
| x | float | tensor | 任意实数 |
返回(-1, 1)
Python 实现
下面是教学用的最小实现,目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python
在计算器里试试
打开底部工具栏的「计算器」,把下面这个表达式贴进表达式输入框,拖动参数滑块看曲线变化:
tanh(x)