特殊函数

erf

erf(x) = (2/√π) ∫₀ˣ e⁻ᵗ² dt

误差函数。GELU、概率论里高斯尾部都用它。

Python 实现

下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。

python

打开底部工具栏的「计算器」，把下面这个表达式贴进表达式输入框，拖动参数滑块看曲线变化：

0.5 * x * (1 + erf(x / sqrt(2)))

GELU