← 返回函数库
初始化
Xavier 初始化
W ~ U(−√(6/(n_in+n_out)), √(6/(n_in+n_out)))
让前向和反向的方差都保持一致。适合 tanh 这类对称激活。
Python 实现
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。
python
让前向和反向的方差都保持一致。适合 tanh 这类对称激活。
下面是教学用的最小实现，目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。