← 返回函数库
损失函数

Binary Cross-Entropy

BCE(y, p) = −[y log p + (1−y) log(1−p)]

二分类的交叉熵。y ∈ {0, 1} 是真实标签,p ∈ (0, 1) 是预测概率(通常是 sigmoid 的输出)。

参数

名称类型说明
ytensor真实标签 (0 或 1)
ptensor预测概率 (0,1)

Python 实现

下面是教学用的最小实现,目的是让你看懂原理。生产中请用 PyTorch / TensorFlow 的高性能 op。

python

在计算器里试试

打开底部工具栏的「计算器」,把下面这个表达式贴进表达式输入框,拖动参数滑块看曲线变化:

-(0.5*log(x) + 0.5*log(1-x))

BCE 当 y=0.5

同类函数

LLM 原理课 — 从直觉到 nanoGPT