二元交叉熵损失函数原理

二元交叉熵损失函数是用于衡量二分类问题中模型输出和真实标签之间的差异的一种损失函数。它基于信息论的概念，可以用来衡量两个概率分布之间的差异。

假设模型的输出为y，真实标签为t，二元交叉熵损失函数可以定义为：

L = - (t * log(y) + (1 - t) * log(1 - y))

其中，t表示真实标签的取值（0或1），y表示模型输出的概率值。

二元交叉熵损失函数的原理如下：

对于每个样本，真实标签t的取值为0或1，表示样本属于负类或正类。模型的输出y表示样本属于正类的概率。
当真实标签t为0时，损失函数的第一项t * log(y)为0，只有第二项(1 - t) * log(1 - y)起作用。当模型输出y接近0时，第二项的损失函数值会接近0；当模型输出y接近1时，第二项的损失函数值会无限接近负无穷大。
当真实标签t为1时，损失函数的第二项(1 - t) * log(1 - y)为0，只有第一项t * log(y)起作用。当模型输出y接近1时，第一项的损失函数值会接近0；当模型输出y接近0时，第一项的损失函数值会无限接近负无穷大。
综上所述，当模型的输出和真实标签一致时，损失函数的值最小为0；当模型的输出和真实标签不一致时，损失函数的值大于0。

通过最小化二元交叉熵损失函数，可以使模型的输出尽可能接近真实标签，从而提高模型的分类性能