
如果使用均方差作为损失函数


所以,如果当前模型的输出接近0或者1时,σ′(z)就会非常小,接近0,使得求得的梯度很小,损失函数收敛的很慢。
如果使用交叉熵作为损失函数

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/184052.html原文链接:https://javaforall.net
交叉熵损失函数和对数损失函数_多分类交叉熵损失函数公式如果使用均方差作为损失函数所以,如果当前模型的输出接近0或者1时,σ′(z)就会非常小,接近0,使得求得的梯度很小,损失函数收敛的很慢。如果使用交叉熵作为损失函数原文链接:为什么LR模型损失函数使用交叉熵不用均方差?…



所以,如果当前模型的输出接近0或者1时,σ′(z)就会非常小,接近0,使得求得的梯度很小,损失函数收敛的很慢。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/184052.html原文链接:https://javaforall.net