Ini adalah fungsi kerugian penyimpangan binomial scikit GradientBoosting,
def __call__(self, y, pred, sample_weight=None):
"""Compute the deviance (= 2 * negative log-likelihood). """
# logaddexp(0, v) == log(1.0 + exp(v))
pred = pred.ravel()
if sample_weight is None:
return -2.0 * np.mean((y * pred) - np.logaddexp(0.0, pred))
else:
return (-2.0 / sample_weight.sum() *
np.sum(sample_weight * ((y * pred) - np.logaddexp(0.0, pred))))
Fungsi kerugian ini tidak sama antara kelas dengan 0 dan kelas dengan 1. Adakah yang bisa menjelaskan bagaimana ini dianggap OK.
Misalnya, tanpa bobot sampel, fungsi kerugian untuk kelas 1 adalah
-2(pred - log(1 + exp(pred))
vs untuk kelas 0
-2(-log(1+exp(pred))
Plot untuk keduanya tidak sama dalam hal biaya. Adakah yang bisa membantu saya mengerti.
pred
dengan peluang log, fungsi kerugian seragam untuk kedua kelas.