Gerçekleşen sonuçlara modelin ne kadar olasılık verdiğini bilirsek tahminin bedelini ölçebiliriz. Çapraz entropi bu olasılıkları gerçek sonuçların sıklığına göre ortalar. KL ıraksaması, ortaya çıkan bedelin gerçek dağılımı bilseydik kaçınabileceğimiz kısmını gösterir. İki renkli bir kutuyla başlayıp bu ölçüleri hesaplayacak, sıfır olasılık durumunu ve yapay zekâ eğitimindeki karşılıklarını inceleyeceğiz.