18. Beklenen Değer ve Varyans

    MatematikOlasılık

    Bir kafe yarın kaç müşteri beklemeli? Aynı belirsiz durumu defalarca yaşasaydık sonuçların uzun dönem ortalamasının yaklaşacağı değeri beklenen değer anlatır. Varyans ise tek tek sonuçların bu ortalama çevresinde ne kadar yayıldığını gösterir. Bir yapay zekâ modelinin ortalama hatasını ve tahminlerindeki belirsizliği anlamak için de bu iki ölçüyü birlikte kullanırız. Bu makalede merkez ve yayılım fikrini günlük örneklerle kuracak, ardından formüllerin ne söylediğini adım adım inceleyeceğiz.

    Bir Dağılımı İki Soruyla Özetlemek

    Küçük bir kafe işlettiğimizi düşünelim. Geçmiş gözlemlere ve hava tahminine bakarak yarın için üç olası müşteri sayısı belirlemiş olalım:

    Yarınki müşteri sayısı Olasılık Ağırlıklı katkı
    80 \(0{,}50\) \(80\cdot0{,}50=40\)
    110 \(0{,}30\) \(110\cdot0{,}30=33\)
    150 \(0{,}20\) \(150\cdot0{,}20=30\)

    Önceki Olasılık Dağılımları yazısında mümkün sonuçlara olasılık atamıştık; buradaki tablo da yarınki müşteri sayısı için bunu yapıyor. Kaç kruvasan hazırlanacağına veya kaç çalışanın çağrılacağına karar verirken iki soruya cevap ararız:

    • Merkez nerede? Böyle günleri çok kez yaşasaydık ortalama müşteri sayısı nereye yaklaşırdı?
    • Belirsizlik ne kadar? Günler merkezin yakınında mı kalırdı, yoksa çok sakin ve çok yoğun günler sık görülür müydü?

    İlk soruyu beklenen değer, ikinciyi varyans ile yanıtlayabiliriz. Varyansın kareli birimini müşteri, dakika veya lira gibi asıl birime çevirmek istediğimizde standart sapmayı kullanırız.

    İki sayı dağılımın tamamını göstermez
    Beklenen değer ve varyans dağılımı özetler. Dağılımın biçimini, iki ayrı tepesini veya seyrek uç olaylarını görmek için sonuçların tamamına da bakmalıyız.

    Beklenen Değer: Olasılıkla Ağırlıklandırılmış Ortalama

    Üç müşteri sayısını doğrudan toplayıp üçe bölmek doğru olmaz; çünkü bu sonuçlar eşit olasılıklı değildir. 80 müşterilik güne yüzde 50, 150 müşterilik güne yüzde 20 olasılık verdik. Her sonucu kendi olasılığı kadar hesaba katmalıyız:

    $$ \begin{aligned} \operatorname{E}[X] &=80(0{,}50)+110(0{,}30)+150(0{,}20)\\ &=40+33+30\\ &=103 \end{aligned} $$

    Burada \(X\), yarın gelecek müşteri sayısıdır. \(\operatorname{E}[X]\) ifadesini “\(X\)'in beklenen değeri” diye okuruz. Tabloda 103 müşterilik bir gün bulunmasa da hesap 103 çıkar; çünkü bu sayı tek bir günün sonucu değil, olasılıklarla ağırlıklandırılmış ortalamadır.

    Yarın 80, 110 veya 150 müşteri gelebilir. Aynı koşullardaki günler çok kez tekrarlanırsa günlük müşteri sayısının ortalaması yaklaşık 103'e yaklaşır.

    Ayrıca beklenen değer en olası sonuç olmak zorunda değildir. Örneğimizde en olası tek sonuç 80 müşteridir; çünkü yüzde 50 olasılığa sahiptir. Buna karşılık bütün sonuçları ve olasılıklarını birlikte dengeleyen sayı 103'tür.

    Genel Kuralı Tablodan Çıkarmak

    Kesikli bir rastgele değişkenin mümkün değerlerini \(x\), bu değerlerin olasılıklarını \(P(X=x)\) ile gösterelim. Beklenen değer için yaptığımız işlem her satırda aynıdır: sonucu olasılığıyla çarp, sonra bütün satırları topla.

    $$ \operatorname{E}[X]=\sum_x x\,P(X=x) $$

    Toplam işareti, “\(X\)'in alabileceği bütün değerleri sırayla kullan” demektir. \(x\) sonucun kendisi, \(P(X=x)\) ise o sonucun ağırlığıdır. Olasılıkların toplamı 1 olduğu için bu işlem gerçekten ağırlıklı bir ortalamadır.

    Sürekli ölçümlerde tek tek değerleri sayamayız. Paket ağırlığı 499,8; 499,81; 499,812 gram gibi aradaki sayıları da alabilir. Böyle bir durumda toplamın görevini integral üstlenir:

    $$ \operatorname{E}[X]=\int_{-\infty}^{\infty}x\,f_X(x)\,dx $$

    \(f_X(x)\), önceki yazıda tanıdığımız olasılık yoğunluğudur. Küçük bölgelerdeki değerleri o bölgelerin olasılık paylarıyla ağırlıklandırıp birleştiririz. Hesapları burada kesikli tablolarla yapacağız; integral, aynı işlemin sürekli ölçümlerdeki karşılığıdır.

    Aynı Ortalama, Bambaşka Günler

    Beklenen değerin tek başına neden yetmediğini iki kafe planıyla görelim. Her iki planın da ortalama müşteri sayısı 100 olsun:

    Plan Olası müşteri sayıları Her sonucun olasılığı Beklenen değer
    A 90 veya 110 Yüzde 50 100
    B 50 veya 150 Yüzde 50 100
    $$ \begin{aligned} \operatorname{E}[A]&=90(0{,}5)+110(0{,}5)=100,\\ \operatorname{E}[B]&=50(0{,}5)+150(0{,}5)=100. \end{aligned} $$

    İki planın beklenen değeri aynı. A'da müşteri sayısı 100'den en fazla 10 uzaklaşırken B'de 50 veya 150 müşteri gelebilir; bu iki sonuç arasında 100 müşteri fark vardır. Stok ve çalışan planı yaparken B'deki bu geniş aralığı hesaba katmamız gerekir.

    Farkı ölçmek için sonuçların 100'den uzaklığına bakalım. Sapmaları işaretleriyle toplarsak negatif ve pozitif değerler birbirini götürür: A'daki \(-10\) ile \(+10\)'un, B'deki \(-50\) ile \(+50\)'nin ortalaması sıfırdır. Uzaklığı kaybetmemek için sapmaların karesini alırız.

    Varyans: Kareli Uzaklıkların Ortalaması

    \(X\)'in beklenen değerine \(\mu\) diyelim. Varyans, her sonucun \(\mu\)'den uzaklığını bulur, bu uzaklığın karesini alır ve sonuçları olasılıklarıyla ortalar:

    $$ \operatorname{Var}(X)=\operatorname{E}\!\left[(X-\mu)^2\right] $$

    Hesabı dört adımda yaparız:

    1. Merkezi bul: \(\mu=\operatorname{E}[X]\).
    2. Her sonuçtan merkezi çıkar: \(x-\mu\).
    3. Negatif ve pozitif sapmaların birbirini silmemesi için kare al: \((x-\mu)^2\).
    4. Kareli sapmaları olasılıklarıyla ağırlıklandırıp topla.

    A planında iki sonuç da merkezden 10 müşteri uzaktadır:

    $$ \begin{aligned} \operatorname{Var}(A) &=(90-100)^2(0{,}5)+(110-100)^2(0{,}5)\\ &=100. \end{aligned} $$

    B planında iki sonuç da merkezden 50 müşteri uzaktadır:

    $$ \begin{aligned} \operatorname{Var}(B) &=(50-100)^2(0{,}5)+(150-100)^2(0{,}5)\\ &=2500. \end{aligned} $$

    Her iki planın beklenen değeri 100 olsa da B'nin varyansı daha büyüktür. Bu sayı B'deki dalgalanmayı gösterir; hangi planın daha iyi olduğunu söylemek için yoğun günlerin kazancını ve sakin günlerin maliyetini de bilmeliyiz.

    Yayılımı mutlak uzaklıklarla da ölçebiliriz; ileride bu tür ölçülerle karşılaşacağız. Kareli uzaklık büyük sapmalara daha fazla ağırlık verir ve cebirsel işlemleri kolaylaştırır. Birçok istatistiksel modelde kullanılmasının nedeni de bu özellikleridir. Hangi ölçüyü seçtiğimizi yorum yaparken akılda tutmalıyız.

    Standart Sapma: Anlaşılır Birime Geri Dönmek

    Müşteri sayısını kareye aldığımız için varyansın birimi “müşteri kare” olur. Bu hesap açısından doğrudur, fakat günlük dilde kolay yorumlanmaz. Varyansın pozitif karekökünü alarak yeniden asıl birime döneriz. Buna standart sapma denir:

    $$ \sigma_X=\sqrt{\operatorname{Var}(X)} $$

    A ve B planlarında:

    $$ \sigma_A=\sqrt{100}=10, \qquad \sigma_B=\sqrt{2500}=50 $$

    Standart sapma A planında 10, B planında 50 müşteridir. Bu sayılar günlerin merkezden tam olarak o kadar uzakta olacağını söylemez; her planın genel yayılımını müşteri birimiyle özetler.

    “Değerlerin yüzde 68'i bir standart sapma içinde kalır” kuralı, önceki yazıdaki Normal dağılım için yaklaşık olarak geçerlidir. Dağılımın biçimini bilmeden standart sapmadan böyle bir yüzde çıkaramayız.

    Hesabı Kısaltan İkinci Yol

    Varyansın asıl tanımı kareli uzaklıkların beklenen değeridir. Cebiri açtığımızda aynı sonucu veren kısa bir hesap yolu elde ederiz:

    $$ \operatorname{Var}(X) =\operatorname{E}[X^2]-\bigl(\operatorname{E}[X]\bigr)^2 $$

    Önce sonuçların karelerinin ağırlıklı ortalamasını bulur, sonra beklenen değerin karesini çıkarırız. İşlem sırası iki terimde farklıdır:

    • \(\operatorname{E}[X^2]\): Önce her sonucu kareye al, sonra ağırlıklı ortalamayı bul.
    • \(\bigl(\operatorname{E}[X]\bigr)^2\): Önce ağırlıklı ortalamayı bul, sonra o tek sayının karesini al.

    İki sonuç arasındaki fark varyanstır. Kısa formül hesabı kolaylaştırır; varyansın neyi ölçtüğünü anlamak için merkezden kareli uzaklıklara bakmak daha yararlıdır.

    Varyans, Doğruluk Değildir
    Bir tahmin sistemi her gün aynı yanlış sayıyı söylerse çıktılarının varyansı sıfır olabilir; yine de sistem hatalıdır. Varyans sonuçların birbirine ne kadar benzediğini, doğruluk ise gerçekle ne kadar uyuştuklarını anlatır.

    Değerleri Değiştirince Merkez ve Yayılım

    Bütün sonuçlara aynı sayıyı eklemek dağılımı sağa veya sola kaydırır. Örneğin her sınav puanına 5 bonus puan eklemek ortalamayı 5 artırır, puanların birbirine uzaklığını değiştirmez. Sonuçları bir sayıyla çarptığımızda ise merkez o sayıyla, uzaklıklar sayının mutlak değeriyle ölçeklenir.

    $$ \begin{aligned} \operatorname{E}[aX+b]&=a\operatorname{E}[X]+b,\\ \operatorname{Var}(aX+b)&=a^2\operatorname{Var}(X). \end{aligned} $$

    Varyansta \(b\)'nin görünmemesinin nedeni, bütün değerlerle birlikte merkezin de aynı miktarda kaymasıdır. \(a^2\) görülmesinin nedeni ise uzaklıkların \(a\) ile, kareli uzaklıkların \(a^2\) ile çarpılmasıdır. Örneğin metreyi santimetreye çevirirken değerleri 100 ile çarparsak standart sapma 100, varyans 10.000 ile çarpılır.

    Birden fazla rastgele büyüklüğü topladığımızda beklenen değerler her zaman toplanır:

    $$ \operatorname{E}[X+Y]=\operatorname{E}[X]+\operatorname{E}[Y] $$

    Varyansları doğrudan toplamak için uygun bağımsızlık koşulları gerekir. İki büyüklük birlikte yükselip alçalıyorsa toplamın yayılımı da bundan etkilenir. Bu ilişkiyi ileride Korelasyon ve Regresyon yazısında kovaryansla inceleyeceğiz.

    Üç Dağılımda Merkez ve Yayılım

    Önceki yazıda gördüğümüz Bernoulli, Poisson ve Normal dağılımlarının merkezini ve yayılımını parametrelerinden okuyabiliriz.

    Bernoulli: Tek bir evet–hayır sonucu

    \(X\), olay gerçekleşirse 1, gerçekleşmezse 0 olsun. Olayın olasılığı \(p\) ise:

    $$ \operatorname{E}[X]=p, \qquad \operatorname{Var}(X)=p(1-p) $$

    \(p=0\) veya \(p=1\) olduğunda sonuç kesindir ve varyans sıfırdır. \(p=0{,}5\) olduğunda iki sonuç eşit olasılıklıdır ve Bernoulli değişkeninin varyansı en yüksek değerine ulaşır.

    Poisson: Bir aralıktaki olay sayısı

    Poisson dağılımındaki \(\lambda\), seçilen zaman veya alan aralığında beklenen olay sayısıdır. Bu dağılımın özel bir özelliği, beklenen değer ile varyansın aynı sayıya eşit olmasıdır:

    $$ \operatorname{E}[X]=\lambda, \qquad \operatorname{Var}(X)=\lambda $$

    Saatte ortalama 4 çağrı için Poisson modeli kullanırsak beklenen değer 4, varyans 4 ve standart sapma 2 çağrı olur. Her sayım verisinde varyans ortalamaya eşit değildir. Gerçek veride ikisi birbirinden çok farklıysa sabit olay hızı ve bağımsızlık gibi Poisson varsayımlarına yeniden bakmalıyız.

    Normal: Bir merkez çevresindeki sürekli ölçümler

    Normal dağılımı \(N(\mu,\sigma^2)\) biçiminde yazdığımızda semboller doğrudan dağılımın özetlerini verir:

    $$ \operatorname{E}[X]=\mu, \qquad \operatorname{Var}(X)=\sigma^2 $$

    Standart sapma \(\sigma\)'dır. Normal dağılım simetrik olduğu için beklenen değer, ortanca ve çanın tepesi aynı merkezde buluşur. Genel bir dağılımda bu üç merkezin aynı olması gerekmez.

    Dağılım Beklenen değer Varyans Standart sapma
    Bernoulli\((p)\) \(p\) \(p(1-p)\) \(\sqrt{p(1-p)}\)
    Poisson\((\lambda)\) \(\lambda\) \(\lambda\) \(\sqrt{\lambda}\)
    Normal\((\mu,\sigma^2)\) \(\mu\) \(\sigma^2\) \(\sigma\)

    Yapay Zekâda Beklenen Değer: Ortalama Hatanın Bedeli

    Bir müşteri hizmetleri modeli düşünelim. Soruların yüzde 90'ı sık görülen ve kolay türde, yüzde 10'u ise seyrek fakat zor türde olsun. Modelin kolay sorulardaki hata maliyeti 1, zor sorulardaki hata maliyeti 9 birim olsun. Dağılım üzerindeki ortalama hata maliyeti:

    $$ 0{,}90\cdot1+0{,}10\cdot9=1{,}8 $$

    Her durumdaki hata maliyetini, o durumun görülme olasılığıyla çarparak beklenen kaybı bulduk. Zor sorular az görülmesine rağmen yüksek maliyetleri ortalamayı artırdı. “Soruların yüzde 90'ında iyiyiz” demek bu maliyeti göstermeye yetmez.

    Genel gösterimde modelin parametrelerini \(\theta\), bir örnekteki kaybını \(\ell\) ile gösterirsek amaç, veri dağılımı üzerindeki beklenen kaybı azaltmaktır:

    $$ R(\theta)=\operatorname{E}\!\left[\ell(\text{model tahmini},\text{gerçek sonuç})\right] $$

    Gerçek dünyadaki bütün örnekleri ve olasılıklarını bilmediğimiz için beklenen kaybı doğrudan hesaplayamayız. Eğitim verisindeki kayıpların ortalamasıyla yaklaşırız. Eğitim verisi gerçek kullanımı temsil etmiyorsa veya model örnekleri ezberlediyse düşük eğitim kaybı, kullanımdaki hatanın da düşük olacağını garanti etmez.

    Kareli hata kullanan bir regresyon modelinde ortalama ile özel bir bağ vardır: Hiçbir başka bilgi kullanmadan herkese tek bir sabit tahmin vermek zorunda olsaydık, kareli hatayı en aza indiren sayı hedefin beklenen değeri olurdu. Bunun nedeni, ortalamanın kareli uzaklıkların denge noktası olmasıdır. Ayrıntılı türetimi regresyon ve kayıp fonksiyonlarını işlerken yeniden kuracağız.

    Teorik Dağılım ile Gözlenen Veri

    Kafe örneğinde her müşteri sayısının olasılığını biliyorduk. Bu sayede beklenen değeri ve varyansı doğrudan hesapladık.

    Gerçekte elimizde çoğu zaman geçmiş günlerin müşteri sayıları vardır; onları üreten dağılımı ve \(p\), \(\lambda\), \(\mu\) veya \(\sigma\) gibi parametrelerini bilmeyiz. Hangi parametre değerlerinin veriye daha iyi uyduğunu araştırırız.

    Örneğin on ziyaretçinin sekizi satın alma yaptıysa Bernoulli olasılığı \(p\) için hangi değer en güçlü adaydır? Bir saatte gözlenen çağrı sayıları 3, 5, 4 ve 6 ise Poisson hızını hangi \(\lambda\) daha iyi açıklar? “Bu parametre seçilseydi gördüğümüz verinin ortaya çıkması ne kadar makul olurdu?” sorusu bizi olabilirlik fikrine götürür.

    Veriden parametreye
    Parametreler bilindiğinde dağılımın merkezini ve yayılımını hesaplayabiliriz. Gözlenen veriden bilinmeyen parametrelere gitmek içinse hangi değerlerin veriyi daha iyi açıkladığına bakarız.

    Sık Yapılan Hatalar

    • Beklenen değeri kesin gelecek sonuç sanmak: Beklenen değer tek denemenin tahmini değil, uzun dönemli ağırlıklı merkezdir.
    • Beklenen değeri en olası sonuçla karıştırmak: En sık beklenen tek sonuç ile bütün dağılımın denge noktası farklı olabilir.
    • Olasılık ağırlıklarını unutmak: Eşit olasılıklı olmayan sonuçların sıradan aritmetik ortalaması beklenen değeri vermez.
    • Sapmaları doğrudan toplamak: Merkezin altındaki ve üstündeki sapmalar birbirini götürür; varyans kareli sapmaları kullanır.
    • \(\operatorname{E}[X^2]\) ile \(\bigl(\operatorname{E}[X]\bigr)^2\)'yi aynı sanmak: İlkinde önce kare alırız, ikincisinde önce ortalama alırız.
    • Varyans ile standart sapmayı karıştırmak: Varyans kareli birimdedir; standart sapma asıl birime geri döner.
    • Büyük varyansı otomatik olarak kötü saymak: Daha büyük yayılım bazen risk, bazen gerçek çeşitlilik veya daha büyük kazanç fırsatı anlamına gelebilir.
    • Düşük varyansı doğruluk sanmak: Sürekli aynı yanlış değeri üretmek düşük varyanslı ama kötü bir davranıştır.
    • Normal dağılımın yüzde kuralını her yere uygulamak: Standart sapma her dağılımda vardır; yüzde 68–95–99,7 kuralı Normal biçime bağlıdır.
    • Teorik parametre ile veri özetini karıştırmak: Dağılımın gerçek beklenen değeri ile sonlu veriden hesaplanan ortalama aynı olmak zorunda değildir.

    Bir Problemi Okurken Kısa Kontrol Listesi

    1. Rastgele büyüklüğü ve birimini söyleyin: müşteri, dakika, lira veya başka bir şey mi?
    2. Mümkün sonuçları ve olasılıklarını belirleyin.
    3. Beklenen değer için her sonucu kendi olasılığıyla ağırlıklandırın.
    4. Beklenen değeri tek sonuç garantisi olarak değil, uzun dönemli merkez olarak yorumlayın.
    5. Varyans için önce merkezi bulun, sonra kareli uzaklıkların ağırlıklı ortalamasını alın.
    6. Sonucu birimiyle okuyun: varyans kareli, standart sapma asıl birimdedir.
    7. Aynı merkeze sahip dağılımların farklı yayılımları ve kuyrukları olabileceğini kontrol edin.
    8. Model varsayımları ile gözlenen veriyi birbirinden ayırın.
    9. Bir karar verirken ortalamanın saklayabileceği seyrek ama maliyetli sonuçları ayrıca inceleyin.

    Sonuç: Merkez ile Belirsizliği Birlikte Görmek

    Beklenen değer, sonuçları olasılıklarıyla ağırlıklandırıp uzun dönem ortalamasını verir. Varyans, sonuçların bu ortalamadan uzaklıklarının karelerini olasılıklarıyla ağırlıklandırıp toplar. Standart sapma da yayılımı müşteri, dakika veya lira gibi asıl birimle ifade eder.

    Kafedeki iki planın beklenen müşteri sayısı 100'dü; standart sapmaları ise 10 ve 50 müşteriydi. İkisini planlama açısından farklı kılan bu yayılımdır. Bernoulli, Poisson ve Normal dağılımlarında merkez ile yayılımı parametrelerden okuyabiliriz. Yapay zekâda da farklı durumlardaki kayıpları olasılıklarıyla ağırlıklandırarak beklenen riski hesaplarız.

    Bu hesaplarda dağılımın parametreleri belliydi. Sıradaki Olabilirlik, Log-Olabilirlik ve Parametre Tahmini: MLE ile MAP yazısında gözlenen veriden parametrelere gideceğiz. Hangi değerlerin veriyi daha iyi açıkladığını, çok küçük olasılıkların çarpımında logaritmanın neden işe yaradığını ve ön bilgiyi tahmine nasıl katabileceğimizi inceleyeceğiz.

    Yazar: Levent KARAGÖL

    Makaleyi Paylaş:

    İlgili Makaleler