18. Beklenen Değer ve Varyans

    MatematikOlasılık

    Beklenen değer, bir belirsizliği defalarca yaşasaydık sonuçların uzun dönem ortalamasının nereye yaklaşacağını; varyans ise tek tek sonuçların bu merkezin çevresinde ne kadar dağıldığını anlatır. Bu iki ölçü, bir kafenin yarın kaç müşteri beklemesi gerektiğinden bir yapay zekâ modelinin ortalama hatasına ve tahmin belirsizliğine kadar pek çok soruda birlikte kullanılır. Bu makalede önce günlük örneklerle merkez ve yayılım fikrini kuracak, ardından formüllerin ne söylediğini adım adım göreceğiz.

    Bir Dağılımı İki Soruyla Özetlemek

    Küçük bir kafe işlettiğimizi düşünelim. Geçmiş gözlemlere ve hava tahminine bakarak yarın için üç olası müşteri sayısı belirlemiş olalım:

    Yarınki müşteri sayısı Olasılık Ağırlıklı katkı
    80 \(0{,}50\) \(80\cdot0{,}50=40\)
    110 \(0{,}30\) \(110\cdot0{,}30=33\)
    150 \(0{,}20\) \(150\cdot0{,}20=30\)

    Bu tablo, önceki Olasılık Dağılımları yazısında kurduğumuz ihtimal haritasının küçük bir örneğidir. Bütün olası sonuçları ve her sonuca verdiğimiz olasılığı gösterir. Fakat kaç kruvasan hazırlanacağına veya kaç çalışanın çağrılacağına karar verirken tabloyu iki kısa soruyla özetlemek isteriz:

    • Merkez nerede? Böyle günleri çok kez yaşasaydık ortalama müşteri sayısı nereye yaklaşırdı?
    • Belirsizlik ne kadar? Günler merkezin yakınında mı kalırdı, yoksa çok sakin ve çok yoğun günler sık görülür müydü?

    İlk sorunun cevabı beklenen değer, ikinci sorunun temel cevaplarından biri varyanstır. Standart sapma da varyansı yeniden müşteri, dakika veya lira gibi asıl birime çevirerek daha kolay yorumlamamızı sağlar.

    İki Sayı, Bütün Haritanın Yerini Tutmaz
    Beklenen değer ve varyans güçlü özetlerdir; fakat dağılımın biçimini, iki ayrı tepesini veya çok seyrek uç olaylarını bütünüyle göstermez. Özetleri kullanırken asıl ihtimal haritasını unutmamalıyız.

    Beklenen Değer: Olasılıkla Ağırlıklandırılmış Ortalama

    Üç müşteri sayısını doğrudan toplayıp üçe bölmek doğru olmaz; çünkü bu sonuçlar eşit olasılıklı değildir. 80 müşterilik güne yüzde 50, 150 müşterilik güne yüzde 20 olasılık verdik. Her sonucu kendi olasılığı kadar hesaba katmalıyız:

    $$ \begin{aligned} \operatorname{E}[X] &=80(0{,}50)+110(0{,}30)+150(0{,}20)\\ &=40+33+30\\ &=103 \end{aligned} $$

    Burada \(X\), yarın gelecek müşteri sayısıdır. \(\operatorname{E}[X]\) ifadesini “\(X\)'in beklenen değeri” diye okuruz. Sonuç 103'tür; fakat tablomuzda 103 müşterilik bir gün yoktur. Bu bir çelişki değildir.

    Beklenen değer, “yarın kesinlikle 103 müşteri gelecek” demez. Aynı koşullardaki çok sayıda günü düşünürsek günlük ortalamanın yaklaşık 103'e yaklaşacağını söyler. Tek bir günde 80, 110 veya 150 müşteri gelir. Beklenen değer tek günün kehaneti değil, dağılımın uzun dönemli denge noktasıdır.

    Ayrıca beklenen değer en olası sonuç olmak zorunda değildir. Örneğimizde en olası tek sonuç 80 müşteridir; çünkü yüzde 50 olasılığa sahiptir. Buna karşılık bütün sonuçları ve olasılıklarını birlikte dengeleyen sayı 103'tür.

    Genel Kuralı Tablodan Çıkarmak

    Kesikli bir rastgele değişkenin mümkün değerlerini \(x\), bu değerlerin olasılıklarını \(P(X=x)\) ile gösterelim. Beklenen değer için yaptığımız işlem her satırda aynıdır: sonucu olasılığıyla çarp, sonra bütün satırları topla.

    $$ \operatorname{E}[X]=\sum_x x\,P(X=x) $$

    Toplam işareti, “\(X\)'in alabileceği bütün değerleri sırayla kullan” demektir. \(x\) sonucun kendisi, \(P(X=x)\) ise o sonucun ağırlığıdır. Olasılıkların toplamı 1 olduğu için bu işlem gerçekten ağırlıklı bir ortalamadır.

    Sürekli ölçümlerde tek tek değerleri sayamayız. Paket ağırlığı 499,8; 499,81; 499,812 gram gibi aradaki sayıları da alabilir. Böyle bir durumda toplamın görevini integral üstlenir:

    $$ \operatorname{E}[X]=\int_{-\infty}^{\infty}x\,f_X(x)\,dx $$

    Buradaki \(f_X(x)\), önceki yazıda tanıdığımız olasılık yoğunluğudur. Formül farklı görünse de düşünce değişmez: Her küçük bölgenin değerini, o bölgede bulunan olasılık payıyla ağırlıklandır ve bütün katkıları birleştir. Bu makalede hesaplarımızı kesikli tablolar üzerinden yapacağız; integral biçimi aynı fikrin sürekli ölçümlerdeki karşılığıdır.

    Aynı Ortalama, Bambaşka Günler

    Beklenen değerin tek başına neden yetmediğini iki kafe planıyla görelim. Her iki planın da ortalama müşteri sayısı 100 olsun:

    Plan Olası müşteri sayıları Her sonucun olasılığı Beklenen değer
    A 90 veya 110 Yüzde 50 100
    B 50 veya 150 Yüzde 50 100
    $$ \begin{aligned} \operatorname{E}[A]&=90(0{,}5)+110(0{,}5)=100,\\ \operatorname{E}[B]&=50(0{,}5)+150(0{,}5)=100. \end{aligned} $$

    Yalnızca beklenen değere bakarsak iki plan aynı görünür. Oysa A planında günler 100'ün yalnızca 10 müşteri çevresindedir. B planında ise çok sakin ve çok yoğun günler arasında 100 müşterilik bir fark vardır. Stok ve çalışan planlaması açısından B çok daha belirsizdir.

    Bu farkı ölçmek için her sonucun merkezden ne kadar uzaklaştığına bakmalıyız. Ancak uzaklıkları işaretleriyle toplarsak merkezin altındaki negatif değerler ile üstündeki pozitif değerler birbirini götürür. A planında sapmalar \(-10\) ve \(+10\), B planında \(-50\) ve \(+50\)'dir; ikisinin de ortalama sapması sıfır çıkar. Bu yüzden sapmaları kareye alırız.

    Varyans: Kareli Uzaklıkların Ortalaması

    \(X\)'in beklenen değerine \(\mu\) diyelim. Varyans, her sonucun \(\mu\)'den uzaklığını bulur, bu uzaklığın karesini alır ve sonuçları olasılıklarıyla ortalar:

    $$ \operatorname{Var}(X)=\operatorname{E}\!\left[(X-\mu)^2\right] $$

    Bu formülü dört küçük hareket olarak okuyabiliriz:

    1. Merkezi bul: \(\mu=\operatorname{E}[X]\).
    2. Her sonuçtan merkezi çıkar: \(x-\mu\).
    3. Negatif ve pozitif sapmaların birbirini silmemesi için kare al: \((x-\mu)^2\).
    4. Kareli sapmaları olasılıklarıyla ağırlıklandırıp topla.

    A planında iki sonuç da merkezden 10 müşteri uzaktadır:

    $$ \begin{aligned} \operatorname{Var}(A) &=(90-100)^2(0{,}5)+(110-100)^2(0{,}5)\\ &=100. \end{aligned} $$

    B planında iki sonuç da merkezden 50 müşteri uzaktadır:

    $$ \begin{aligned} \operatorname{Var}(B) &=(50-100)^2(0{,}5)+(150-100)^2(0{,}5)\\ &=2500. \end{aligned} $$

    İki planın beklenen değeri 100 olmasına rağmen B'nin varyansı çok daha büyüktür. Varyans bize “hangi plan daha iyi?” diye tek başına cevap vermez; daha büyük dalgalanmanın bulunduğunu söyler. Yoğun günlerin kazancı ve sakin günlerin maliyeti bilinmeden iş kararı tamamlanmış olmaz.

    Neden mutlak uzaklık yerine kare kullandığımızı sorabiliriz. Mutlak uzaklık da geçerli bir yayılım fikridir ve ileride farklı ölçülerle karşılaşacağız. Kareli uzaklık ise büyük sapmalara daha fazla ağırlık verir, cebirsel işlemlerde kullanışlıdır ve birçok istatistiksel modelin temelinde doğal olarak ortaya çıkar. Bu bir doğa emri değil, özelliklerini bilerek seçtiğimiz bir ölçüdür.

    Standart Sapma: Anlaşılır Birime Geri Dönmek

    Müşteri sayısını kareye aldığımız için varyansın birimi “müşteri kare” olur. Bu hesap açısından doğrudur, fakat günlük dilde kolay yorumlanmaz. Varyansın pozitif karekökünü alarak yeniden asıl birime döneriz. Buna standart sapma denir:

    $$ \sigma_X=\sqrt{\operatorname{Var}(X)} $$

    A ve B planlarında:

    $$ \sigma_A=\sqrt{100}=10, \qquad \sigma_B=\sqrt{2500}=50 $$

    Böylece A planının müşteri sayıları için yayılım ölçeğinin 10, B planınınkinin 50 müşteri olduğunu söyleriz. Bu, her günün merkezden tam olarak bir standart sapma uzakta olacağı anlamına gelmez. Standart sapma kareli uzaklıklardan üretilen genel bir yayılım ölçeğidir.

    Ayrıca “değerlerin yüzde 68'i bir standart sapma içinde kalır” kuralı her dağılım için geçerli değildir. Bu oran, önceki yazıda gördüğümüz Normal dağılıma özgü yaklaşık bir kuraldır. Dağılımın biçimini bilmeden standart sapmayı otomatik bir yüzde aralığına çeviremeyiz.

    Hesabı Kısaltan İkinci Yol

    Varyansın asıl tanımı kareli uzaklıkların beklenen değeridir. Cebiri açtığımızda aynı sonucu veren kısa bir hesap yolu elde ederiz:

    $$ \operatorname{Var}(X) =\operatorname{E}[X^2]-\bigl(\operatorname{E}[X]\bigr)^2 $$

    Formül “önce sonuçların karelerinin ağırlıklı ortalamasını bul, sonra beklenen değerin karesini çıkar” der. Burada iki işlem sırasını ayırmak önemlidir:

    • \(\operatorname{E}[X^2]\): Önce her sonucu kareye al, sonra ağırlıklı ortalamayı bul.
    • \(\bigl(\operatorname{E}[X]\bigr)^2\): Önce ağırlıklı ortalamayı bul, sonra o tek sayının karesini al.

    Bunlar genel olarak aynı değildir; aralarındaki fark varyanstır. Bu kısa yol hesapta yararlıdır, fakat varyansın anlamını öğrenirken “merkezden kareli uzaklık” tanımı daha açıklayıcıdır.

    Varyans, Doğruluk Değildir
    Bir tahmin sistemi her gün aynı yanlış sayıyı söylerse çıktılarının varyansı sıfır olabilir; yine de sistem hatalıdır. Varyans sonuçların birbirine ne kadar benzediğini, doğruluk ise gerçekle ne kadar uyuştuklarını anlatır.

    Değerleri Değiştirince Merkez ve Yayılım

    Bütün sonuçlara aynı sabiti eklersek dağılım sağa veya sola kayar. Örneğin her sınav puanına 5 bonus puan eklemek ortalamayı 5 artırır; fakat puanlar arasındaki uzaklıkları değiştirmez. Bütün sonuçları bir sayıyla çarparsak hem merkez hem uzaklıklar ölçeklenir.

    $$ \begin{aligned} \operatorname{E}[aX+b]&=a\operatorname{E}[X]+b,\\ \operatorname{Var}(aX+b)&=a^2\operatorname{Var}(X). \end{aligned} $$

    Varyansta \(b\)'nin görünmemesinin nedeni, bütün değerlerle birlikte merkezin de aynı miktarda kaymasıdır. \(a^2\) görülmesinin nedeni ise uzaklıkların \(a\) ile, kareli uzaklıkların \(a^2\) ile çarpılmasıdır. Örneğin metreyi santimetreye çevirirken değerleri 100 ile çarparsak standart sapma 100, varyans 10.000 ile çarpılır.

    Birden fazla rastgele büyüklüğü topladığımızda beklenen değerler her zaman toplanır:

    $$ \operatorname{E}[X+Y]=\operatorname{E}[X]+\operatorname{E}[Y] $$

    Varyanslar ise yalnızca uygun bağımsızlık koşullarında doğrudan toplanır. İki büyüklük birlikte yükselip alçalıyorsa toplamın yayılımı bu ilişkiden etkilenir. Bu birlikte hareketi ileride Korelasyon ve Regresyon yazısında kovaryans üzerinden ayrıntılı biçimde inceleyeceğiz; burada “varyanslar her zaman toplanır” ezberinden kaçınmamız yeterlidir.

    Üç Dağılımda Merkez ve Yayılım

    Önceki yazıda incelediğimiz Bernoulli, Poisson ve Normal dağılımlarının parametreleri artık daha somut bir anlam kazanıyor.

    Bernoulli: Tek bir evet–hayır sonucu

    \(X\), olay gerçekleşirse 1, gerçekleşmezse 0 olsun. Olayın olasılığı \(p\) ise:

    $$ \operatorname{E}[X]=p, \qquad \operatorname{Var}(X)=p(1-p) $$

    \(p=0\) veya \(p=1\) olduğunda sonuç kesindir ve varyans sıfırdır. \(p=0{,}5\) olduğunda iki sonuç eşit olasılıklıdır ve Bernoulli değişkeninin varyansı en yüksek değerine ulaşır.

    Poisson: Bir aralıktaki olay sayısı

    Poisson dağılımındaki \(\lambda\), seçilen zaman veya alan aralığında beklenen olay sayısıdır. Bu dağılımın özel bir özelliği, beklenen değer ile varyansın aynı sayıya eşit olmasıdır:

    $$ \operatorname{E}[X]=\lambda, \qquad \operatorname{Var}(X)=\lambda $$

    Örneğin saatte ortalama 4 çağrı için Poisson modeli kullanıyorsak beklenen değer 4, varyans 4 ve standart sapma 2 çağrıdır. Bu eşitlik bütün sayım verilerinin kuralı değildir. Gerçek verinin varyansı ortalamadan çok farklıysa sabit olay hızı veya bağımsızlık gibi Poisson varsayımlarını yeniden incelemeliyiz.

    Normal: Bir merkez çevresindeki sürekli ölçümler

    Normal dağılımı \(N(\mu,\sigma^2)\) biçiminde yazdığımızda semboller doğrudan dağılımın özetlerini verir:

    $$ \operatorname{E}[X]=\mu, \qquad \operatorname{Var}(X)=\sigma^2 $$

    Standart sapma \(\sigma\)'dır. Normal dağılım simetrik olduğu için beklenen değer, ortanca ve çanın tepesi aynı merkezde buluşur. Genel bir dağılımda bu üç merkezin aynı olması gerekmez.

    Dağılım Beklenen değer Varyans Standart sapma
    Bernoulli\((p)\) \(p\) \(p(1-p)\) \(\sqrt{p(1-p)}\)
    Poisson\((\lambda)\) \(\lambda\) \(\lambda\) \(\sqrt{\lambda}\)
    Normal\((\mu,\sigma^2)\) \(\mu\) \(\sigma^2\) \(\sigma\)

    Yapay Zekâda Beklenen Değer: Ortalama Hatanın Bedeli

    Bir müşteri hizmetleri modeli düşünelim. Soruların yüzde 90'ı sık görülen ve kolay türde, yüzde 10'u ise seyrek fakat zor türde olsun. Modelin kolay sorulardaki hata maliyeti 1, zor sorulardaki hata maliyeti 9 birim olsun. Dağılım üzerindeki ortalama hata maliyeti:

    $$ 0{,}90\cdot1+0{,}10\cdot9=1{,}8 $$

    Bu da beklenen değerin aynısıdır: Her durumdaki kaybı, o durumun görülme olasılığıyla ağırlıklandırdık. Zor sorular az görülse bile yüksek maliyetleri nedeniyle ortalamaya önemli katkı yaptı. Yalnızca “soruların yüzde 90'ında iyiyiz” demek bu riski gizlerdi.

    Genel gösterimde modelin parametrelerini \(\theta\), bir örnekteki kaybını \(\ell\) ile gösterirsek amaç, veri dağılımı üzerindeki beklenen kaybı azaltmaktır:

    $$ R(\theta)=\operatorname{E}\!\left[\ell(\text{model tahmini},\text{gerçek sonuç})\right] $$

    Gerçek dünyadaki bütün olası örnekleri ve olasılıklarını bilmediğimiz için bu değeri doğrudan hesaplayamayız. Eğitim verisindeki kayıpların ortalamasını onun yerine kullanırız. Fakat eğitim verisi gerçek kullanımı temsil etmiyorsa veya model örnekleri ezberlemişse düşük eğitim kaybı gerçek hayatta düşük beklenen kayıp garanti etmez.

    Kareli hata kullanan bir regresyon modelinde ortalama ile özel bir bağ vardır: Hiçbir başka bilgi kullanmadan herkese tek bir sabit tahmin vermek zorunda olsaydık, kareli hatayı en aza indiren sayı hedefin beklenen değeri olurdu. Bunun nedeni, ortalamanın kareli uzaklıkların denge noktası olmasıdır. Ayrıntılı türetimi regresyon ve kayıp fonksiyonlarını işlerken yeniden kuracağız.

    Teorik Dağılım ile Gözlenen Veri

    Buraya kadar olasılık dağılımını bildiğimizi varsaydık. Kafe örneğinde hangi müşteri sayısına hangi olasılığı verdiğimiz belliydi; bu nedenle beklenen değer ve varyansı doğrudan hesaplayabildik.

    Gerçek hayatta çoğu zaman durum tersidir. Elimizde geçmiş günlerin müşteri sayıları vardır, fakat bu sayıları üreten dağılımı ve onun \(p\), \(\lambda\), \(\mu\) veya \(\sigma\) gibi parametrelerini tam olarak bilmeyiz. Veriye bakarak hangi parametre değerlerinin daha makul olduğunu belirlememiz gerekir.

    Örneğin on ziyaretçinin sekizi satın alma yaptıysa Bernoulli olasılığı \(p\) için hangi değer en güçlü adaydır? Bir saatte gözlenen çağrı sayıları 3, 5, 4 ve 6 ise Poisson hızını hangi \(\lambda\) daha iyi açıklar? “Bu parametre seçilseydi gördüğümüz verinin ortaya çıkması ne kadar makul olurdu?” sorusu bizi olabilirlik fikrine götürür.

    Sonraki Adıma Hazırlık
    Beklenen değer ve varyans, parametreleri bilinen bir dağılımın merkezini ve yayılımını anlatır. Sıradaki yazıda yönü tersine çevireceğiz: Gözlenen veriden yola çıkıp bilinmeyen parametreler için hangi değerlerin daha makul olduğunu araştıracağız.

    Sık Yapılan Hatalar

    • Beklenen değeri kesin gelecek sonuç sanmak: Beklenen değer tek denemenin tahmini değil, uzun dönemli ağırlıklı merkezdir.
    • Beklenen değeri en olası sonuçla karıştırmak: En sık beklenen tek sonuç ile bütün dağılımın denge noktası farklı olabilir.
    • Olasılık ağırlıklarını unutmak: Eşit olasılıklı olmayan sonuçların sıradan aritmetik ortalaması beklenen değeri vermez.
    • Sapmaları doğrudan toplamak: Merkezin altındaki ve üstündeki sapmalar birbirini götürür; varyans kareli sapmaları kullanır.
    • \(\operatorname{E}[X^2]\) ile \(\bigl(\operatorname{E}[X]\bigr)^2\)'yi aynı sanmak: İlkinde önce kare alırız, ikincisinde önce ortalama alırız.
    • Varyans ile standart sapmayı karıştırmak: Varyans kareli birimdedir; standart sapma asıl birime geri döner.
    • Büyük varyansı otomatik olarak kötü saymak: Daha büyük yayılım bazen risk, bazen gerçek çeşitlilik veya daha büyük kazanç fırsatı anlamına gelebilir.
    • Düşük varyansı doğruluk sanmak: Sürekli aynı yanlış değeri üretmek düşük varyanslı ama kötü bir davranıştır.
    • Normal dağılımın yüzde kuralını her yere uygulamak: Standart sapma her dağılımda vardır; yüzde 68–95–99,7 kuralı Normal biçime bağlıdır.
    • Teorik parametre ile veri özetini karıştırmak: Dağılımın gerçek beklenen değeri ile sonlu veriden hesaplanan ortalama aynı olmak zorunda değildir.

    Bir Problemi Okurken Kısa Kontrol Listesi

    1. Rastgele büyüklüğü ve birimini söyleyin: müşteri, dakika, lira veya başka bir şey mi?
    2. Mümkün sonuçları ve olasılıklarını belirleyin.
    3. Beklenen değer için her sonucu kendi olasılığıyla ağırlıklandırın.
    4. Beklenen değeri tek sonuç garantisi olarak değil, uzun dönemli merkez olarak yorumlayın.
    5. Varyans için önce merkezi bulun, sonra kareli uzaklıkların ağırlıklı ortalamasını alın.
    6. Sonucu birimiyle okuyun: varyans kareli, standart sapma asıl birimdedir.
    7. Aynı merkeze sahip dağılımların farklı yayılımları ve kuyrukları olabileceğini kontrol edin.
    8. Model varsayımları ile gözlenen veriyi birbirinden ayırın.
    9. Bir karar verirken ortalamanın saklayabileceği seyrek ama maliyetli sonuçları ayrıca inceleyin.

    Sonuç: Merkez ile Belirsizliği Birlikte Görmek

    Beklenen değer, mümkün sonuçları olasılıklarıyla ağırlıklandırarak dağılımın uzun dönemli denge noktasını bulur. Varyans, sonuçların bu merkezden kareli uzaklıklarını ortalayarak yayılımı ölçer; standart sapma da bu yayılımı rastgele büyüklüğün kendi birimine geri taşır.

    Kafe örneğinde aynı 100 müşterilik beklenen değere sahip iki planın 10 ve 50 müşterilik standart sapmalara sahip olabildiğini gördük. Bu ayrım bize merkezin tek başına yeterli olmadığını gösterdi. Bernoulli, Poisson ve Normal dağılımlarının parametrelerinin merkez ve yayılımla nasıl ilişkilendiğini öğrendik; yapay zekâda da farklı durumların kayıplarını olasılıklarıyla ağırlıklandırarak beklenen riske ulaştık.

    Şimdiye kadar dağılımın ve parametrelerinin bilindiği yönde ilerledik: Parametrelerden olası sonuçlara, oradan beklenen değer ve varyansa gittik. Sıradaki Olabilirlik, Log-Olabilirlik ve Parametre Tahmini: MLE ile MAP yazısında bu yönü tersine çevireceğiz. Gözlenen veriden başlayıp hangi parametre değerlerinin veriyi daha iyi açıkladığını, çok küçük olasılıkların çarpımını neden logaritmayla toplama çevirdiğimizi ve ön bilgiyi tahmine nasıl katabildiğimizi inceleyeceğiz.

    Yazar: Levent KARAGÖL

    Makaleyi Paylaş:

    İlgili Makaleler