15. Koşullu Olasılık ve Bayes Teoremi

18 Eylül 2026

25 dakika

4 görüntüleme

Koşullu olasılık, yeni bir bilgi öğrendiğimizde mümkün gördüğümüz sonuçları ve onlara verdiğimiz olasılıkları nasıl değiştirmemiz gerektiğini anlatır; Bayes Teoremi ise gözlenen bir belirtiden, test sonucundan veya veriden yola çıkarak bunun arkasındaki olası nedenler hakkında yeniden düşünmemizi sağlar. Bu makalede koşulun örnek uzayı nasıl daralttığını günlük örneklerle kuracak; çarpım ve toplam olasılık kurallarından Bayes Teoremi'ni adım adım türetecek, taban oranı yanılgısını sayılarla inceleyecek ve bu düşüncenin sınıflandırma, spam filtreleme ve belirsizlik altında karar verme gibi yapay zekâ uygulamalarındaki rolünü göreceğiz.

Yeni Bir Bilgi Olasılığı Neden Değiştirir?

Bir kutuda 6 kırmızı ve 4 mavi top bulunduğunu düşünelim. Kutudan rastgele seçilen topun kırmızı olma olasılığı başlangıçta $6/10$'dur. Fakat biri bize seçilen topun üzerinde yıldız işareti bulunduğunu söylerse artık yalnızca renklere değil, yıldızlı topların hangi renklerde olduğuna da bakmamız gerekir.

Yeni bilgi topun rengini fiziksel olarak değiştirmez. Değişen şey, hangi sonuçları hâlâ mümkün saydığımız ve bu sonuçlara nasıl ağırlık verdiğimizdir. Yıldızlı olmayan toplar artık sorumuzun dışında kalır; hesabı yalnızca yıldızlı toplar arasında yaparız.

Koşullu olasılığın temel düşüncesi budur: Bir bilginin doğru olduğunu kabul ettiğimizde, bakışımızı bu bilgiyle uyumlu sonuçlara daraltır ve olasılığı bu yeni alan içinde yeniden hesaplarız.

Temel Olasılık Kavramları makalesinde örnek uzayı, olayları, kesişimi ve bağımsızlığı tanımıştık. Şimdi bu yapıların üzerine “bir olayı öğrendikten sonra” ifadesini ekleyeceğiz.

Koşul, Yeni Bir Örnek Uzay Gibidir

Adil bir zar attığımızı düşünelim. Başlangıçtaki örnek uzay:

$$ \Omega=\{1,2,3,4,5,6\} $$

olsun. Zarın 3'ten büyük gelmesi olayına $A$, çift gelmesi olayına $B$ diyelim:

$$ A=\{4,5,6\}, \qquad B=\{2,4,6\} $$

Zarın çift geldiğini henüz bilmiyorsak $A$'nın olasılığı $3/6=1/2$'dir. Şimdi zarın çift geldiği bilgisini öğrendiğimizi düşünelim. Artık 1, 3 ve 5 sonuçlarını değerlendirmemize gerek yoktur. Yeni bakış alanımız:

$$ B=\{2,4,6\} $$

kümesidir. Bu üç sonucun içinde $A$'yı da sağlayanlar, yani hem 3'ten büyük hem çift olanlar 4 ve 6'dır:

$$ A\cap B=\{4,6\} $$

Dolayısıyla zarın çift geldiği biliniyorken 3'ten büyük olma olasılığı:

$$ \frac{2}{3} $$

olur. Başlangıçtaki $1/2$ değeri $2/3$'e çıktı. Çünkü öğrendiğimiz bilgi, 3'ten büyük olayıyla uyumlu sonuçları diğerlerine göre daha fazla bıraktı.

Koşulun etkisi: Koşul, bütün örnek uzayı yok etmez; dikkatimizi koşulu sağlayan bölgeye taşır. Ardından bu bölgedeki olasılıkları toplamları yeniden 1 olacak biçimde değerlendiririz.

Koşullu Olasılığın Tanımı

“$B$ olayının gerçekleştiğini biliyorken $A$ olayının olasılığı” şu gösterimle yazılır:

$$ P(A\mid B) $$

Bu ifade “B koşuluyla A'nın olasılığı” veya “B verilmişken A'nın olasılığı” diye okunur. Ortadaki dik çizgi burada bölme işareti değildir; sağ taraftaki bilginin doğru kabul edildiğini gösterir.

$B$'nin olasılığı sıfırdan büyük olmak üzere koşullu olasılık şöyle tanımlanır:

$$ P(A\mid B) = \frac{P(A\cap B)}{P(B)}, \qquad P(B)>0 $$

Formülü adım adım okuyalım:

Paydadaki $P(B)$, artık içinde çalıştığımız koşul bölgesinin olasılığıdır.
Paydaki $P(A\cap B)$, bu bölgenin içinde aynı zamanda $A$'yı da sağlayan ortak kısımdır.
Ortak kısmı bütün koşul bölgesine bölerek, $B$'nin içindeki hangi payın $A$'ya ait olduğunu buluruz.

Zar örneğimize bu formülle dönelim:

$$ \begin{aligned} P(A\cap B)&=\frac{2}{6},\\ P(B)&=\frac{3}{6},\\ P(A\mid B) &=\frac{2/6}{3/6} =\frac{2}{3}. \end{aligned} $$

Sayarak bulduğumuz sonuç ile formülden bulduğumuz sonuç aynıdır. Formül, “koşulu sağlayanların içinde ilgilendiğimiz olayın payını bul” düşüncesinin kısa yazımıdır.

$P(A\mid B)$ ile $P(B\mid A)$ Aynı Şey Değildir

Koşullu olasılıkta sıra anlamı değiştirir. Zar örneğinde:

$P(A\mid B)$, zarın çift olduğu biliniyorken 3'ten büyük olma olasılığıdır.
$P(B\mid A)$, zarın 3'ten büyük olduğu biliniyorken çift olma olasılığıdır.

Bu özel örnekte iki değer tesadüfen eşittir:

$$ P(A\mid B)=\frac{2}{3}, \qquad P(B\mid A)=\frac{2}{3}. $$

Fakat bu eşitlik genel bir kural değildir. “Bir itfaiye aracı görüldüğünde yangın olma olasılığı” ile “yangın olduğunda itfaiye aracı görülme olasılığı” aynı soruyu sormaz. Yangınların çoğuna araç gönderiliyor olabilir; fakat yolda gördüğümüz her itfaiye aracı yakınlarda yangın olduğu anlamına gelmeyebilir.

Bayes Teoremi'nin en önemli görevlerinden biri, bu iki yön arasındaki ilişkiyi doğru kurmaktır. Ancak bir koşulu ters çevirmek için yalnızca kesri ters çevirmek yetmez; olayların başlangıçtaki görülme oranlarını da hesaba katmamız gerekir.

Koşullu Olasılıktan Çarpım Kuralına

Koşullu olasılık tanımını yeniden yazalım:

$$ P(A\mid B)=\frac{P(A\cap B)}{P(B)} $$

Her iki tarafı $P(B)$ ile çarparsak:

$$ P(A\cap B) =P(A\mid B)P(B) $$

elde ederiz. Aynı kesişimi olayların sırasını değiştirerek de yazabiliriz:

$$ P(A\cap B) =P(B\mid A)P(A) =P(A\mid B)P(B) $$

Bu eşitliğe çarpım kuralı denir. İki olayın birlikte gerçekleşme olasılığını bulmak için önce olaylardan birinin olasılığını, ardından ilk olay gerçekleşmişken ikincinin koşullu olasılığını çarparız.

Kartları Geri Koymadan Çekelim

52 kartlık standart bir desteden art arda iki kart çekelim ve ilk kartı geri koymayalım. İlk kartın As olması $A_1$, ikinci kartın As olması $A_2$ olsun. İki kartın da As olması:

$$ \begin{aligned} P(A_1\cap A_2) &=P(A_1)P(A_2\mid A_1)\\ &=\frac{4}{52}\cdot\frac{3}{51}\\ &=\frac{1}{221}. \end{aligned} $$

İlk çekişten önce destede 4 As vardır. İlk kartın As olduğunu öğrendikten sonra destede 51 kart ve 3 As kalır. İkinci çarpandaki değişim, koşullu olasılığın tam olarak neyi yaptığını gösterir.

Üç veya Daha Fazla Aşamada Zincir Kuralı

Üç olayın birlikte gerçekleşme olasılığını da aynı düşünceyle adım adım açabiliriz:

$$ P(A\cap B\cap C) =P(A)P(B\mid A)P(C\mid A\cap B) $$

Önce $A$'nın olasılığını alırız. Ardından $A$ gerçekleşmişken $B$'nin, son olarak $A$ ve $B$ birlikte gerçekleşmişken $C$'nin olasılığıyla çarparız.

Genel olarak sıralı olaylar için:

$$ \begin{aligned} P(A_1\cap A_2\cap\cdots\cap A_n) &=P(A_1)\cdot P(A_2\mid A_1)\\ &\quad\cdot P(A_3\mid A_1\cap A_2) \cdots P(A_n\mid A_1\cap\cdots\cap A_{n-1}) \end{aligned} $$

yazabiliriz. Buna olasılığın zincir kuralı denir. Türevdeki Zincir Kuralı ile adı aynı olsa da burada türev almıyoruz. Ortak fikir, karmaşık bir yapıyı art arda gelen yerel adımlara ayırmaktır.

Bir dil modelinin bir cümleye verdiği olasılık da benzer biçimde her yeni parçanın önceki parçalar koşulundaki olasılıklarının çarpımı olarak yazılabilir:

$$ P(x_1,x_2,\ldots,x_n) = \prod_{t=1}^{n} P(x_t\mid x_1,\ldots,x_{t-1}) $$

Buradaki $\prod$ işareti terimlerin çarpıldığını gösterir. Bu eşitlik, modelin ürettiği metnin doğru veya gerçek olduğunu garanti etmez; yalnızca ortak olasılığın koşullu adımlara nasıl ayrıldığını anlatır.

Bağımsızlık, Koşullu Olasılığın Özel Bir Durumudur

$A$'yı öğrenmek $B$'nin olasılığını değiştirmiyorsa olayların bağımsız olduğunu söylemiştik. Koşullu olasılık diliyle:

$$ P(B\mid A)=P(B) $$

olur. Bunu çarpım kuralında yerine koyarsak:

$$ P(A\cap B) =P(A)P(B\mid A) =P(A)P(B) $$

elde ederiz. Yani önceki makalede gördüğümüz bağımsız olayların çarpım formülü, daha genel çarpım kuralının özel durumudur.

Her çarpım bağımsızlık anlamına gelmez. Bağımlı olaylarda da çarpım kuralı kullanılır; yalnızca ikinci çarpan koşullu olasılık olarak kalır. $P(A\cap B)=P(A)P(B)$ sadeleşmesi ancak bağımsızlık gerçekten sağlandığında yapılabilir.

Koşula Bağlı Bağımsızlık Ne Demektir?

İki olay genel olarak bağımlı olduğu hâlde üçüncü bir bilgi verildiğinde bağımsız hâle gelebilir. Buna koşullu bağımsızlık denir.

Örneğin bir sınıftaki öğrencilerin hem şemsiye taşıma hem de ıslak ayakkabıyla gelme durumları birlikte artsın. Bu iki gözlem bağımlı görünebilir. Fakat o gün yağmur yağıp yağmadığını bilirsek, aralarındaki ilişkinin büyük bölümü ortak neden olan yağmurla açıklanabilir.

$C$ koşulu altında $A$ ile $B$ bağımsızsa:

$$ P(A\cap B\mid C) =P(A\mid C)P(B\mid C) $$

yazarız. Bu, $A$ ile $B$'nin koşulsuz olarak da bağımsız olduğu anlamına gelmez. Bağımsızlık hangi bilgiyi koşul kabul ettiğimize göre değişebilir.

İleride inceleyeceğimiz Naive Bayes modeli, özelliklerin sınıf bilgisi verildiğinde birbirinden bağımsız olduğu yönünde güçlü bir sadeleştirme yapar. Bu varsayım her veri kümesinde tam doğru olmayabilir; fakat hesaplamayı büyük ölçüde kolaylaştırır.

Bütünü Parçalara Ayırmak: Toplam Olasılık Kuralı

Bir olayın farklı ve birbirini dışlayan nedenlerden ortaya çıkabildiğini düşünelim. Bir fabrikada ürünler iki makineden geliyor olsun:

$M_1$: Ürünlerin yüzde 70'ini üreten birinci makine.
$M_2$: Ürünlerin yüzde 30'unu üreten ikinci makine.

Rastgele seçilen bir ürün ya $M_1$'den ya da $M_2$'den gelmiştir; iki durum aynı anda gerçekleşemez ve birlikte bütün seçenekleri kapsar. Böyle olaylara örnek uzayın bir parçalanması denir.

Ürünün kusurlu olması olayına $K$ diyelim. Birinci makinede kusur oranı yüzde 2, ikinci makinede yüzde 5 olsun:

$$ \begin{aligned} P(M_1)&=0{,}70, & P(K\mid M_1)&=0{,}02,\\ P(M_2)&=0{,}30, & P(K\mid M_2)&=0{,}05. \end{aligned} $$

Kusurlu bir ürün iki ayrı yoldan ortaya çıkabilir:

$$ \begin{aligned} P(K) &=P(K\cap M_1)+P(K\cap M_2)\\ &=P(K\mid M_1)P(M_1) +P(K\mid M_2)P(M_2)\\ &=0{,}02\cdot0{,}70 +0{,}05\cdot0{,}30\\ &=0{,}014+0{,}015\\ &=0{,}029. \end{aligned} $$

Rastgele seçilen bir ürünün kusurlu olma olasılığı yüzde 2,9'dur. Makine oranlarını hesaba katmadan yüzde 2 ile yüzde 5'in sıradan ortalamasını almak yanlış olurdu; çünkü iki makine eşit miktarda üretim yapmıyor.

Genel olarak birbirini dışlayan ve bütün örnek uzayı kapsayan $H_1,H_2,\ldots,H_n$ olayları için:

$$ P(B) = \sum_{i=1}^{n} P(B\mid H_i)P(H_i) $$

yazarız. Buna toplam olasılık kuralı denir. $B$'nin mümkün olan bütün yollardan gelen katkılarını toplarız.

Bayes Teoremi'ni Adım Adım Türetelim

Şimdi aynı kesişimi iki farklı sırayla yazalım:

$$ \begin{aligned} P(A\cap B)&=P(A\mid B)P(B),\\ P(A\cap B)&=P(B\mid A)P(A). \end{aligned} $$

Sol taraflar aynı olayı anlattığı için sağ taraflar da eşittir:

$$ P(A\mid B)P(B) =P(B\mid A)P(A) $$

$P(B)>0$ olmak üzere iki tarafı $P(B)$'ye bölersek Bayes Teoremi'ne ulaşırız:

$$ \boxed{ P(A\mid B) = \frac{P(B\mid A)P(A)}{P(B)} } $$

Formülün her parçası yeni bilgiyle güncellemenin farklı bir görevini üstlenir:

$P(A)$ — önsel olasılık (prior): $B$ bilgisini görmeden önce $A$ hakkında sahip olduğumuz olasılık.
$P(B\mid A)$ — olabilirlik (likelihood): $A$ doğruysa $B$ gözlemini görmenin ne kadar beklendiği.
$P(B)$ — kanıtın olasılığı (evidence): $B$'nin bütün olası nedenlerden gelme olasılığı.
$P(A\mid B)$ — sonsal olasılık (posterior): $B$'yi gördükten sonra $A$ için güncellediğimiz olasılık.

Bayes Teoremi yeni bilgi yaratmaz. Elimizdeki önsel bilgi ile gözlemin farklı durumlarda ne kadar beklenir olduğunu tutarlı biçimde birleştirir.

Fabrika Örneğini Tersine Çevirelim

Bir ürünün ikinci makineden geldiğini biliyorken kusurlu olma olasılığını zaten biliyoruz:

$$ P(K\mid M_2)=0{,}05 $$

Peki elimizde kusurlu bir ürün varsa bunun ikinci makineden gelmiş olma olasılığı nedir? Aradığımız yön:

$$ P(M_2\mid K) $$

Bayes Teoremi'ni kullanalım. Toplam olasılık hesabından $P(K)=0{,}029$ bulmuştuk:

$$ \begin{aligned} P(M_2\mid K) &= \frac{P(K\mid M_2)P(M_2)}{P(K)}\\ &= \frac{0{,}05\cdot0{,}30}{0{,}029}\\ &= \frac{0{,}015}{0{,}029}\\ &\approx0{,}517. \end{aligned} $$

İkinci makine üretimin yalnızca yüzde 30'unu yapmasına rağmen kusurlu ürünlerin yaklaşık yüzde 51,7'si ondan gelir. Çünkü kusur oranı daha yüksektir. Fakat sonuç yüzde 100 değildir; birinci makine daha düşük kusur oranına sahip olsa da çok daha fazla ürün üretmektedir.

Bu örnek Bayes düşüncesinin iki kuvveti aynı anda tarttığını gösterir: Bir neden ne kadar yaygın ve gözlem o neden altında ne kadar olası?

Yüzdeler Yerine İnsan Saymak: Doğal Frekanslar

Bayes sorularındaki yüzdeler ilk bakışta kafa karıştırabilir. Aynı hesabı hayali bir topluluk üzerinde kişi sayılarıyla yapmak çoğu zaman daha anlaşılırdır.

Nadir görülen bir durum için tamamen örnek amaçlı bir tarama testi düşünelim:

Toplumda bu durumun görülme oranı yüzde 1 olsun.
Durum gerçekten varsa testin pozitif çıkma oranı yüzde 90 olsun. Buna duyarlılık denir.
Durum yokken testin yanlışlıkla pozitif çıkma oranı yüzde 5 olsun. Buna yanlış pozitif oranı denir.

10.000 kişilik hayali bir topluluk kullanalım.

Grup	Kişi sayısı	Pozitif test	Negatif test
Durum var	100	90	10
Durum yok	9.900	495	9.405
Toplam	10.000	585	9.415

Pozitif test alan 585 kişinin 90'ında durum gerçekten vardır. O hâlde pozitif sonuç verildiğinde durumun bulunma olasılığı:

$$ \frac{90}{585} =\frac{2}{13} \approx0{,}154 $$

yani yaklaşık yüzde 15,4'tür. Test, durum mevcutken yüzde 90 oranında pozitif sonuç verdiği hâlde $P(\text{durum var}\mid\text{pozitif})$ yüzde 90 çıkmadı. Çünkü durumun bulunmadığı grup çok daha büyüktür; yüzde 5'lik küçük yanlış pozitif oranı bile bu büyük grupta 495 kişiye karşılık gelir.

Taban oranı önemlidir: Bir testin veya sınıflandırıcının “durum varken pozitif verme oranı”, pozitif sonuçtan sonra durumun olasılığıyla aynı değildir. Gerçek yorum; durumun başlangıçtaki yaygınlığını, doğru pozitifleri ve yanlış pozitifleri birlikte gerektirir.

Aynı Hesabı Bayes Formülüyle Yapalım

Durumun varlığına $D$, pozitif test sonucuna $+$ diyelim. Verilerimiz:

$$ \begin{aligned} P(D)&=0{,}01,\\ P(+\mid D)&=0{,}90,\\ P(+\mid D^c)&=0{,}05. \end{aligned} $$

Önce pozitif sonucun bütün yollarını toplayalım:

$$ \begin{aligned} P(+) &=P(+\mid D)P(D) +P(+\mid D^c)P(D^c)\\ &=0{,}90\cdot0{,}01 +0{,}05\cdot0{,}99\\ &=0{,}009+0{,}0495\\ &=0{,}0585. \end{aligned} $$

Şimdi Bayes Teoremi:

$$ \begin{aligned} P(D\mid +) &= \frac{P(+\mid D)P(D)}{P(+)}\\ &= \frac{0{,}90\cdot0{,}01}{0{,}0585}\\ &\approx0{,}154. \end{aligned} $$

Kişi sayılarıyla ve formülle aynı sonuca ulaştık. Doğal frekans tablosu sezgiyi görünür hâle getirir; Bayes formülü ise aynı hesabı daha genel ve kısa biçimde taşır.

Duyarlılık ve Özgüllük Neyi Ölçer?

Test ve sınıflandırma problemlerinde birbirine benzeyen dört koşullu oranla sık karşılaşırız:

Duyarlılık: Durum gerçekten varken pozitif sonuç verme oranı, $P(+\mid D)$.
Yanlış negatif oranı: Durum varken negatif sonuç verme oranı, $P(-\mid D)$.
Özgüllük: Durum yokken negatif sonuç verme oranı, $P(-\mid D^c)$.
Yanlış pozitif oranı: Durum yokken pozitif sonuç verme oranı, $P(+\mid D^c)$.

Aynı koşul altında iki olası test sonucu birbirinin tümleyeni olduğu için:

$$ \begin{aligned} P(+\mid D)+P(-\mid D)&=1,\\ P(+\mid D^c)+P(-\mid D^c)&=1. \end{aligned} $$

Buna karşılık “pozitif sonuç verildiğinde durumun gerçekten bulunma oranı” $P(D\mid+)$'dır. Bu değer yalnızca testin yapısına değil, durumun incelenen topluluktaki taban oranına da bağlıdır.

Taban Oranı Değişirse Sonuç da Değişir

Aynı duyarlılık ve yanlış pozitif oranına sahip testi, durumun yüzde 10 oranında görüldüğü daha yüksek riskli bir grupta kullandığımızı düşünelim:

$$ \begin{aligned} P(D)&=0{,}10,\\ P(+\mid D)&=0{,}90,\\ P(+\mid D^c)&=0{,}05. \end{aligned} $$

Bu kez:

$$ \begin{aligned} P(D\mid+) &= \frac{0{,}90\cdot0{,}10} {0{,}90\cdot0{,}10+0{,}05\cdot0{,}90}\\ &= \frac{0{,}09}{0{,}135}\\ &=\frac{2}{3} \approx0{,}667. \end{aligned} $$

Testin teknik oranları değişmedi; fakat pozitif sonuçtan sonraki olasılık yüzde 15,4'ten yüzde 66,7'ye çıktı. Çünkü teste giren topluluğun başlangıç yapısı değişti.

Bu nedenle bir modelin başarısını bir grupta ölçüp başka bir toplulukta aynı yorumla kullanmak riskli olabilir. Veri dağılımı, sınıfların görülme oranı veya seçim süreci değiştiğinde sonsal olasılıklar da değişebilir.

Birden Fazla Hipotez İçin Bayes Teoremi

Bazen yalnızca $A$ ve $A^c$ gibi iki seçenek değil, birbirini dışlayan birçok olası neden vardır. $H_1,H_2,\ldots,H_n$ hipotezleri bütün olasılıkları kapsasın. $B$ gözleminden sonra belirli bir $H_k$ hipotezinin olasılığı:

$$ P(H_k\mid B) = \frac{P(B\mid H_k)P(H_k)} {\displaystyle\sum_{i=1}^{n}P(B\mid H_i)P(H_i)} $$

olur. Pay, seçtiğimiz hipotezin gözlemi üretme katkısıdır. Payda ise aynı gözlemin bütün olası hipotezlerden gelen toplam olasılığıdır.

Bu bölme aynı zamanda normalleştirme yapar. Bütün hipotezlerin sonsal olasılıklarını topladığımızda sonuç 1 olur:

$$ \sum_{k=1}^{n}P(H_k\mid B)=1 $$

Bayes Teoremi bu yüzden yalnızca en olası nedeni seçmez; bütün olası nedenler arasında yeni bir olasılık dağılımı oluşturur.

Yeni Bilgi Geldikçe Ardışık Güncelleme

Bayes güncellemesi tek seferlik olmak zorunda değildir. İlk gözlemden sonra bulduğumuz sonsal olasılık, ikinci gözlem için yeni önsel olasılık hâline gelebilir.

Bir hipoteze $H$, art arda gelen gözlemlere $B_1$ ve $B_2$ diyelim. İlk güncelleme:

$$ P(H\mid B_1) \propto P(B_1\mid H)P(H) $$

biçimindedir. $\propto$ işareti “orantılıdır” diye okunur; eşitlik için bütün hipotezler üzerinde normalleştirme gerekir. İkinci bilgi geldiğinde:

$$ P(H\mid B_1,B_2) \propto P(B_2\mid H,B_1)P(H\mid B_1) $$

yazarız. Eğer $B_1$ ile $B_2$, $H$ verildiğinde koşullu olarak bağımsızsa ifade sadeleşir:

$$ P(H\mid B_1,B_2) \propto P(B_2\mid H)P(B_1\mid H)P(H) $$

Hava tahmininin yeni ölçümler geldikçe, bir robotun konum tahmininin yeni sensör verileri geldikçe veya bir spam filtresinin yeni kelimeleri gördükçe güncellenmesi bu düşüncenin farklı örnekleridir.

Olasılık Yerine Oranlarla Bakmak: Bayes'in Oran Biçimi

Bir olayın olasılığı $p$ ise, gerçekleşme olasılığını gerçekleşmeme olasılığına bölen:

$$ \frac{p}{1-p} $$

ifadesine olasılık oranı veya kısaca odds denir. Örneğin $p=0{,}75$ ise oran $0{,}75/0{,}25=3$'tür; bunu “gerçekleşme yönünde 3'e 1” diye okuyabiliriz.

Bayes Teoremi iki hipotez için oran biçiminde şöyle yazılabilir:

$$ \underbrace{ \frac{P(H\mid B)}{P(H^c\mid B)} }_{\text{Sonsal oran}} = \underbrace{ \frac{P(H)}{P(H^c)} }_{\text{Önsel oran}} \underbrace{ \frac{P(B\mid H)}{P(B\mid H^c)} }_{\text{Olabilirlik oranı (likelihood ratio)}} $$

Gözlem, önsel oranı kendi olabilirlik oranıyla çarpar. $B$ gözlemi $H$ altında, $H^c$'ye göre 5 kat daha beklenirse $H$ lehindeki başlangıç oranını 5 kat büyütür. Bu biçim özellikle art arda gelen bağımsız kanıtların etkisini çarpanlar hâlinde görmeyi kolaylaştırır.

Burada “olabilirlik” sözcüğünü olasılıkla karıştırmamalıyız. $P(B\mid H)$, hipotezi sabit kabul edip gözlemin olasılığını değerlendirir. Hipotezin gözlemden sonraki olasılığı ise $P(H\mid B)$'dir ve Bayes güncellemesinin sonucudur.

Yapay Zekâda Bayes: Sınıftan Veriye, Veriden Sınıfa

Bir sınıflandırma modelinin e-postanın spam olup olmadığını tahmin ettiğini düşünelim. Sınıfa $C$, e-postadaki gözlenen özelliklere $\mathbf{x}$ diyelim. Aradığımız:

$$ P(C\mid\mathbf{x}) $$

yani özellikler görülmüşken sınıfın olasılığıdır. Bayes Teoremi:

$$ P(C\mid\mathbf{x}) = \frac{P(\mathbf{x}\mid C)P(C)} {P(\mathbf{x})} $$

der. Burada $P(C)$, e-postalar içinde spam sınıfının başlangıçtaki oranıdır. $P(\mathbf{x}\mid C)$, e-posta spam ise “ücretsiz”, “kazandınız” veya belirli bağlantı örüntüleri gibi özellikleri görmenin ne kadar olası olduğunu anlatır. Payda, gözlenen özelliklerin bütün sınıflardaki toplam olasılığıdır.

Sadece hangi sınıfın daha büyük olduğunu karşılaştırıyorsak $P(\mathbf{x})$ bütün sınıflar için aynı olduğundan:

$$ P(C\mid\mathbf{x}) \propto P(\mathbf{x}\mid C)P(C) $$

yazabiliriz. Yani model, “Bu sınıf ne kadar yaygın?” ile “Bu veri o sınıfta ne kadar beklenir?” sorularını birleştirir.

Naive Bayes Neden Naif Denir?

Bir e-posta yüzlerce kelime veya özellik içerebilir. Bunların ortak olasılığı olan $P(\mathbf{x}\mid C)$'yi doğrudan öğrenmek çok zor olabilir. Naive Bayes, sınıf $C$ bilindiğinde özelliklerin birbirinden koşullu olarak bağımsız olduğunu varsayar:

$$ P(x_1,x_2,\ldots,x_n\mid C) \approx \prod_{i=1}^{n}P(x_i\mid C) $$

Bu varsayım “naif”tir; çünkü kelimeler gerçek dilde bütünüyle bağımsız değildir. “Kredi” ile “kartı” veya “yapay” ile “zekâ” birlikte görülme eğilimindedir. Yine de sadeleştirme, çok boyutlu ortak bir hesabı tek tek özellik olasılıklarının çarpımına dönüştürür ve bazı görevlerde etkili sonuç verebilir.

Çok sayıda küçük olasılığı çarpmak bilgisayarda sayısal alt taşmaya yol açabileceği için pratikte çoğu zaman logaritmalar kullanılır:

$$ \log P(C\mid\mathbf{x}) = \text{sabit} +\log P(C) +\sum_{i=1}^{n}\log P(x_i\mid C) $$

Böylece Üstel ve Logaritmik Fonksiyonlar makalesinde gördüğümüz “çarpımı toplama dönüştürme” fikri, olasılıksal sınıflandırmada doğrudan işe yarar. Naive Bayes'i makine öğrenmesi bölümünde kendi varsayımları, eğitim süreci ve farklı veri türleriyle ayrıntılı olarak inceleyeceğiz.

Bayesçi Düşünce Bir Doğruluk Makinesi Değildir

Bayes Teoremi matematiksel olarak doğru bir güncelleme kuralıdır; fakat verdiğimiz sayıların doğru olmasını garanti etmez. Yanlış önsel olasılık, hatalı ölçülen olabilirlikler veya gerçek seçenekleri kapsamayan bir hipotez listesi, düzgün hesaplanmış ama yanıltıcı bir sonuç üretebilir.

Bir yapay zekâ modeli $P(\text{Kedi}\mid\text{görüntü})=0{,}92$ diyebilir. Bu sayının anlamlı bir olasılık olarak yorumlanabilmesi için yalnızca model çıktılarının toplamının 1 olması yetmez. Benzer görüntülerde yüzde 92 denilen tahminlerin gerçekten yaklaşık yüzde 92'si doğru olmalıdır. Önceki makalede tanıdığımız bu özelliğe kalibrasyon denir.

Ayrıca yüksek sonsal olasılık nedensellik kanıtı değildir. Bir gözlem bir hipotez altında beklenir olabilir; ancak arka planda iki olayı birlikte etkileyen başka değişkenler bulunabilir. Bayes Teoremi olasılık ilişkilerini günceller, tek başına neden-sonuç ilişkisi kurmaz.

Seçilen Veri Koşulu Gizlice Değiştirebilir

Koşullu olasılığı yalnızca açıkça verilen bilgiler değiştirmez. Verinin nasıl toplandığı da görünmeyen bir koşul oluşturabilir.

Bir uygulamanın yalnızca ücretli kullanıcıları arasında yapılan memnuniyet araştırmasını düşünelim. Ölçtüğümüz şey genel olarak:

$$ P(\text{Memnun}\mid\text{Ücretli kullanıcı}) $$

olur. Bunu bütün ziyaretçilerin memnuniyet olasılığıymış gibi yorumlayamayız. Ücret ödemeyi seçen kişiler zaten farklı özelliklere sahip olabilir.

Makine öğrenmesinde eğitim verisinin belirli kullanıcıları, bölgeleri veya dönemleri daha çok içermesi de benzer bir koşullama etkisi yaratır. Modelin öğrendiği dağılım ile kullanılacağı ortamın dağılımı farklıysa Bayes hesabındaki önseller ve olabilirlikler yer değiştirebilir.

Sürekli Değerlerde Koşullama

Bu makaledeki örneklerin çoğu sonlu olaylarla kuruldu. Sürekli bir ölçümde, örneğin sıcaklığın tam olarak $20$ derece olması gibi tek bir noktanın olasılığı sıfır olabilir. Böyle durumlarda $P(A\mid B)=P(A\cap B)/P(B)$ formülünü $P(B)=0$ olan tek noktalara doğrudan uygulayamayız.

Sürekli değişkenlerde olasılık yoğunlukları kullanılır. Bayes düşüncesi bu kez yoğunluklar üzerinden:

$$ p(\theta\mid x) = \frac{p(x\mid\theta)p(\theta)} {\displaystyle\int p(x\mid\theta)p(\theta)\,d\theta} $$

biçiminde karşımıza çıkar. Buradaki $\theta$, olası bir parametreyi; $x$, gözlenen veriyi temsil eder. Paydadaki integral bütün olası parametrelerden gelen katkıları toplar. Bu formül şimdilik bir ön izleme olsun; olasılık yoğunluklarını ve dağılımları bir sonraki makalede adım adım kuracağız.

Koşullu Olasılık ve Bayes'te Sık Yapılan Hatalar

Koşulu paydada unutmamak: $P(A\mid B)$ hesabında yeni evren $B$'dir; payda $P(B)$ olmalıdır.
Koşulun sırasını ters çevirmek: $P(A\mid B)$ ile $P(B\mid A)$ genel olarak farklıdır.
Duyarlılığı sonsal olasılık sanmak: $P(+\mid D)$ ile $P(D\mid+)$ aynı değildir.
Taban oranını görmezden gelmek: Nadir bir sınıfta küçük yanlış pozitif oranları bile doğru pozitiflerden daha çok örnek üretebilir.
Her çarpımda bağımsızlık varsaymak: Genel kural $P(A\cap B)=P(A)P(B\mid A)$'dır; $P(B\mid A)$ ancak bağımsızlıkta $P(B)$'ye eşit olur.
Ayrık olaylarla bağımsız olayları karıştırmak: Birlikte gerçekleşemeyen pozitif olasılıklı olaylar bağımsız değildir.
Koşullu bağımsızlığı koşulsuz bağımsızlık sanmak: Olaylar yalnızca belirli bir üçüncü bilgi altında bağımsız olabilir.
Önseli keyfî bir inanç gibi görmek: Önsel olasılık geçmiş veri, alan bilgisi veya açık bir model varsayımından gelebilir; kaynağı belirtilmelidir.
Modelde bütün nedenlerin bulunduğunu varsaymak: Hipotez listesinde eksik bir seçenek varsa sonsal dağılım yalnızca eksik model içindeki en iyi cevabı verir.
Yüksek olasılığı kesinlik veya nedensellik sanmak: Olasılık belirsizliği ölçer; tek başına kesin sonuç ya da neden-sonuç ilişkisi değildir.

Bir Bayes Sorununda İzlenecek Yol

Olayları açıkça adlandırın. Hipotez, gözlem ve tümleyenlerinin ne anlama geldiğini yazın.
Aranan yönü belirleyin. $P(B\mid A)$ mı, yoksa $P(A\mid B)$ mi soruluyor?
Önsel olasılığı bulun. Gözlemden önce hipotez ne kadar yaygın?
Gözlemin her hipotez altındaki olasılığını yazın. Doğru pozitif kadar yanlış pozitif yolu da hesaba katın.
Kanıtın toplam olasılığını hesaplayın. Gözlemin gelebileceği birbirini dışlayan bütün yolları toplayın.
Bayes Teoremi'ni uygulayın. Seçilen yolun katkısını bütün yolların toplamına bölün.
Mümkünse doğal frekanslarla kontrol edin. 1.000 veya 10.000 hayali örnek üzerinde kişi ya da kayıt saymak sonucu görünür kılar.
Sonucu bağlam içinde yorumlayın. Veri seçimini, model varsayımlarını, kalibrasyonu ve kalan belirsizliği belirtin.

Sonuç: Yeni Bilgiyle Tutarlı Biçimde Düşünmek

Bu makalede koşullu olasılığı, yeni bilgi geldiğinde örnek uzayı bu bilgiyle uyumlu sonuçlara daraltma fikrinden kurduk. $P(A\mid B)$'nin $B$ bölgesi içinde $A$ ile $B$'nin ortak payını ölçtüğünü gördük ve bu sezgiyi $P(A\mid B)=P(A\cap B)/P(B)$ tanımına dönüştürdük.

Koşullu olasılık tanımını yeniden düzenleyerek çarpım kuralına ulaştık. Aynı kesişimi iki farklı sıradan yazdığımızda Bayes Teoremi ortaya çıktı. Önsel olasılığın başlangıç bilgisini, olabilirliğin gözlemin hipotez altındaki uyumunu, kanıtın bütün yolları ve sonsal olasılığın güncellenmiş sonucu taşıdığını öğrendik.

Fabrika örneği, gözlenen kusurdan üretim kaynağına doğru akıl yürütmeyi gösterdi. Tarama testi örneğinde doğal frekanslarla çalışarak yüksek duyarlılığın neden yüksek sonsal olasılığı tek başına garanti etmediğini ve taban oranının sonucu nasıl değiştirdiğini gördük. Ardışık Bayes güncellemesiyle bir sonucun sonraki adımın önseline dönüşebildiğini inceledik.

Yapay zekâ açısından Bayes Teoremi, veriden sınıfa giden olasılığı sınıftan veriye giden modelle ve sınıfın başlangıç oranıyla birleştirir. Naive Bayes bu yapıyı koşullu bağımsızlık varsayımıyla sadeleştirir. Ancak iyi bir formülün doğru veri, uygun varsayım ve kalibrasyon olmadan güvenilir sonuç üretmeyeceğini de ayırdık.

Artık tek tek olaylar hakkında yeni bilgiyle nasıl güncelleme yapacağımızı biliyoruz. Sıradaki Olasılık Dağılımları makalesinde bakışımızı tek olaylardan, rastgele bir değişkenin bütün olası değerlerine taşıyacağız. Bernoulli, Poisson ve normal dağılımlar üzerinden olasılığın sonuçlara nasıl yayıldığını; ayrık durumda olasılık kütlesi, sürekli durumda ise yoğunluk ve integral kavramlarının nasıl çalıştığını inceleyeceğiz.

Yazar: Levent KARAGÖL