16. Koşullu Olasılık ve Bayes Teoremi

12 Eylül 2026

25 dakika

144 görüntüleme

Yeni bir bilgi öğrendiğimizde, hangi sonuçları mümkün gördüğümüz ve onlara verdiğimiz olasılıklar değişir. Koşullu olasılık bu değişimi anlatır. Bayes Teoremi ise bir belirti, test sonucu veya başka bir veriden yola çıkarak olası nedenleri yeniden değerlendirmemizi sağlar. Bu makalede önce koşulun örnek uzayı nasıl daralttığını günlük örneklerle göreceğiz. Ardından çarpım ve toplam olasılık kurallarından Bayes Teoremi’ni adım adım türetecek, taban oranı yanılgısını sayılarla inceleyeceğiz. Son olarak bu düşüncenin sınıflandırma, spam filtreleme ve belirsizlik altında karar vermede nasıl kullanıldığını ele alacağız.

Yeni Bir Bilgi Olasılığı Neden Değiştirir?

Bir kutuda 6 kırmızı ve 4 mavi top bulunduğunu düşünelim. Kutudan rastgele seçilen topun kırmızı olma olasılığı başlangıçta $6/10$'dur. Fakat biri bize seçilen topun üzerinde yıldız işareti bulunduğunu söylerse artık yalnızca renklere değil, yıldızlı topların hangi renklerde olduğuna da bakmamız gerekir.

Bu bilgi topun rengini değiştirmez. Yalnızca yıldızlı toplar arasından seçim yapıldığını bildiğimiz için yıldızsızları hesaptan çıkarırız. Kırmızı olma olasılığını da yıldızlı toplar içinde yeniden hesaplarız.

Koşullu olasılıkta bildiğimiz koşula uyan sonuçlara bakar, olasılığı bu sonuçlar arasında yeniden hesaplarız.

Temel Olasılık Kavramları makalesinde örnek uzayı, olayları, kesişimi ve bağımsızlığı tanımıştık. Şimdi bu yapıların üzerine “bir olayı öğrendikten sonra” ifadesini ekleyeceğiz.

Koşul, Yeni Bir Örnek Uzay Gibidir

Adil bir zar attığımızı düşünelim. Başlangıçtaki örnek uzay:

$$ \Omega=\{1,2,3,4,5,6\} $$

olsun. Zarın 3'ten büyük gelmesi olayına $A$, çift gelmesi olayına $B$ diyelim:

$$ A=\{4,5,6\}, \qquad B=\{2,4,6\} $$

Zarın çift geldiğini henüz bilmiyorsak $A$'nın olasılığı $3/6=1/2$'dir. Şimdi zarın çift geldiği bilgisini öğrendiğimizi düşünelim. Artık 1, 3 ve 5 sonuçlarını değerlendirmemize gerek yoktur. Yeni bakış alanımız:

$$ B=\{2,4,6\} $$

kümesidir. Bu üç sonucun içinde $A$'yı da sağlayanlar, yani hem 3'ten büyük hem çift olanlar 4 ve 6'dır:

$$ A\cap B=\{4,6\} $$

Dolayısıyla zarın çift geldiği biliniyorken 3'ten büyük olma olasılığı:

$$ \frac{2}{3} $$

olur. Başlangıçtaki $1/2$ değeri $2/3$'e çıktı. Çünkü öğrendiğimiz bilgi, 3'ten büyük olayıyla uyumlu sonuçları diğerlerine göre daha fazla bıraktı.

Koşulun etkisi: Koşul, bütün örnek uzayı yok etmez; dikkatimizi koşulu sağlayan bölgeye taşır. Ardından bu bölgedeki olasılıkları toplamları yeniden 1 olacak biçimde değerlendiririz.

Koşullu Olasılığın Tanımı

“$B$ olayının gerçekleştiğini biliyorken $A$ olayının olasılığı” şu gösterimle yazılır:

$$ P(A\mid B) $$

Bu ifade “B koşuluyla A'nın olasılığı” veya “B verilmişken A'nın olasılığı” diye okunur. Ortadaki dik çizgi burada bölme işareti değildir; sağ taraftaki bilginin doğru kabul edildiğini gösterir.

$B$'nin olasılığı sıfırdan büyükse koşullu olasılığı şöyle hesaplarız:

$$ P(A\mid B) = \frac{P(A\cap B)}{P(B)}, \qquad P(B)>0 $$

Formülü adım adım okuyalım:

Paydadaki $P(B)$, artık içinde çalıştığımız koşul bölgesinin olasılığıdır.
Paydaki $P(A\cap B)$, bu bölgenin içinde aynı zamanda $A$'yı da sağlayan ortak kısımdır.
Ortak kısmı bütün koşul bölgesine bölerek, $B$'nin içindeki hangi payın $A$'ya ait olduğunu buluruz.

Zar örneğimize bu formülle dönelim:

$$ \begin{aligned} P(A\cap B)&=\frac{2}{6},\\ P(B)&=\frac{3}{6},\\ P(A\mid B) &=\frac{2/6}{3/6} =\frac{2}{3}. \end{aligned} $$

Sonuç, zarın uygun yüzlerini sayarak bulduğumuz $2/3$ ile aynı. Formülde de $B$'nin içindeki $A$ payını hesapladık.

$P(A\mid B)$ ile $P(B\mid A)$ Aynı Şey Değildir

Koşullu olasılıkta sıra anlamı değiştirir. Zar örneğinde:

$P(A\mid B)$, zarın çift olduğu biliniyorken 3'ten büyük olma olasılığıdır.
$P(B\mid A)$, zarın 3'ten büyük olduğu biliniyorken çift olma olasılığıdır.

Bu özel örnekte iki değer tesadüfen eşittir:

$$ P(A\mid B)=\frac{2}{3}, \qquad P(B\mid A)=\frac{2}{3}. $$

Fakat bu eşitlik genel bir kural değildir. “Bir itfaiye aracı görüldüğünde yangın olma olasılığı” ile “yangın olduğunda itfaiye aracı görülme olasılığı” aynı soruyu sormaz. Yangınların çoğuna araç gönderiliyor olabilir; fakat yolda gördüğümüz her itfaiye aracı yakınlarda yangın olduğu anlamına gelmeyebilir.

Bayes Teoremi bu iki yönü birbirine bağlar. $P(B\mid A)$'dan $P(A\mid B)$'ye geçerken olayların başlangıçtaki görülme oranlarını da hesaba katmamız gerekir.

Koşullu Olasılıktan Çarpım Kuralına

Koşullu olasılık tanımını yeniden yazalım:

$$ P(A\mid B)=\frac{P(A\cap B)}{P(B)} $$

Her iki tarafı $P(B)$ ile çarparsak:

$$ P(A\cap B) =P(A\mid B)P(B) $$

elde ederiz. Aynı kesişimi olayların sırasını değiştirerek de yazabiliriz:

$$ P(A\cap B) =P(B\mid A)P(A) =P(A\mid B)P(B) $$

Bu eşitliğe çarpım kuralı denir. İki olayın birlikte gerçekleşme olasılığını bulmak için önce olaylardan birinin olasılığını, ardından ilk olay gerçekleşmişken ikincinin koşullu olasılığını çarparız.

Kartları Geri Koymadan Çekelim

52 kartlık standart bir desteden art arda iki kart çekelim ve ilk kartı geri koymayalım. İlk kartın As olması $A_1$, ikinci kartın As olması $A_2$ olsun. İki kartın da As olması:

$$ \begin{aligned} P(A_1\cap A_2) &=P(A_1)P(A_2\mid A_1)\\ &=\frac{4}{52}\cdot\frac{3}{51}\\ &=\frac{1}{221}. \end{aligned} $$

İlk çekişten önce destede 4 As vardır. İlk kart As gelince geriye 51 kart ve 3 As kalır. Bu yüzden ikinci çekişte $4/52$ yerine $3/51$ kullanırız.

Üç veya Daha Fazla Aşamada Zincir Kuralı

Üç olayın birlikte gerçekleşme olasılığını da aynı düşünceyle adım adım açabiliriz:

$$ P(A\cap B\cap C) =P(A)P(B\mid A)P(C\mid A\cap B) $$

Önce $A$'nın olasılığını alırız. Ardından $A$ gerçekleşmişken $B$'nin, son olarak $A$ ve $B$ birlikte gerçekleşmişken $C$'nin olasılığıyla çarparız.

Genel olarak sıralı olaylar için:

$$ \begin{aligned} P(A_1\cap A_2\cap\cdots\cap A_n) &=P(A_1)\cdot P(A_2\mid A_1)\\ &\quad\cdot P(A_3\mid A_1\cap A_2) \cdots P(A_n\mid A_1\cap\cdots\cap A_{n-1}) \end{aligned} $$

yazabiliriz. Buna olasılığın zincir kuralı denir. Türevdeki Zincir Kuralı ile adı aynı olsa da burada türev almıyoruz. Ortak fikir, karmaşık bir yapıyı art arda gelen yerel adımlara ayırmaktır.

Bir dil modelinin bir cümleye verdiği olasılık da benzer biçimde her yeni parçanın önceki parçalar koşulundaki olasılıklarının çarpımı olarak yazılabilir:

$$ P(x_1,x_2,\ldots,x_n) = \prod_{t=1}^{n} P(x_t\mid x_1,\ldots,x_{t-1}) $$

Buradaki $\prod$ işareti terimlerin çarpıldığını gösterir. Eşitlik, cümlenin olasılığını koşullu adımlara ayırır; modelin ürettiği metnin gerçek dünyaya ilişkin doğruluğu hakkında tek başına bir şey söylemez.

Bağımsızlık, Koşullu Olasılığın Özel Bir Durumudur

$A$'yı öğrenmek $B$'nin olasılığını değiştirmiyorsa olayların bağımsız olduğunu söylemiştik. Koşullu olasılık diliyle:

$$ P(B\mid A)=P(B) $$

olur. Bunu çarpım kuralında yerine koyarsak:

$$ P(A\cap B) =P(A)P(B\mid A) =P(A)P(B) $$

elde ederiz. Yani önceki makalede gördüğümüz bağımsız olayların çarpım formülü, daha genel çarpım kuralının özel durumudur.

Her çarpım bağımsızlık anlamına gelmez. Bağımlı olaylarda da çarpım kuralı kullanılır; yalnızca ikinci çarpan koşullu olasılık olarak kalır. $P(A\cap B)=P(A)P(B)$ sadeleşmesi ancak bağımsızlık gerçekten sağlandığında yapılabilir.

Koşula Bağlı Bağımsızlık Ne Demektir?

İki olay arasındaki ilişki, üçüncü bir bilgiyi öğrendiğimizde ortadan kalkabilir. Bu duruma koşullu bağımsızlık deriz.

Yağmurlu günlerde bir sınıfta hem şemsiye taşıyan hem de ayakkabısı ıslak gelen öğrenciler artabilir. Bu iki durum ilişkili görünür. O gün yağmur yağıp yağmadığını bildiğimizde ise ilişkinin büyük bölümünü ortak neden olan yağmur açıklayabilir.

$C$ koşulu altında $A$ ile $B$ bağımsızsa:

$$ P(A\cap B\mid C) =P(A\mid C)P(B\mid C) $$

yazarız. Bu, $A$ ile $B$'nin koşulsuz olarak da bağımsız olduğu anlamına gelmez. Bağımsızlık hangi bilgiyi koşul kabul ettiğimize göre değişebilir.

İleride inceleyeceğimiz Naive Bayes modeli de özelliklerin, sınıf bilindiğinde birbirinden bağımsız olduğunu varsayar. Gerçek veriler bu koşulu tam karşılamasa bile varsayım hesabı büyük ölçüde kolaylaştırır.

Bütünü Parçalara Ayırmak: Toplam Olasılık Kuralı

Bir fabrikada ürünler iki makineden geliyor olsun:

$M_1$: Ürünlerin yüzde 70'ini üreten birinci makine.
$M_2$: Ürünlerin yüzde 30'unu üreten ikinci makine.

Rastgele seçilen bir ürün bu makinelerden yalnızca birinden gelmiştir. İki seçenek birlikte bütün üretimi kapsar ve aynı ürün için ikisi birden doğru olamaz. Bu tür olaylar örnek uzayı parçalara ayırır.

Ürünün kusurlu olması olayına $K$ diyelim. Birinci makinede kusur oranı yüzde 2, ikinci makinede yüzde 5 olsun:

$$ \begin{aligned} P(M_1)&=0{,}70, & P(K\mid M_1)&=0{,}02,\\ P(M_2)&=0{,}30, & P(K\mid M_2)&=0{,}05. \end{aligned} $$

Kusurlu bir ürün iki ayrı yoldan ortaya çıkabilir:

$$ \begin{aligned} P(K) &=P(K\cap M_1)+P(K\cap M_2)\\ &=P(K\mid M_1)P(M_1) +P(K\mid M_2)P(M_2)\\ &=0{,}02\cdot0{,}70 +0{,}05\cdot0{,}30\\ &=0{,}014+0{,}015\\ &=0{,}029. \end{aligned} $$

Rastgele seçilen bir ürünün kusurlu olma olasılığı yüzde 2,9'dur. Kusur oranları olan yüzde 2 ve yüzde 5'in basit ortalamasını alamayız; makinelerin üretimdeki payları farklıdır.

Genel olarak birbirini dışlayan ve bütün örnek uzayı kapsayan $H_1,H_2,\ldots,H_n$ olayları için:

$$ P(B) = \sum_{i=1}^{n} P(B\mid H_i)P(H_i) $$

yazarız. Buna toplam olasılık kuralı denir. $B$'nin mümkün olan bütün yollardan gelen katkılarını toplarız.

Bayes Teoremi'ni Adım Adım Türetelim

Şimdi aynı kesişimi iki farklı sırayla yazalım:

$$ \begin{aligned} P(A\cap B)&=P(A\mid B)P(B),\\ P(A\cap B)&=P(B\mid A)P(A). \end{aligned} $$

Sol taraflar aynı olayı anlattığı için sağ taraflar da eşittir:

$$ P(A\mid B)P(B) =P(B\mid A)P(A) $$

$P(B)>0$ olmak üzere iki tarafı $P(B)$'ye bölersek Bayes Teoremi'ne ulaşırız:

$$ \boxed{ P(A\mid B) = \frac{P(B\mid A)P(A)}{P(B)} } $$

Formülün her parçası yeni bilgiyle güncellemenin farklı bir görevini üstlenir:

$P(A)$ — önsel olasılık (prior): $B$ bilgisini görmeden önce $A$ hakkında sahip olduğumuz olasılık.
$P(B\mid A)$ — olabilirlik (likelihood): $A$ doğruysa $B$ gözlemini görmenin ne kadar beklendiği.
$P(B)$ — kanıtın olasılığı (evidence): $B$'nin bütün olası nedenlerden gelme olasılığı.
$P(A\mid B)$ — sonsal olasılık (posterior): $B$'yi gördükten sonra $A$ için güncellediğimiz olasılık.

Bayes Teoremi, başlangıçta bildiklerimizle gözlemin her olası durumda ne kadar beklenir olduğunu birleştirir. Sonuç, verdiğimiz önsel ve olabilirlik değerlerine dayanır.

Fabrika Örneğini Tersine Çevirelim

Bir ürünün ikinci makineden geldiğini biliyorken kusurlu olma olasılığını zaten biliyoruz:

$$ P(K\mid M_2)=0{,}05 $$

Peki elimizde kusurlu bir ürün varsa bunun ikinci makineden gelmiş olma olasılığı nedir? Aradığımız yön:

$$ P(M_2\mid K) $$

Bayes Teoremi'ni kullanalım. Toplam olasılık hesabından $P(K)=0{,}029$ bulmuştuk:

$$ \begin{aligned} P(M_2\mid K) &= \frac{P(K\mid M_2)P(M_2)}{P(K)}\\ &= \frac{0{,}05\cdot0{,}30}{0{,}029}\\ &= \frac{0{,}015}{0{,}029}\\ &\approx0{,}517. \end{aligned} $$

İkinci makine üretimin yüzde 30'unu yapar; kusurlu ürünler arasındaki payı ise yaklaşık yüzde 51,7'dir. Kusur oranı daha yüksek olduğu için payı büyür. Birinci makine çok daha fazla ürün ürettiğinden kusurlu ürünlerin geri kalanı ondan gelir.

Kusurlu ürünün hangi makineden geldiğini değerlendirirken iki sayıya ihtiyacımız var: Her makinenin üretimdeki payı ve o makinedeki kusur oranı.

Yüzdeler Yerine İnsan Saymak: Doğal Frekanslar

Yüzdelerle yapılan bu hesabı kişi sayılarıyla da görebiliriz. Özellikle nadir olaylarda, doğru ve yanlış pozitifleri yan yana saymak sonucu yorumlamayı kolaylaştırır.

Nadir görülen bir durum için tamamen örnek amaçlı bir tarama testi düşünelim:

Toplumda bu durumun görülme oranı yüzde 1 olsun.
Durum gerçekten varsa testin pozitif çıkma oranı yüzde 90 olsun. Buna duyarlılık denir.
Durum yokken testin yanlışlıkla pozitif çıkma oranı yüzde 5 olsun. Buna yanlış pozitif oranı denir.

10.000 kişilik hayali bir topluluk kullanalım.

Grup	Kişi sayısı	Pozitif test	Negatif test
Durum var	100	90	10
Durum yok	9.900	495	9.405
Toplam	10.000	585	9.415

Pozitif test alan 585 kişinin 90'ında durum gerçekten vardır. O hâlde pozitif sonuç verildiğinde durumun bulunma olasılığı:

$$ \frac{90}{585} =\frac{2}{13} \approx0{,}154 $$

yani yaklaşık yüzde 15,4'tür. Test, durum mevcutken yüzde 90 oranında pozitif çıkıyor. Yine de pozitif sonuç alanlar arasında durumun gerçekten bulunma olasılığı $P(\text{durum var}\mid\text{pozitif})$ yüzde 90 değil. Durumun bulunmadığı grup çok büyük olduğu için yüzde 5'lik yanlış pozitif oranı bu grupta 495 kişiye karşılık geliyor.

Taban oranı: Testin “durum varken pozitif verme oranı”, pozitif sonuç alan kişilerde durumun bulunma olasılığı değildir. Bu ikinci olasılığı hesaplarken durumun topluluktaki yaygınlığını, doğru pozitifleri ve yanlış pozitifleri birlikte sayarız.

Aynı Hesabı Bayes Formülüyle Yapalım

Durumun varlığına $D$, pozitif test sonucuna $+$ diyelim. Verilerimiz:

$$ \begin{aligned} P(D)&=0{,}01,\\ P(+\mid D)&=0{,}90,\\ P(+\mid D^c)&=0{,}05. \end{aligned} $$

Önce pozitif sonucun bütün yollarını toplayalım:

$$ \begin{aligned} P(+) &=P(+\mid D)P(D) +P(+\mid D^c)P(D^c)\\ &=0{,}90\cdot0{,}01 +0{,}05\cdot0{,}99\\ &=0{,}009+0{,}0495\\ &=0{,}0585. \end{aligned} $$

Şimdi Bayes Teoremi:

$$ \begin{aligned} P(D\mid +) &= \frac{P(+\mid D)P(D)}{P(+)}\\ &= \frac{0{,}90\cdot0{,}01}{0{,}0585}\\ &\approx0{,}154. \end{aligned} $$

Formülle bulduğumuz $0{,}154$, tablodaki $90/585$ ile aynı değerdir. Tabloda kişileri saydık; formülde bu sayıları oluşturan olasılıkları kullandık.

Duyarlılık ve Özgüllük Neyi Ölçer?

Test ve sınıflandırma problemlerinde birbirine benzeyen dört koşullu oranla sık karşılaşırız:

Duyarlılık: Durum gerçekten varken pozitif sonuç verme oranı, $P(+\mid D)$.
Yanlış negatif oranı: Durum varken negatif sonuç verme oranı, $P(-\mid D)$.
Özgüllük: Durum yokken negatif sonuç verme oranı, $P(-\mid D^c)$.
Yanlış pozitif oranı: Durum yokken pozitif sonuç verme oranı, $P(+\mid D^c)$.

Aynı koşul altında iki olası test sonucu birbirinin tümleyeni olduğu için:

$$ \begin{aligned} P(+\mid D)+P(-\mid D)&=1,\\ P(+\mid D^c)+P(-\mid D^c)&=1. \end{aligned} $$

Buna karşılık “pozitif sonuç verildiğinde durumun gerçekten bulunma oranı” $P(D\mid+)$'dır. Bu değer yalnızca testin yapısına değil, durumun incelenen topluluktaki taban oranına da bağlıdır.

Taban Oranı Değişirse Sonuç da Değişir

Aynı duyarlılık ve yanlış pozitif oranına sahip testi, durumun yüzde 10 oranında görüldüğü daha yüksek riskli bir grupta kullandığımızı düşünelim:

$$ \begin{aligned} P(D)&=0{,}10,\\ P(+\mid D)&=0{,}90,\\ P(+\mid D^c)&=0{,}05. \end{aligned} $$

Bu kez:

$$ \begin{aligned} P(D\mid+) &= \frac{0{,}90\cdot0{,}10} {0{,}90\cdot0{,}10+0{,}05\cdot0{,}90}\\ &= \frac{0{,}09}{0{,}135}\\ &=\frac{2}{3} \approx0{,}667. \end{aligned} $$

Testin duyarlılığı ve yanlış pozitif oranı aynı kaldı. Durumun bu grupta daha yaygın olması, pozitif sonuçtan sonraki olasılığı yüzde 15,4'ten yüzde 66,7'ye yükseltti.

Bir modelin sonuçlarını başka bir toplulukta yorumlarken de bu farkı gözetmeliyiz. Sınıfların görülme oranı, verinin dağılımı veya örneklerin seçilme biçimi değişirse sonsal olasılıklar değişebilir.

Birden Fazla Hipotez İçin Bayes Teoremi

Bazen yalnızca $A$ ve $A^c$ gibi iki seçenek değil, birbirini dışlayan birçok olası neden vardır. $H_1,H_2,\ldots,H_n$ hipotezleri bütün olasılıkları kapsasın. $B$ gözleminden sonra belirli bir $H_k$ hipotezinin olasılığı:

$$ P(H_k\mid B) = \frac{P(B\mid H_k)P(H_k)} {\displaystyle\sum_{i=1}^{n}P(B\mid H_i)P(H_i)} $$

olur. Pay, seçtiğimiz hipotezin gözlemi üretme katkısıdır. Payda ise aynı gözlemin bütün olası hipotezlerden gelen toplam olasılığıdır.

Bu bölme aynı zamanda normalleştirme yapar. Bütün hipotezlerin sonsal olasılıklarını topladığımızda sonuç 1 olur:

$$ \sum_{k=1}^{n}P(H_k\mid B)=1 $$

Böylece her olası neden için güncellenmiş bir olasılık elde ederiz. En yüksek değere sahip nedeni seçebiliriz; diğer nedenlerin payı da hesapta kalır.

Yeni Bilgi Geldikçe Ardışık Güncelleme

Yeni bir gözlem geldiğinde hesabı sürdürebiliriz. İlk gözlemden sonra bulduğumuz sonsal olasılık, ikinci gözlem için önsel olasılık olur.

Bir hipoteze $H$, art arda gelen gözlemlere $B_1$ ve $B_2$ diyelim. İlk güncelleme:

$$ P(H\mid B_1) \propto P(B_1\mid H)P(H) $$

biçimindedir. $\propto$ işareti “orantılıdır” diye okunur; eşitlik için bütün hipotezler üzerinde normalleştirme gerekir. İkinci bilgi geldiğinde:

$$ P(H\mid B_1,B_2) \propto P(B_2\mid H,B_1)P(H\mid B_1) $$

yazarız. Eğer $B_1$ ile $B_2$, $H$ verildiğinde koşullu olarak bağımsızsa ifade sadeleşir:

$$ P(H\mid B_1,B_2) \propto P(B_2\mid H)P(B_1\mid H)P(H) $$

Hava tahmini yeni ölçümlerle, bir robotun konum tahmini yeni sensör verileriyle güncellenebilir. Spam filtresi de e-postadaki yeni kelimeleri gördükçe aynı mantıkla değerlendirmesini değiştirebilir.

Olasılık Yerine Oranlarla Bakmak: Bayes'in Oran Biçimi

Bir olayın olasılığı $p$ ise, gerçekleşme olasılığını gerçekleşmeme olasılığına bölen:

$$ \frac{p}{1-p} $$

ifadesine olasılık oranı veya kısaca odds denir. Örneğin $p=0{,}75$ ise oran $0{,}75/0{,}25=3$'tür; bunu “gerçekleşme yönünde 3'e 1” diye okuyabiliriz.

Bayes Teoremi iki hipotez için oran biçiminde şöyle yazılabilir:

$$ \underbrace{ \frac{P(H\mid B)}{P(H^c\mid B)} }_{\text{Sonsal oran}} = \underbrace{ \frac{P(H)}{P(H^c)} }_{\text{Önsel oran}} \underbrace{ \frac{P(B\mid H)}{P(B\mid H^c)} }_{\text{Olabilirlik oranı (likelihood ratio)}} $$

$B$ gözlemi $H$ altında, $H^c$'ye göre 5 kat daha olasıysa $H$ lehindeki başlangıç oranı 5 katına çıkar. Art arda gelen bağımsız gözlemlerin etkisini bu çarpanlarla izleyebiliriz.

Burada “olabilirlik” sözcüğünü olasılıkla karıştırmamalıyız. $P(B\mid H)$, hipotezi sabit kabul edip gözlemin olasılığını değerlendirir. Hipotezin gözlemden sonraki olasılığı ise $P(H\mid B)$'dir ve Bayes güncellemesinin sonucudur.

Yapay Zekâda Bayes: Sınıftan Veriye, Veriden Sınıfa

Bir sınıflandırma modelinin e-postanın spam olup olmadığını tahmin ettiğini düşünelim. Sınıfa $C$, e-postadaki gözlenen özelliklere $\mathbf{x}$ diyelim. Aradığımız:

$$ P(C\mid\mathbf{x}) $$

Bu gösterim, e-postanın özelliklerini gördükten sonra sınıfın olasılığını sorar. Bayes Teoremi'ne göre:

$$ P(C\mid\mathbf{x}) = \frac{P(\mathbf{x}\mid C)P(C)} {P(\mathbf{x})} $$

$P(C)$, spam sınıfının e-postalar içindeki başlangıç oranıdır. $P(\mathbf{x}\mid C)$, e-posta spam ise “ücretsiz”, “kazandınız” veya belirli bağlantı örüntüleri gibi özellikleri görmenin olasılığıdır. Paydadaki $P(\mathbf{x})$, bu özelliklerin bütün sınıflardan gelme olasılığını toplar.

Sadece hangi sınıfın daha büyük olduğunu karşılaştırıyorsak $P(\mathbf{x})$ bütün sınıflar için aynı olduğundan:

$$ P(C\mid\mathbf{x}) \propto P(\mathbf{x}\mid C)P(C) $$

yazabiliriz. Sınıfları sıralarken hem başlangıçtaki yaygınlıklarına hem de gördüğümüz özelliklerin o sınıflarda ne kadar olası olduğuna bakarız.

Naive Bayes Neden Naif Denir?

Bir e-posta yüzlerce kelime veya özellik içerebilir. Bunların ortak olasılığı olan $P(\mathbf{x}\mid C)$'yi doğrudan öğrenmek çok zor olabilir. Naive Bayes, sınıf $C$ bilindiğinde özelliklerin birbirinden koşullu olarak bağımsız olduğunu varsayar:

$$ P(x_1,x_2,\ldots,x_n\mid C) \approx \prod_{i=1}^{n}P(x_i\mid C) $$

Bu varsayım “naif”tir; çünkü kelimeler gerçek dilde bütünüyle bağımsız değildir. “Kredi” ile “kartı” veya “yapay” ile “zekâ” birlikte görülme eğilimindedir. Yine de sadeleştirme, çok boyutlu ortak bir hesabı tek tek özellik olasılıklarının çarpımına dönüştürür ve bazı görevlerde etkili sonuç verebilir.

Çok sayıda küçük olasılığı çarpmak bilgisayarda sayısal alt taşmaya yol açabileceği için pratikte çoğu zaman logaritmalar kullanılır:

$$ \log P(C\mid\mathbf{x}) = \text{sabit} +\log P(C) +\sum_{i=1}^{n}\log P(x_i\mid C) $$

Üstel ve Logaritmik Fonksiyonlar makalesinde gördüğümüz gibi logaritma çarpımı toplama dönüştürür. Burada da küçük olasılıkları art arda çarpmak yerine logaritmalarını toplarız. Naive Bayes'in varsayımlarını, eğitimini ve farklı veri türlerinde nasıl kullanıldığını makine öğrenmesi bölümünde ayrıntılı olarak inceleyeceğiz.

Bayesçi Düşünce Bir Doğruluk Makinesi Değildir

Bayes hesabı, kullandığımız değerler kadar güvenilirdir. Yanlış bir önsel olasılık, hatalı ölçülmüş olabilirlikler veya gerçek seçenekleri kapsamayan bir hipotez listesiyle doğru işlemleri yapsak bile yanıltıcı bir sonuca ulaşabiliriz.

Bir yapay zekâ modeli $P(\text{Kedi}\mid\text{görüntü})=0{,}92$ diyebilir. Bu sayının anlamlı bir olasılık olarak yorumlanabilmesi için yalnızca model çıktılarının toplamının 1 olması yetmez. Benzer görüntülerde yüzde 92 denilen tahminlerin gerçekten yaklaşık yüzde 92'si doğru olmalıdır. Önceki makalede tanıdığımız bu özelliğe kalibrasyon denir.

Ayrıca yüksek sonsal olasılık nedensellik kanıtı değildir. Bir gözlem bir hipotez altında beklenir olabilir; ancak arka planda iki olayı birlikte etkileyen başka değişkenler bulunabilir. Bayes Teoremi olasılık ilişkilerini günceller, tek başına neden-sonuç ilişkisi kurmaz.

Seçilen Veri Koşulu Gizlice Değiştirebilir

Verinin nasıl toplandığı, hesapta açıkça yazılmayan bir koşul oluşturabilir.

Bir uygulamanın yalnızca ücretli kullanıcıları arasında yapılan memnuniyet araştırmasını düşünelim. Ölçtüğümüz şey genel olarak:

$$ P(\text{Memnun}\mid\text{Ücretli kullanıcı}) $$

olur. Bunu bütün ziyaretçilerin memnuniyet olasılığıymış gibi yorumlayamayız. Ücret ödemeyi seçen kişiler zaten farklı özelliklere sahip olabilir.

Eğitim verisinin belirli kullanıcıları, bölgeleri veya dönemleri daha çok içermesi de modelin ne öğrendiğini etkiler. Model farklı bir ortamda kullanıldığında sınıfların başlangıç oranları veya gözlemlerin bu sınıflardaki olasılıkları değişmiş olabilir.

Sürekli Değerlerde Koşullama

Bu makaledeki örneklerin çoğu sonlu olaylarla kuruldu. Sürekli bir ölçümde, örneğin sıcaklığın tam olarak $20$ derece olması gibi tek bir noktanın olasılığı sıfır olabilir. Böyle durumlarda $P(A\mid B)=P(A\cap B)/P(B)$ formülünü $P(B)=0$ olan tek noktalara doğrudan uygulayamayız.

Sürekli değişkenlerde olasılık yoğunlukları kullanılır. Bayes düşüncesi bu kez yoğunluklar üzerinden:

$$ p(\theta\mid x) = \frac{p(x\mid\theta)p(\theta)} {\displaystyle\int p(x\mid\theta)p(\theta)\,d\theta} $$

biçiminde karşımıza çıkar. Buradaki $\theta$, olası bir parametreyi; $x$, gözlenen veriyi temsil eder. Paydadaki integral bütün olası parametrelerden gelen katkıları toplar. Bu formül şimdilik bir ön izleme olsun; olasılık yoğunluklarını ve dağılımları bir sonraki makalede adım adım kuracağız.

Koşullu Olasılık ve Bayes'te Sık Yapılan Hatalar

Koşulu paydada unutmamak: $P(A\mid B)$ hesabında yeni evren $B$'dir; payda $P(B)$ olmalıdır.
Koşulun sırasını ters çevirmek: $P(A\mid B)$ ile $P(B\mid A)$ genel olarak farklıdır.
Duyarlılığı sonsal olasılık sanmak: $P(+\mid D)$ ile $P(D\mid+)$ aynı değildir.
Taban oranını görmezden gelmek: Nadir bir sınıfta küçük yanlış pozitif oranları bile doğru pozitiflerden daha çok örnek üretebilir.
Her çarpımda bağımsızlık varsaymak: Genel kural $P(A\cap B)=P(A)P(B\mid A)$'dır; $P(B\mid A)$ ancak bağımsızlıkta $P(B)$'ye eşit olur.
Ayrık olaylarla bağımsız olayları karıştırmak: Birlikte gerçekleşemeyen pozitif olasılıklı olaylar bağımsız değildir.
Koşullu bağımsızlığı koşulsuz bağımsızlık sanmak: Olaylar yalnızca belirli bir üçüncü bilgi altında bağımsız olabilir.
Önseli keyfî bir inanç gibi görmek: Önsel olasılık geçmiş veri, alan bilgisi veya açık bir model varsayımından gelebilir; kaynağı belirtilmelidir.
Modelde bütün nedenlerin bulunduğunu varsaymak: Hipotez listesinde eksik bir seçenek varsa sonsal dağılım yalnızca eksik model içindeki en iyi cevabı verir.
Yüksek olasılığı kesinlik veya nedensellik sanmak: Olasılık belirsizliği ölçer; tek başına kesin sonuç ya da neden-sonuç ilişkisi değildir.

Bir Bayes Sorununda İzlenecek Yol

Olayları açıkça adlandırın. Hipotez, gözlem ve tümleyenlerinin ne anlama geldiğini yazın.
Aranan yönü belirleyin. $P(B\mid A)$ mı, yoksa $P(A\mid B)$ mi soruluyor?
Önsel olasılığı bulun. Gözlemden önce hipotez ne kadar yaygın?
Gözlemin her hipotez altındaki olasılığını yazın. Doğru pozitif kadar yanlış pozitif yolu da hesaba katın.
Kanıtın toplam olasılığını hesaplayın. Gözlemin gelebileceği birbirini dışlayan bütün yolları toplayın.
Bayes Teoremi'ni uygulayın. Seçilen yolun katkısını bütün yolların toplamına bölün.
Mümkünse doğal frekanslarla kontrol edin. 1.000 veya 10.000 hayali örnek üzerinde kişi ya da kayıt saymak sonucu görünür kılar.
Sonucu bağlam içinde yorumlayın. Veri seçimini, model varsayımlarını, kalibrasyonu ve kalan belirsizliği belirtin.

Sonuç: Yeni Bilgiyle Tutarlı Biçimde Düşünmek

Yeni bir bilgi geldiğinde, olasılığı artık o bilgiyle uyumlu sonuçlar arasında hesaplarız. $P(A\mid B)=P(A\cap B)/P(B)$ tanımı bunu söyler: $B$'nin içindeki hangi payın $A$'ya da ait olduğuna bakarız. Tanımı yeniden düzenleyince çarpım kuralı, aynı kesişimi iki yönden yazınca Bayes Teoremi çıkar. Böylece önsel olasılığı, gözlemin her hipotez altındaki olabilirliğiyle birleştirip sonsal olasılığı buluruz; paydadaki kanıt da bütün olası yolları hesaba katar.

Fabrikada kusurlu bir ürünün hangi makineden geldiğini hesaplarken üretim paylarını da kullandık. Tarama testinde ise duyarlılık yüzde 90 olsa bile pozitif sonuç alanlar arasında durumun görülme olasılığının, yüzde 1'lik taban oranıyla yaklaşık yüzde 15,4 olduğunu sayarak gördük. Yeni gözlemler geldikçe bu sonucu yeniden güncelleyebiliriz. Sınıflandırmada da aynı hesap kullanılır: Naive Bayes, özelliklerin sınıf verildiğinde bağımsız olduğu varsayımıyla hesabı sadeleştirir. Sonucun güvenilirliği veriye, varsayımlara ve olasılıkların kalibrasyonuna bağlıdır.

Sıradaki Olasılık Dağılımları makalesinde tek bir olay yerine rastgele bir değişkenin bütün olası değerlerine bakacağız. Bernoulli, Poisson ve normal dağılımları incelerken ayrık değerler için olasılık kütlesini, sürekli değerler için yoğunluğu ve integrali kullanacağız.

Yazar: Levent KARAGÖL