21. Korelasyon ve Regresyon Analizi

17 Eylül 2026

27 dakika

141 görüntüleme

İki sayısal değişken birlikte değiştiğinde, aralarındaki ilişkinin yönünü ve gücünü korelasyonla inceleriz. Regresyon ise bu ilişkiyi bir denklemle özetleyip bir değişkenin değerinden diğerine yönelik tahmin üretmemizi sağlar. Bu iki araç, verideki örüntüleri görmemize ve yapay zekâ modellerinin temel çalışma mantığını anlamamıza yardımcı olur. Bu makalede önce saçılım grafiğiyle ilişkiyi gözlemleyecek, ardından kovaryans ve korelasyonu inceleyeceğiz. Doğrusal regresyon doğrusunu en küçük kareler düşüncesinden adım adım türettikten sonra artıkları, hata ölçülerini ve açıklanan değişkenliği ele alacağız. Aykırı değerleri, doğrusal olmayan ilişkileri ve “korelasyon nedensellik değildir” uyarısını da sonuçları yorumlarken birlikte değerlendireceğiz.

Tek Tek Değişkenlerden Birlikte Değişime

Önceki Betimsel İstatistik: Merkez ve Dağılım makalesinde bir değişkeni kendi başına incelemiştik. Teslimat sürelerinin ortalamasını, ortancasını, çeyreklerini ve standart sapmasını hesaplayarak verinin nerede toplandığını ve ne kadar yayıldığını görmüştük.

Teslimat süresinin ötesinde ilişkileri de merak edebiliriz. Bir evin alanı büyüdükçe fiyatı nasıl değişiyor? Hava sıcaklığı ile enerji tüketimi birlikte hareket ediyor mu? Bir modelin güven puanı yükseldikçe hatası azalıyor mu? Bu sorularda tek bir sayı listesi yetmez; her gözlem için iki değeri birlikte tutmamız gerekir.

Aynı gözlemin ilk değerine $x_i$, ikinci değerine $y_i$ diyelim. Veriyi eşleşmiş ikililerle yazarız:

$$ (x_1,y_1),(x_2,y_2),\ldots,(x_n,y_n) $$

Eşleşme bozulmamalıdır. Bir öğrencinin çalışma süresini başka bir öğrencinin puanıyla yan yana getirmek, iki ayrı doğru listeye sahip olsak bile ilişkiyi anlamsız hâle getirir. Korelasyon ve regresyon, yalnızca değerleri değil, hangi $x$ ile hangi $y$'nin aynı gözleme ait olduğunu da kullanır.

İlk Bakış: Saçılım Grafiği

Beş öğrencinin haftalık çalışma süresi ile sınav puanını gözlediğimizi düşünelim:

Öğrenci	Çalışma süresi $x$ (saat)	Sınav puanı $y$
A	1	50
B	2	60
C	3	65
D	4	70
E	5	80

Her öğrenciyi $(x_i,y_i)$ noktası olarak Analitik Düzlem üzerinde işaretlersek bir saçılım grafiği (scatter plot) elde ederiz. Noktalar genel olarak sol alttan sağ üste doğru ilerler. Bu görünüm, çalışma süresi yüksek öğrencilerin puanlarının da yüksek olma eğiliminde olduğunu düşündürür.

Saçılım grafiğinde yönün yanında şu özelliklere de bakarız:

Yön: $x$ artarken $y$ genellikle artıyor mu, azalıyor mu?
Biçim: Noktalar yaklaşık bir doğruyu mu, bir eğriyi mi, yoksa daha karmaşık bir deseni mi izliyor?
Güç: Noktalar bu biçimin çevresinde ne kadar sıkı toplanıyor?
Olağandışı noktalar: Genel desenden belirgin biçimde ayrılan gözlem var mı?
Alt gruplar: Tek bir bulut yerine farklı kümeler veya boşluklar görülüyor mu?

Korelasyon katsayısını hesaplamadan önce grafiğe bakmak yararlıdır. Eğrilik, ayrı kümeler, değişen yayılım veya aykırı bir nokta tek bir sayıda görünmeyebilir. Katsayıyı grafikte gördüğümüz ilişkinin özeti olarak okuyacağız.

Merkezin Aynı Tarafında mı? Kovaryans

İki değişkenin birlikte hareketini ölçmek için önce her birini kendi merkezine göre ele alalım. $x_i-\bar{x}$, $i$'inci $x$ değerinin $x$ ortalamasından sapmasıdır. $y_i-\bar{y}$ de aynı gözlemin $y$ ortalamasından sapmasını gösterir.

Beklenen Değer ve Varyans makalesinde kovaryansla, iki rastgele değişkenin toplam varyansını etkileyen birlikte hareket terimi olarak kısaca karşılaşmıştık. Şimdi aynı fikri sonlu bir gözlem tablosunda adım adım hesaplayıp yorumlayacağız.

Bu iki sapmayı çarptığımızda işaret bize basit bir bilgi verir:

$x_i$ ve $y_i$ kendi ortalamalarının aynı tarafındaysa çarpım pozitiftir.
Biri ortalamasının üstünde, diğeri altındaysa çarpım negatiftir.
Değerlerden biri tam ortalamadaysa katkı sıfırdır.

Bu çarpımları bütün gözlemler boyunca ortalamak, kovaryansı (covariance) verir. Elimizdeki veri daha büyük bir anakütleden alınmış bir örneklemse örneklem kovaryansını şöyle yazarız:

$$ s_{xy} =\frac{1}{n-1}\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y}) $$

Ortalamaları bu örneklemden tahmin ettiğimiz için, önceki makaledeki örneklem varyansında olduğu gibi $n-1$'e böleriz. Elimizdeki grubu başlı başına anakütle kabul edersek payda $N$ olur.

Buradaki $s_{xy}$, “x ile y'nin örneklem kovaryansı” diye okunabilir. Gözlediğimiz kayıtların tamamı kendi başına anakütleyse payda $N$, anakütle ortalamaları da $\mu_x$ ve $\mu_y$ olur:

$$ \operatorname{Cov}(X,Y) =\frac{1}{N}\sum_{i=1}^{N}(x_i-\mu_x)(y_i-\mu_y) $$

İşaretin yorumu açıktır: Pozitif kovaryans birlikte artma veya azalma, negatif kovaryans ters yönlerde hareket etme eğilimi, sıfıra yakın kovaryans ise belirgin bir doğrusal birlikte hareket görülmemesi demektir.

Sıfır kovaryans, iki değişkenin bağımsız olduğunu kanıtlamaz. Bağımsızlık uygun koşullarda sıfır kovaryans getirir; fakat doğrusal olmayan güçlü bir ilişki varken kovaryans yine sıfır olabilir.

Kovaryansı Adım Adım Hesaplayalım

Çalışma süresi ve sınav puanı verisine dönelim. Ortalamalar:

$$ \bar{x}=\frac{1+2+3+4+5}{5}=3, \qquad \bar{y}=\frac{50+60+65+70+80}{5}=65 $$

Her gözlemin sapmasını ve sapma çarpımını yazalım:

$x_i$	$y_i$	$x_i-\bar{x}$	$y_i-\bar{y}$	Sapmaların çarpımı
1	50	-2	-15	30
2	60	-1	-5	5
3	65	0	0	0
4	70	1	5	5
5	80	2	15	30

Sapma çarpımlarının toplamı $70$'tir. Bu beş öğrenciyi daha büyük bir öğrenci topluluğundan alınmış örneklem kabul edersek:

$$ s_{xy}=\frac{70}{5-1}=17{,}5\text{ puan-saat} $$

Kovaryans pozitiftir: Daha az çalışan öğrencilerin puanları da genellikle daha düşük, daha çok çalışanlarınki daha yüksektir. Yine de $17{,}5$'in tek başına ilişkinin ne kadar güçlü olduğunu söylemesi zordur. Kovaryans puan-saat birimini taşır; saati dakikaya çevirirsek ilişki aynı kalırken sonuç 60 kat büyür. Ölçekten bağımsız bir ölçü için bu değeri standartlaştıracağız.

Ölçekten Arındırılmış Birlikte Hareket: Pearson Korelasyonu

Kovaryansı iki değişkenin standart sapmalarına bölersek birimleri kaldırırız. Elde ettiğimiz sayıya Pearson korelasyon katsayısı denir. Örneklem için $r$, anakütle için çoğunlukla Yunan harfi $\rho$ kullanılır:

$$ r=\frac{s_{xy}}{s_xs_y} $$

Pay ve paydadaki ortak $n-1$ terimleri sadeleştiği için aynı formülü hesaplamaya daha uygun biçimde de yazabiliriz:

$$ r= \frac{\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})} {\sqrt{\sum_{i=1}^{n}(x_i-\bar{x})^2}\sqrt{\sum_{i=1}^{n}(y_i-\bar{y})^2}} $$

Bu yapı Vektörler makalesindeki kosinüs benzerliğine benzer. Ortalama çıkarılmış $x$ ve $y$ değerlerini iki vektör gibi düşünürsek pay onların nokta çarpımı, payda ise uzunluklarının çarpımıdır. Nokta çarpımın mutlak değeri iki vektörün uzunlukları çarpımını aşamaz. Cauchy–Schwarz eşitsizliği adı verilen bu kural, korelasyonun sınırlarını belirler:

$$ -1\le r\le1 $$

$r=1$: Bütün noktalar pozitif eğimli bir doğru üzerinde bulunur.
$r=-1$: Bütün noktalar negatif eğimli bir doğru üzerinde bulunur.
$r$ sıfıra yakın: Güçlü bir doğrusal örüntü görülmez.

Sıfır yayılım sınırı: Bütün $x$ değerleri veya bütün $y$ değerleri aynıysa ilgili standart sapma sıfır olur. Paydada sıfıra bölme oluşacağı için Pearson korelasyonu tanımsızdır. Bütün $x$ değerleri aynı olduğunda regresyon eğimini de veriden belirleyemeyiz; eğimi karşılaştıracak yatay değişim yoktur.

“Sıfıra yakın” ifadesi “hiç ilişki yok” anlamına gelmez. Pearson katsayısı özellikle doğrusal ilişkiyi ölçer. Ayrıca $0{,}7$'nin her alanda güçlü, $0{,}3$'ün her alanda önemsiz olduğunu söyleyen evrensel sınırlar yoktur. Ölçüm gürültüsü, örneklem büyüklüğü, konu alanı ve kararın maliyeti yorumu değiştirir.

Korelasyonu Aynı Veride Hesaplayalım

Çalışma süresi sapmalarının kareleri toplamı $10$, puan sapmalarının kareleri toplamı $500$, çapraz çarpımların toplamı $70$'ti:

$$ \begin{aligned} \sum(x_i-\bar{x})^2&=4+1+0+1+4=10,\\ \sum(y_i-\bar{y})^2&=225+25+0+25+225=500,\\ \sum(x_i-\bar{x})(y_i-\bar{y})&=70. \end{aligned} $$

Bunları formüle yerleştirelim:

$$ r=\frac{70}{\sqrt{10}\sqrt{500}} =\frac{70}{\sqrt{5000}} \approx0{,}990 $$

Katsayı 1'e çok yakındır; bu küçük örneklemde güçlü ve pozitif bir doğrusal ilişki vardır. Ancak buradan “Bir saat daha çalışmak herkesin puanını kesin olarak yükseltir” sonucu çıkmaz. Veri yalnızca bu beş gözlemde iki değişkenin birlikte nasıl hareket ettiğini gösterir. Önce ilişkiyi betimliyor, henüz neden-sonuç iddiası kurmuyoruz.

Değişkenlerden birine sabit eklemek korelasyonu değiştirmez. Pozitif bir sayıyla çarpmak da sonucu değiştirmez; saat yerine dakika veya puan yerine yüzde kullanmak aynı $r$'yi verir. Negatif bir sayıyla çarptığımızda ise ölçüm yönü tersine döner ve katsayının işareti değişir.

Doğrusal Olmayan Güçlü Bir İlişki Sıfır Görünebilir

Pearson korelasyonunun neyi ölçmediğini küçük bir örnekle görelim:

$$ x=(-2,-1,0,1,2), \qquad y=(4,1,0,1,4) $$

Burada $y=x^2$ olduğu için ilişki bütünüyle belirlenmiştir. $x$'i bilirsek $y$'yi hatasız hesaplarız. Fakat grafik U biçimindedir: $x$, $-2$'den 0'a gelirken $y$ azalır; 0'dan 2'ye giderken artar.

$\bar{x}=0$ ve $\bar{y}=2$'dir. Çapraz sapmaların toplamı:

$$ (-2)(2)+(-1)(-1)+0(-2)+1(-1)+2(2)=0 $$

Burada $r=0$'dır. Eğrinin solundaki ve sağındaki doğrusal eğilimler birbirini götürür. Oysa $x$'i bildiğimizde $y$'yi hâlâ hatasız hesaplarız. Pearson katsayısının sıfır çıkması, bu veride doğrusal korelasyonun sıfır olduğunu söyler.

İlişki yaklaşık doğrusal değil fakat sürekli olarak aynı yönde ilerliyorsa, gözlem değerleri yerine sıralarını kullanan Spearman sıra korelasyonu yararlı olabilir. Spearman katsayısı özünde Pearson korelasyonunun sıra numaralarına uygulanmasıdır. Yine de hiçbir katsayı grafiğe, bağlama ve veri kalitesi incelemesine olan ihtiyacı kaldırmaz.

İlişkiyi Denklemle Özetlemek: Doğrusal Regresyon

Korelasyonda değişkenlerin yerini değiştirebiliriz: $x$ ile $y$'nin korelasyonu, $y$ ile $x$'inkine eşittir. Regresyon içinse birini girdi veya açıklayıcı değişken $x$, tahmin etmek istediğimizi yanıt veya hedef değişken $y$ olarak seçeriz.

Basit doğrusal regresyon, $x$ ile $y$ arasındaki ortalama ilişkiyi bir doğruyla yaklaşıklar:

$$ \hat{y}=b_0+b_1x $$

$\hat{y}$, “y şapka” diye okunur ve modelin tahminidir.
$b_0$, doğrunun $y$ eksenini kestiği değer, yani sabit terimdir.
$b_1$, eğimdir; $x$ bir birim arttığında tahminin ortalama olarak ne kadar değiştiğini söyler.

Gerçek gözlem $y_i$ ile tahmin $\hat{y}_i$ arasındaki farka artık (residual) denir:

$$ e_i=y_i-\hat{y}_i $$

Nokta doğrunun üzerindeyse artık sıfırdır. Doğrunun üstündeki bir noktada gerçek değer tahminden büyük olduğu için artık pozitiftir; altındaki noktada negatiftir. Bütün noktalardan geçen bir doğru aramıyoruz. Gözlenen eğilimi, hataları olabildiğince küçük tutarak özetleyeceğiz.

Polinom Fonksiyonları makalesinde $\hat{y}$ gösterimini, katsayılarla kurulan tahmini ve hata kareleri fikrini önceden görmüştük. Burada birinci derece modeli ele alıyor ve en uygun katsayıların neden aşağıdaki formüllerle bulunduğunu çıkarıyoruz.

Hangi Doğru? En Küçük Kareler İlkesi

Aynı nokta bulutunun içinden birçok doğru geçirebiliriz. Aralarından birini seçmek için artıkların kareleri toplamını kullanırız:

$$ \operatorname{SSE}(b_0,b_1) =\sum_{i=1}^{n}\bigl(y_i-(b_0+b_1x_i)\bigr)^2 $$

SSE, İngilizce “hata kareleri toplamı” ifadesinin kısaltmasıdır. Artıkları kareye alınca pozitif ve negatif işaretler birbirini götürmez; büyük hatalar da daha ağır sayılır. Kareli toplamın en küçük olduğu katsayıları bulma yöntemine en küçük kareler (least squares) denir.

Olabilirlik, Log-Olabilirlik ve Parametre Tahmini makalesinde Normal hata modeli altında negatif log-olabilirliği küçültmenin kareli hataları küçültmekle aynı sonuca ulaştığını görmüştük. Dolayısıyla hataların birbirinden bağımsız, ortalamasının sıfır ve varyansının sabit olduğu Normal modelde en küçük kareler aynı zamanda bir MLE çözümüdür. En küçük kareler doğrusunu hesaplayabilmek için hataların Normal olması şart değildir; Normal varsayımı bu çözüme olasılıksal bir yorum ve klasik belirsizlik hesapları kazandırır.

Bu modelde $x$'i verilmiş kabul edip $y$'yi tahmin ettiğimiz için dikey hataları ölçüyoruz. $x$'te de önemli ölçüm hatası varsa veya iki ekseni eşit ele almak istiyorsak klasik en küçük kareler aradığımız ilişkiyi vermeyebilir.

En İyi Doğrunun Katsayılarını Türetelim

Daha önce Gradyan ve Kısmi Türevler makalesinde çok değişkenli bir fonksiyonun her girdiye göre değişimini ölçmüştük. SSE hem $b_0$'a hem $b_1$'e bağlıdır. En küçük noktayı bulmak için iki kısmi türevi sıfıra eşitleriz.

Okuma notu: Aşağıdaki cebir, katsayı formüllerinin nereden geldiğini gösterir. Adımları ilk okumada izlemek zor gelirse şu iki sonucu akılda tutmak yeterli: En iyi doğru $(\bar{x},\bar{y})$ noktasından geçer; eğimi, birlikte değişimin $x$'teki değişkenliğe bölünmesiyle bulunur.

Önce $b_0$'a göre türev:

$$ \frac{\partial\operatorname{SSE}}{\partial b_0} =-2\sum_{i=1}^{n}(y_i-b_0-b_1x_i)=0 $$

Eşitliği düzenleyelim:

$$ \begin{aligned} \sum y_i-nb_0-b_1\sum x_i&=0,\\ n\bar{y}-nb_0-b_1n\bar{x}&=0,\\ b_0&=\bar{y}-b_1\bar{x}. \end{aligned} $$

Bu sonuç, en küçük kareler doğrusunun $(\bar{x},\bar{y})$ noktasından geçtiğini söyler. Şimdi bu $b_0$ ifadesini tek bir artığın içine yerleştirelim:

$$ \begin{aligned} y_i-b_0-b_1x_i &=y_i-(\bar{y}-b_1\bar{x})-b_1x_i\\ &=(y_i-\bar{y})-b_1(x_i-\bar{x}) \end{aligned} $$

Böylece her artığı, merkezden sapmalar üzerinden yazdık. Bu ifadeyi SSE'ye koyup $b_1$'e göre türevlediğimizde:

$$ \begin{aligned} 0 &=-2\sum_{i=1}^{n}(x_i-\bar{x}) \left[(y_i-\bar{y})-b_1(x_i-\bar{x})\right] \end{aligned} $$

Eksi 2 çarpanı sıfırın yerini değiştirmez. Köşeli parantezi açıp $b_1$'li terimi diğer tarafa aldığımızda:

$$ \begin{aligned} \sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y}) &=b_1\sum_{i=1}^{n}(x_i-\bar{x})^2\\ b_1 &=\frac{\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})} {\sum_{i=1}^{n}(x_i-\bar{x})^2} \end{aligned} $$

sonucuna ulaşırız. Pay, birlikte değişimi; payda ise $x$'in kendi değişkenliğini taşır. Payda sıfırsa bütün $x$ değerleri aynıdır ve eğimi veriden belirleyemeyiz. Örneklem kovaryansı ve varyansındaki $n-1$ çarpanları sadeleştiği için, payda sıfır olmadığı sürece aynı eğimi şöyle de yazabiliriz:

$$ b_1=\frac{s_{xy}}{s_x^2} =r\frac{s_y}{s_x} $$

Son eşitlikte korelasyonun regresyon eğimine nasıl dönüştüğünü görüyoruz. $r$ yönü ve doğrusal düzenliliği birimsiz olarak ölçer; $s_y/s_x$ oranı bunu değişkenlerin ölçeğine taşır. Bu yüzden $b_1$, $r$ ile aynı sayı olmak zorunda değildir ve $y$'nin biriminin $x$'in birimine oranını taşır.

Regresyon Doğrusunu Hesaplayalım

Örneğimizde çapraz sapmalar toplamı $70$, çalışma süresi sapmalarının kareleri toplamı $10$'du. Eğim:

$$ b_1=\frac{70}{10}=7\text{ puan/saat} $$

Sabit terim:

$$ b_0=\bar{y}-b_1\bar{x}=65-7\cdot3=44 $$

Dolayısıyla en küçük kareler doğrusu:

$$ \hat{y}=44+7x $$

Bu veri aralığında haftalık çalışma süresi bir saat daha yüksek olan bir öğrenci için doğru, ortalama 7 puan daha yüksek sonuç tahmin eder. Gözlemsel veriden bulunan bu eğimi çalışmanın puana yaptığı nedensel etki olarak yorumlayamayız.

Sabit terim $44$, $x=0$ için modelin tahminidir. Verimiz 1 ile 5 saat arasında kaldığından sıfır saatlik çalışma gözlemedik. Bu yüzden 44'ü güvenilir bir başlangıç puanı gibi okumak yerine, doğruyu konumlandıran katsayı olarak görmeliyiz.

Tahminler ve Artıklar Bize Ne Söyler?

Her çalışma süresini doğru denklemine yerleştirip tahminleri ve artıkları hesaplayalım:

$x_i$	Gerçek $y_i$	Tahmin $\hat{y}_i$	Artık $e_i$
1	50	51	-1
2	60	58	2
3	65	65	0
4	70	72	-2
5	80	79	1

Artıkların toplamı $-1+2+0-2+1=0$'dır. Sabit terim içeren en küçük kareler regresyonunda $b_0$'a göre türevi sıfıra eşitlememiz bu sonucu gerektirir. Artıklarla $x$ sapmalarının çarpımları toplamı da sıfırdır; doğruyu seçerken verideki doğrusal eğilimi kullanmış olduk.

Yine de artıkların yalnızca toplamına bakmak yeterli değildir. Artıkları tahminlere veya $x$'e karşı çizdiğimizde sıfır çevresinde rastgele bir bulut görmek isteriz. U biçimi kalan doğrusal olmayan yapıya, huni biçimi hataların değişen yayılımına, ayrı kümeler ise eksik bir grup değişkenine işaret edebilir.

Model Hatasını Nasıl Özetleriz?

Artıklar farklı işaretler taşıdığı için doğrudan ortalamaları sıfır olur ve hata büyüklüğünü saklar. Bu nedenle mutlak değer veya kare kullanırız.

Hata kareleri toplamı:

$$ \operatorname{SSE}=(-1)^2+2^2+0^2+(-2)^2+1^2=10 $$

Ortalama kare hata (MSE), betimsel bir değerlendirmede kareli hataların gözlem sayısına bölünmesidir:

$$ \operatorname{MSE}=\frac{10}{5}=2 $$

Kök ortalama kare hata (RMSE), karekök alarak sonucu puan birimine geri taşır:

$$ \operatorname{RMSE}=\sqrt{2}\approx1{,}41\text{ puan} $$

Ortalama mutlak hata (MAE) ise mutlak artıkların ortalamasıdır:

$$ \operatorname{MAE} =\frac{1+2+0+2+1}{5} =1{,}2\text{ puan} $$

RMSE büyük hataları kare nedeniyle daha ağır cezalandırır; MAE her birim hataya aynı ağırlığı verir. Hangisinin daha uygun olduğu problemin maliyetine bağlıdır. İleride çıkarımsal regresyonda hata varyansını tahmin ederken serbestlik derecesi nedeniyle farklı bir payda göreceğiz. Buradaki $n$'e bölme, eldeki tahmin hatalarını yalnızca betimsel olarak özetlemektedir.

Model Ne Kadar Değişkenlik Açıklıyor? $R^2$

Regresyon doğrusunu, hiçbir $x$ bilgisi kullanmadan herkese $\bar{y}$ tahmini veren başlangıç modeliyle karşılaştıralım. $y$'nin ortalama çevresindeki toplam kareli değişkenliği:

$$ \operatorname{SST} =\sum_{i=1}^{n}(y_i-\bar{y})^2 =500 $$

Doğrusal modelden sonra açıklanamayan kareli hata $\operatorname{SSE}=10$'du. Belirleme katsayısı $R^2$, başlangıçtaki değişkenliğin ne kadarının model tarafından azaltıldığını ölçer:

$$ R^2 =1-\frac{\operatorname{SSE}}{\operatorname{SST}} =1-\frac{10}{500} =0{,}98 $$

Bu veri kümesinde puanların ortalama çevresindeki kareli değişkenliğinin yüzde 98'i, çalışma süresiyle kurulan doğrusal model tarafından açıklanmıştır. “Açıklamak” burada matematiksel değişkenliği azaltmak demektir; çalışma süresinin puanın yüzde 98'ine neden olduğunu söylemez.

Sabit terimli, tek açıklayıcı değişkenli ve aynı eğitim verisi üzerinde hesaplanan basit doğrusal regresyonda özel bir ilişki vardır:

$$ R^2=r^2 $$

Örneğimizde $r\approx0{,}990$ olduğu için $r^2\approx0{,}980$'dir. Bu eşitlik çok değişkenli, sabit terimsiz, doğrusal olmayan veya değerlendirme verisinde hesaplanan her model için genel bir kural değildir. Değerlendirme verisinde model, yalnızca ortalamayı söylemekten bile kötü davranırsa $R^2$ negatif olabilir.

Korelasyon Nedensellik Değildir

İki değişkenin birlikte hareket etmesi, birinin diğerini değiştirdiğini tek başına göstermez. Bunun birkaç nedeni vardır:

Karıştırıcı değişken: Yaz aylarında hem dondurma satışı hem boğulma vakaları artabilir. Ortak etken sıcaklıktır; dondurma boğulmaya neden olduğu için değil.
Ters yönlü neden: Sağlık sorunu egzersizi azaltabilir; düşük egzersiz ile sağlık sorunu arasındaki ilişkiyi yalnızca “az egzersiz hastalığa yol açtı” diye okumak eksik olabilir.
Seçim yanlılığı: Veriye kimlerin veya hangi koşulların girdiği ilişkiyi oluşturabilir ya da gizleyebilir.
Ortak zaman eğilimi: Yıllar içinde birlikte yükselen iki sayı, doğrudan bağlantılı olmasalar bile yüksek korelasyon gösterebilir.
Rastlantı ve çok sayıda deneme: Yüzlerce değişken çifti tarandığında bazı yüksek korelasyonlar yalnızca şans eseri ortaya çıkabilir.

Neden-sonuç yorumu yaparken problem bilgisini, olayların zaman sırasını ve verinin nasıl toplandığını incelemeliyiz. Deney veya doğal deney, karıştırıcı değişkenlerin kontrolü ve belirsizlik analizi bu yorumu destekleyebilir. Korelasyon ise tek başına hangi değişkenin hangisini etkilediğini söylemez.

Alt Gruplar İlişkiyi Tersine Çevirebilir

Veriyi bir arada incelemek bazen grupların içinde görülen ilişkiden farklı, hatta ters bir sonuç üretebilir. Buna Simpson paradoksu denir. Örneğin iki ayrı ders düzeyinde daha çok çalışma daha yüksek puanla ilişkili olabilir. Fakat zor dersteki öğrenciler hem daha çok çalışıyor hem sınavdan daha düşük puan alıyorsa, dersleri birleştirdiğimizde genel ilişki zayıflayabilir veya ters dönebilir.

Genel korelasyon bütün öğrencileri bir arada, grup içi korelasyon ise her ders düzeyini kendi içinde karşılaştırır. Yaş, bölge, ürün türü, sınıf veya zaman dönemi gibi anlamlı gruplar varsa genel katsayının yanında bunları da incelemek gerekir.

Aykırı ve Etkili Gözlemler Sonucu Değiştirebilir

Pearson korelasyonu ve en küçük kareler regresyonu ortalamalara, standart sapmalara ve kareli hatalara dayanır. Bu nedenle uzak bir gözlem iki yöntemi de güçlü biçimde etkileyebilir.

Özellikle $x$ ekseninde diğer noktalardan uzakta bulunan bir gözleme yüksek kaldıraçlı (high leverage) nokta denir. Bu noktanın $y$ değeri genel desenden de ayrılıyorsa regresyon doğrusunu kendine doğru çekebilir. Her aykırı nokta etkili değildir; her etkili nokta da veri hatası değildir.

Uzak bir noktayı gördüğümüzde şu adımları izleyebiliriz:

Kaynağı kontrol edin: Birim, ondalık ayırıcı veya eşleştirme hatası var mı?
Gözlemin gerçek fakat nadir bir durumu temsil edip etmediğini araştırın.
Sonucu gözlem dâhil ve hariç hesaplayarak duyarlılığı karşılaştırın.
Gerekirse dayanıklı yöntemleri veya farklı bir model biçimini değerlendirin.
Her dışlama kararını gerekçesiyle raporlayın.

Regresyonun Varsayımları Neyi Korur?

Bir doğruyu her sayısal veri kümesine uydurabiliriz; fakat katsayıları, belirsizlikleri ve gelecekteki tahminleri güvenle yorumlamak için bazı koşulları incelemeliyiz.

Doğrusallık: $x$ ile $y$'nin koşullu ortalaması yaklaşık bir doğru izlemelidir. Artıklardaki eğri desen, model biçiminin eksik olduğunu gösterir.
Bağımsız gözlemler: Bir gözlemin hatası diğerini sistematik biçimde belirlememelidir. Zaman serileri ve aynı kişiden tekrarlanan ölçümler özel yöntemler gerektirebilir.
Sabit hata yayılımı: Artıkların yayılımı $x$ boyunca yaklaşık sabit olmalıdır. Tahminler büyüdükçe hata bulutu açılıyorsa belirsizlik her bölgede aynı değildir.
Hata teriminin koşullu ortalamasının sıfır olması: Modelin dışında kalan etkenler $x$ ile sistematik biçimde bağlantılıysa eğim yanlı yorumlanabilir. Gözleyemediğimiz gerçek hatayı artıklar üzerinden dolaylı biçimde inceleriz.
Belirsizlik hesabı için dağılım koşulları: Küçük örneklemde klasik güven aralıkları ve testler çoğu zaman hataların yaklaşık Normal dağıldığı varsayımına dayanır. Doğruyu hesaplamak için artıkların mutlaka Normal olması gerekmez; Normal varsayımı özellikle çıkarımsal sonuçların biçimini etkiler.

Her varsayım farklı bir yorumu veya belirsizlik hesabını ilgilendirir. Bir sorun gördüğümüzde bunun hangi sonucu etkilediğine bakmalı; ardından veriye ve soruya göre dönüşüm, yeni özellik, farklı model veya uygun bir belirsizlik yöntemi seçmeliyiz.

Aralık İçinde Tahmin ile Dışarı Taşmak Aynı Değildir

Modelimiz 1–5 saat aralığındaki öğrencilerden öğrenildi. $x=3{,}5$ için tahmin yapmak gözlenen aralığın içindedir:

$$ \hat{y}=44+7\cdot3{,}5=68{,}5 $$

Bu işleme aradeğerleme denir. $x=20$ saat için aynı doğru $184$ puan üretir; sınavın 100 üzerinden olduğu bir sistemde bu açıkça anlamsızdır. Gözlenen aralığın dışına yönelik bu işleme dış değer tahmini veya ekstrapolasyon denir.

Korelasyon yüksek, eğitim hatası küçük olsa bile doğru 1–5 saat aralığının dışında güvenilir olmayabilir. Hesapladığımız eğim gözlediğimiz aralığı anlatır; 20 saate kadar süreceğini veriden bilmiyoruz.

Korelasyon ve Regresyon Aynı Şey Değildir

Özellik	Korelasyon	Doğrusal regresyon
Temel soru	İki değişken ne kadar doğrusal birlikte hareket ediyor?	$x$ verildiğinde $y$'nin ortalama eğilimi ve tahmini nedir?
Roller	$x$ ve $y$ simetriktir.	Girdi $x$ ve hedef $y$ farklı roller taşır.
Sonuç	Birimsiz, $[-1,1]$ aralığında bir katsayı	Birim taşıyan katsayılara sahip bir tahmin denklemi
Değişkenleri yer değiştirmek	Katsayı değişmez.	Genellikle farklı bir doğru ve farklı tahmin sorusu oluşur.
Nedensellik	Tek başına göstermez.	Tek başına göstermez.

Regresyon katsayısı sıfırdan farklıyken korelasyonun işareti aynıdır; fakat büyüklükleri farklı şeyler söyler. Örneğimizde $r\approx0{,}990$, $b_1=7$'dir. İlki birimsiz doğrusal düzenliliği, ikincisi saat başına puan değişimini anlatır.

Birden Fazla Girdi: Çoklu Regresyona Ön Bakış

Sınav puanını yalnızca çalışma süresi belirlemez. Ön bilgi, uyku, dersin zorluğu ve ölçüm koşulları da sonuçla ilişkili olabilir. Birden fazla girdiyi aynı modelde kullanmak için doğrusal denklemi genişletebiliriz:

$$ \hat{y}=b_0+b_1x_1+b_2x_2+\cdots+b_px_p $$

Burada $b_j$, diğer girdiler modelde sabit tutulurken $x_j$'deki bir birimlik artışla ilişkilendirilen tahmin değişimidir. “Sabit tutulurken” ifadesi, basit ikili korelasyondan daha koşullu bir yorum sağlar; yine de gözlemsel veride otomatik olarak nedensellik oluşturmaz.

Girdiler birbirleriyle çok yüksek korelasyon taşıyorsa aynı bilgiyi paylaşabilir. Buna çoklu doğrusal bağlantı (multicollinearity) denir. Modelin toplam tahmini iyi kalırken tek tek katsayılar kararsızlaşabilir. Bu nedenle korelasyon matrisi yararlı bir ilk incelemedir; fakat özellik seçimini yalnızca ikili korelasyonlara indirmek doğru değildir.

Yapay Zekâda Somut Kullanımlar

Yapay zekâ çalışmasında bu hesapları veri hazırlarken, ilk tahmin modelini kurarken ve sonuçları değerlendirirken kullanabiliriz.

Özellikleri Tanımak ve Tekrarlı Bilgiyi Görmek

Yüzlerce sayısal sütun içeren bir veri kümesinde korelasyon matrisi, birlikte hareket eden özellikleri görünür kılar. Santimetre ve metre cinsinden aynı uzunluğu taşıyan iki sütun neredeyse kusursuz korelasyon gösterir. Bu, veri hattında yinelenen bilgi veya birim dönüşümü hatası olabileceğini düşündürür.

Hedef Sızıntısını Yakalamak

Bir özelliğin hedefle olağanüstü yüksek korelasyonu her zaman sevindirici değildir. Kredi geri ödeme sonucundan sonra oluşturulan bir “tahsilat durumu” sütunu geçmiş veride hedefi neredeyse doğrudan açığa çıkarabilir. Model bu sütunla çok başarılı görünür, fakat gerçek tahmin anında bilgi henüz mevcut değildir. Korelasyon burada başarı kanıtı değil, hedef sızıntısı için alarmdır.

Basit ve Denetlenebilir Başlangıç Modeli

Doğrusal regresyonu daha karmaşık bir model için başlangıç ölçüsü olarak kullanabiliriz. Katsayıların birimlerini yorumlar, tahmin hesabını izler ve artıklarda modelin kaçırdığı desenleri ararız. Daha karmaşık model yeni veride bu doğrudan iyi sonuç vermiyorsa ek karmaşıklığın yararını sorgularız.

Kayıp Fonksiyonundan Öğrenmeye

İki katsayılı modelin en küçük kareler çözümünü doğrudan bulduk. Daha çok girdiyle aynı problemi matrislerle yazabiliriz. Çok büyük modellerdeyse daha önce öğrendiğimiz gradyanı kullanarak hatayı adım adım azaltabiliriz. Sinir ağları eğitilirken de tahmin ve kayıp hesaplanır, parametrelerin kayba etkisi bulunur ve parametreler güncellenir.

Modeli Yalnızca Eğitim Verisinde Ölçmemek

Eğitim noktalarına iyi uyan bir doğru, yeni gözlemlerde aynı başarıyı göstermeyebilir. MSE, MAE ve $R^2$ gibi ölçüleri eğitimden ayrılmış doğrulama veya test verisinde de hesaplarız. Test verisine bakarak özellik seçer, ölçekler veya model ayarlarsak değerlendirme olduğundan iyi görünür.

Korelasyon ve Regresyonda Sık Yapılan Hatalar

Korelasyonu nedensellik sanmak: Birlikte değişim; karıştırıcıları, ters nedenselliği ve seçim etkilerini tek başına ayıramaz.
Grafiği çizmeden katsayıya bakmak: Aynı $r$, çok farklı nokta desenlerinden doğabilir.
$r=0$ ise ilişki yok demek: Pearson katsayısı doğrusal ilişkiyi ölçer; U biçimli örnekte güçlü ilişki sıfır görünmüştü.
Yüksek korelasyonu kusursuz tahmin sanmak: Korelasyon bir tahmin denklemi, hata dağılımı veya yeni veride başarı garantisi değildir.
Düşük korelasyonu önemsizlik sanmak: Doğrusal olmayan yapı, alt gruplar veya bağlama göre önemli küçük etkiler bulunabilir.
Sabit terimi her koşulda yorumlamak: $x=0$ veri aralığının dışında veya gerçek dünyada anlamsız olabilir.
Eğimi nedensel etki gibi okumak: Regresyon eğimi gözlemsel ilişkiyi özetler; çalışma tasarımı nedensel yorumu ayrıca desteklemelidir.
Artıkları incelememek: Tek bir hata sayısı eğriliği, değişen yayılımı ve kümeleri saklayabilir.
Aykırı değeri otomatik silmek: Uzak gözlem veri hatası da gerçek ve önemli bir olay da olabilir.
Ekstrapolasyona güvenmek: Veri aralığının dışındaki doğrunun gerçek ilişkiyi sürdürdüğüne dair kanıt olmayabilir.
$R^2$'yi doğruluk veya nedensellik oranı sanmak: $R^2$, kareli değişkenliğin modelle azaltılan bölümüdür; tek başına model kalitesinin tamamı değildir.
Eksik değerleri sessizce çıkarmak: Her değişken çifti farklı gözlemlerle hesaplanırsa korelasyonlar doğrudan karşılaştırılamayabilir.
Çok sayıda çifti tarayıp en büyüğünü gerçek keşif sanmak: Çoklu karşılaştırmalar rastlantısal yüksek değerlerin olasılığını artırır.

Bir İlişkiyi İncelerken İzlenecek Yol

Gözlemleri ve eşleşmeyi tanımlayın. Her $(x_i,y_i)$ çifti aynı kişiye, zamana veya nesneye mi ait?
Değişken türlerini ve birimleri kontrol edin. Pearson korelasyonu sayısal değişkenler için anlamlı mı; kodlanmış kategoriler yanlışlıkla sayı gibi mi kullanılıyor?
Eksik, olanaksız ve yinelenmiş kayıtları inceleyin. Hangi gözlemlerin hesaba girdiğini görünür kılın.
Saçılım grafiğini çizin. Yön, biçim, güç, kümeler ve olağandışı noktaları gözleyin.
Amaca uygun ilişki ölçüsünü seçin. Doğrusal birliktelik için Pearson, sıralı ve tek yönlü fakat doğrusal olmayan yapı için Spearman düşünülebilir.
Regresyonda rolleri belirleyin. Hangi değişken girdi, hangisi hedef ve bu seçim neden anlamlı?
Katsayıları birimleriyle yorumlayın. Eğim hangi aralıkta, hangi koşullar altında ne söylüyor?
Artıkları inceleyin. Sıfır çevresinde rastgele mi, yoksa kalan bir desen var mı?
Aykırı ve etkili gözlemlere duyarlılığı sınayın. Sonuç birkaç noktaya mı dayanıyor?
Tahmin aralığını koruyun. Aradeğerleme ile ekstrapolasyonu ayırın.
Nedensel dili sınırlayın. Gözlemsel ilişkiyi çalışma tasarımının desteklemediği bir neden-sonuç iddiasına dönüştürmeyin.
Yeni veride değerlendirin. Eğitim uyumu ile genelleme başarısını birbirine karıştırmayın.

Sonuç: Birlikte Hareketten Tahmine

Çalışma süresi ile sınav puanını eşleşmiş gözlemler olarak aldık. Saçılım grafiğinde ilişkinin yönünü, biçimini, gücünü, alt grupları ve aykırı noktaları aradık. Sapmaların çarpımından kovaryansı hesaplayıp standart sapmalarla ölçeklediğimizde $-1$ ile $1$ arasında birimsiz Pearson korelasyonunu elde ettik.

Öğrenci verisinde $r\approx0{,}990$ güçlü bir pozitif doğrusal birliktelik gösterdi. Bu sayı, çalışmanın puanı artırdığını kanıtlamaz ve hatasız tahmin vaat etmez. $y=x^2$ örneğinde ise ilişki tam olarak belirli olmasına rağmen Pearson korelasyonu sıfır çıktı; çünkü ilişki doğrusal değildi.

Artık kareleri toplamını en aza indirince $\hat{y}=44+7x$ doğrusunu bulduk. Eğimi kovaryansın $x$ varyansına oranlayarak hesapladık; aynı eğimi $b_1=r(s_y/s_x)$ biçiminde de yazabildik. Normal hata varsayımı altında bu en küçük kareler çözümü MLE ile örtüşür. Artıklar ve SSE, MSE, RMSE, MAE ile $R^2$, doğrunun veriye nasıl uyduğunu farklı açılardan gösterdi.

Korelasyon nokta bulutunun doğrusal yönünü ve düzenliliğini özetler. Regresyonda hedefi seçer, bir doğru kurar ve dikey tahmin hatalarını ölçeriz. Her iki sonucun yorumunda da grafiğe, verinin nasıl toplandığına, alt gruplara, artıklara, aykırı noktalara ve yeni verideki başarıya bakmamız gerekir.

Beş öğrencide bulduğumuz yüksek korelasyon ve pozitif eğim, daha geniş öğrenci topluluğunda da görülür mü? Yoksa seçtiğimiz örnekleme mi özgüdür? Sıradaki Çıkarımsal İstatistik ve Hipotezler makalesinde örneklemden anakütleye geçerken tahmin belirsizliğini, güven aralıklarını, sıfır hipotezini ve rastlantının sonuçlarımızdaki payını inceleyeceğiz.

Yazar: Levent KARAGÖL