Çoklu Doğrusallık: Tanısı Kolay, Çözümü Neden Zor?

Veri analizi ve makine öğrenmesinde çoklu doğrusallık (multicollinearity) belki de en çok yanlış anlaşılan problemlerden biri. Herkes VIF (Variance Inflation Factor) değerini hesaplamayı biliyor, korelasyon matrisine bakıyor, ama sonra ne yapacağını bilemeyip takılıyor.

Problemi tanımak gerçekten basit. İki veya daha fazla bağımsız değişken birbirleriyle yüksek korelasyona sahipse, işte çoklu doğrusallık var. Python'da `pandas.corr()` veya `statsmodels.variance_inflation_factor()` ile dakikalar içinde tespit edebilirsin. Ama işte burada tuzak başlıyor.

Çünü çoklu doğrusallık aslında üç farklı soruna işaret ediyor ve her birinin çözümü tamamen farklı. Birincisi: istatistiksel model açısından sorun. Regresyon katsayılarının standart hataları şişer, güven aralıkları genişler, p-değerleri anlamsız hale gelir. Modelin tahmin gücü zarar görebilir. Bunu çözmek için değişken seçimi, regularizasyon (Ridge, Lasso) veya PCA gibi yöntemlere başvurabilirsin.

İkincisi: işletme açısından sorun. Eğer amaçlı olarak benzer özellikleri ölçüyorsan, örneğin yaş ve çalışma deneyimi, bu beklenen bir durumdur. Burada "sorun" yok, veri doğal olarak bu şekildedir. Çözüm, modeli amacına göre yeniden tasarlamak olabilir.

Üçüncüsü: veri kalitesi sorunu. Eğer aynı bilgiyi farklı şekillerde ölçen gereksiz değişkenler varsa, bunları çıkarmak yeterlidir. Örneğin, hem gelir hem de gelir kategorisini kullanmak saçmadır.

Asıl zorluk burada. Hangi kategoriye düştüğünü bilmeden çözüm uygulamak, modeli kötüleştirebilir. Lasso ile değişken eleyen biri, aslında işletme açısından önemli bir özelliği kaybedebilir. PCA uygulayan biri, sonraki modelin yorumlanabilirliğini feda eder.

Benim görüşüm: çoklu doğrusallık bir "sorun" değil, tanıyı yanlış yapmanın sonucudur. Verini ve amacını iyi anlayıp, hangi tür doğrusallık ile karşı karşıya olduğunu belirle. Sonra çözümü seç. Aksi halde, VIF değerini düşürmek için değişken silersen, sonra "neden model performansı düştü?" diye şaşırırsın.