SMOTE vs Ağırlıklandırma: Hangi Yöntem Gerçekten İşe Yarar?

Sınıf dengesizliği makine öğrenmesinde yaygın bir sorun. Bir sınıfın diğerinden çok daha fazla örneği olduğunda, model çoğunluk sınıfını öğrenmeye odaklanır ve azınlık sınıfı başarısız olur. İki popüler çözüm var: SMOTE (Synthetic Minority Over-sampling Technique) ve ağırlıklandırma. Hangisi tercih edilmeli?

Ağırlıklandırma, azınlık sınıfının örneklerine eğitim sırasında daha yüksek ceza (loss) atanması demek. Scikit-learn'de `class_weight='balanced'` parametresiyle tek satırda yapılır. Hiçbir veri üretilmez; orijinal veri korunur.

Avantajları açık: hızlı, hafif, hiperparametre tuning gerekmez. Dezavantajı da var, model azınlık sınıfını öğrenmeye zorlanır ama yeni veri üretmez, yani karar sınırı sınırlı kalabilir.

SMOTE, azınlık sınıfının sentetik örneklerini oluşturur. Mevcut azınlık örneklerine bakıp, aralarına yeni noktalar interpolasyon yöntemiyle ekler. Veri seti büyür; model daha zengin bir azınlık sınıfı görür.

Sonuç sık sık daha iyi karar sınırıdır. Özellikle azınlık sınıfı örnek sayısı çok düşükse (< 100), SMOTE yardımcı olur. Ama dikkat: SMOTE, eğitim setine overfitting riskini artırabilir. Ayrıca test setine uygulanmamalı, yalnızca eğitim setinde kullanılır.

Veri yeterince büyükse (azınlık sınıfında >500 örnek), ağırlıklandırma çoğu zaman yeterli ve daha güvenli. Hızlı iterasyon yapmak istiyorsanız, başlangıç olarak ağırlıklandırma deneyin.

Azınlık sınıfı çok az örneğe sahipse (< 200), SMOTE + ağırlıklandırma kombinasyonu denemeye değer. Ama SMOTE parametrelerini (k_neighbors gibi) tuning etmek gerekir; bu zaman alır.

Eğer model zaten iyi performans gösteriyorsa ve yalnızca azınlık sınıfında ufak iyileştirme arıyorsanız, ağırlıklandırma yeterli. Karar sınırı çok düzeltilmesi gerekiyorsa, SMOTE deneyin.

Sonuç: Ağırlıklandırma varsayılan seçim, SMOTE ihtiyaç olduğunda. İkisini de aynı projede test etmek, veri ve problem için en uygun olanı bulmanın en güvenilir yoludur.