Pandas ile Veri Temizleme: Gerçek Örnekler
Pandas, Python'da veri analizi yapanların en sık kullandığı araçlardan biri. Ama pandas'ın gerçek gücü, veri setini analiz edilebilir hale getirmektedir. Çoğu zaman ham veriler karmaşık, eksik veya tutarsızdır. pandas burada devreye girer.
Veri temizleme, bir veri analisti veya veri bilimcinin zamanının %70'ini alır. Pandas bunu hızlı ve etkili kılıyor. Örneğin, bir CSV dosyasından yüklediğin veride bazı satırlar eksik olabilir, tarih formatları tutarsız olabilir veya metin alanlarında gereksiz boşluklar olabilir.
Pandas ile başlamak çok basit. Veri setini yükle, hangi sütunlarda eksik değer var bak, onları doldur veya çıkar. Sütun adlarını düzenle, veri tiplerini doğru ayarla. Hepsi birkaç satır kodla yapılır.
Örneğin, bir satış verisinde müşteri adlarında baştail boşluklar varsa `str.strip()` ile temizle. Eksik ürün fiyatları varsa ortalama ile doldur veya o satırı sil. Tarih sütunu metin ise `pd.to_datetime()` ile dönüştür.
Pandas'ın `groupby()` fonksiyonu ise veriyi kategorilere ayırıp özet istatistikler almanı sağlar. `merge()` ile farklı veri setlerini birleştirebilirsin. `apply()` ile her satıra veya sütuna özel işlem uygulayabilirsin.
Bir diğer yaygın ihtiyaç, tekrar eden satırları kaldırmaktır. `drop_duplicates()` bunu bir satırda yapar. Veri setinin boyutunu küçültmek için gereksiz sütunları `drop()` ile silebilirsin.
Pandas öğrenirken yapılan en yaygın hata, veriyi anlamadan işlemeye başlamaktır. Önce `info()`, `describe()` ve `head()` ile veriyi tanı. Sonra temizleme adımlarını başlat. Böylece hata yapma riski azalır ve sonuçlar daha güvenilir olur.
Python 3.8+ ve pandas 1.3+ ile çalışırsan modern fonksiyonlardan yararlanabilirsin. Veri setleri büyüyünce performans önemli hale gelir; pandas'ın optimizasyon seçeneklerini kullanmayı öğren.
0 yorum