Yapay Zeka Sistemleri Queer Toplulukları Nasıl Zararlıyor?

Yapay zeka sistemleri eğitim verilerinde çoğunluğun varsayımlarını kodlayarak azınlık gruplarına, özellikle queer topluluklara zarar veriyor. Silme, yanlış sınıflandırma ve ayrımcılık bu zararların başında geliyor.

EurIPS 2025'te yapılan bir çalışmada 16 queer topluluk üyesi dört farklı AI ürünü inceledi. Katılımcılar 4Cs zarar taksonomi sistemini (İçerik, Davranış, İletişim, Sözleşme) kullanarak zararları AI geliştirme sürecinin her aşamasında izledi.

Bulguların özü basit: sorun tanımı ve veri toplama aşamalarında kökler var. Örneğin, cinsiyet kategorileri ikili olarak tanımlandığında veya eğitim verisi heterojen topluluğu temsil etmediğinde, sistem çıktıları doğal olarak hatalı hale geliyor. Buna ek olarak, sözleşme yapıları kırılgan nüfusun değerini çıkarırken minimal geri dönüş sağlıyor.

Standart teknik denetimler genellikle toplu ölçümlere güvenir ve yaşanan deneyimle görünür hale gelen zararları yakalayamaz. Bu çalışma, etkilenen toplulukların doğrudan katılımının denetim sürecinin ne kadar kritik olduğunu gösteriyor.

AI geliştirenlerin tasarım evresinden başlayarak çeşitlilik ve temsil sorunlarını ele alması gerekiyor. Aksi takdirde, teknoloji azınlık gruplarını sistematik olarak marjinalleştirmeye devam edecek.