Yapay Zeka Şeffaflığı Kimin İçin? Paydaşlar Arasındaki Boşluk

Yapay zeka dünyasında şeffaflık sloganı her yerde duyuluyor, ama kimse tam olarak neyin şeffaf olması gerektiğine anlaşmamış. Bir araştırma bu kargaşayı somut verilerle ortaya koyuyor.

ArXiv'de yayımlanan çalışmada 400 kişi üzerinde yapılan anketle üretken yapay zeka sistemlerinin şeffaflığı konusunda üç grup incelendi: son kullanıcılar, yapay zeka geliştiricileri ve politika yapıcılar. Bulgular ilginç.

İlk olarak, üç grup da şeffaflığın ne anlama geldiği konusunda benzer fikirde: doğruluk ve gizlilik güvencesi. Herkes bunu istiyor, ama pratik uygulamada işler karışıyor.

Asıl sorun burada ortaya çıkıyor. Son kullanıcılar ile geliştiriciler arasında devasa bir uçurum var. Kullanıcılar, şeffaflık özelliklerinin önemli olduğunu düşünüyor ama mevcut olduğunu sanmıyor. Geliştiriciler ise tersini düşünüyor, onlar kendi sunduklarını yeterli buluyor. Bu uyumsuzluk, kullanıcılar için çok daha belirgin.

Araştırma ayrıca odak grup tartışmasından çıkan bulguları da dahil ediyor. Günümüz şeffaflık uygulamaları, en çok bilgiye ihtiyaç duyan grup olan son kullanıcıları görmezden geliyor.

Bu araştırma, yapay zeka yönetişiminde bir temel sorunu işaret ediyor: şeffaflık sadece teknik bir konu değil, sosyal bir anlaşma meselesi. Kimin ne bilmesi gerektiği, hangi bağlamda ve hangi biçimde, bunlar hâlâ belirsiz ve paydaşlar arasında tartışmalı.