Web Dünyası Modelleri: Güvenli Tahmin Yeterli Mi?

Yapay zeka ajanları web üzerinde işlem yapmadan önce sonuçları tahmin eden modeller giderek yaygınlaşıyor. Ancak burada kritik bir sorun var: tahmin edilen gelecek plausible görünse bile, doğru güvenlik kararını desteklemeyebiliyor.

Bir araştırma, on açık modelden 3.000 tahmini insan değerlendirmesine tabi tutmuş. Sonuç şu: tahminlerin %86,1'i anlamsal olarak makul görünüyor. Yine de bazı modeller ilginç bir davranış sergiliyor, false-safe (yanlış güvenli) yürütme oranı düşük, ama ASK (sorma/onay) gereken durumların hatırlanması zayıf ve BLOCK (engelleme) tercihinde aşırı eğilim var.

Burada 'safety sufficiency' (güvenlik yeterliliği) devreye giriyor. Soru şu: tahmin eden arayüz, bir eylemi EXECUTE (çalıştır), ASK (sor), ya da BLOCK (engelle) arasında ayırt etmek için gerekli, politika-belirleyici bilgileri koruyor ve açığa çıkarıyor mu?

SafeWebWorld adlı yeni bir benchmark tam da bunu test etmek için tasarlanmış. Beş web-güvenlik alanında, aksiyon-koşullu gelecekler, politika-belirleyici kanıtlar ve politika-koşullu kararlar üzerinden modelleri değerlendiriyor.

Praktik açıdan bakarsak, bu araştırma web uygulamalarında otomatik karar alma sistemlerinin ne kadar güvenilir olduğunu sorguluyor. Bir model 'bu güvenli görünüyor' dese bile, o tahmin insan müdahalesinin gerekli olduğu durumları gözden kaçırabilir. Özellikle e-ticaret, sosyal medya ve finansal işlemlerde bu fark ciddi sonuçlar doğurabiliyor. Modellerin sadece plausible tahmin yapması değil, politika kararlarını desteklemek için yeterli kanıt sağlaması gerekiyor.