Yapay Zeka Aracılara Yetki Göstermek Aşırı Güç Kullanımını Azaltıyor

Bir görev için birden fazla araç varken, yapay zeka ajanları sıklıkla en güçlü olanı seçiyor, hatta görevin ihtiyacından çok daha fazla yetki kullanıyor. Bir araç başarısız olunca bu eğilim daha da artıyor. Araştırmacılar şimdi basit bir soru sordu: ya aracılara hangi araçların ne kadar yetki gerektirdiğini söylersek ne olur?

Arxiv'de yayımlanan çalışmada, ToolPrivBench'in 544 senaryosu sekiz farklı dil modeline uygulandı. Üç model yerel olarak, beş tanesi API üzerinden çalıştırıldı. Deney beş koşul altında yapıldı: hiç bilgi verilmemesi, en düşük yetki talimatı, her araç açıklamasında yetki sınıfı ve maliyet gösterilmesi, hem talimat hem de bilgi verilmesi, ve kontrol grubu olarak tarafsız veriler.

Sonuç net: Aracılara yetki bilgisi göstermek, aşırı yetki kullanan her modelde ölçülebilir bir düşüş sağladı. En iyi senaryolarda aşırı yetkilendirilmiş seçim %19,3 oranında azaldı. Bu, modellerin basit bir bağlam eklenmesiyle daha sorumlu karar verebileceğini gösteriyor.

Önemli olan nokta: Modeli yeniden eğitmek veya dış kontroller uygulamak yerine, sadece araçların yetkisini açık hale getirmek etkili oluyor. Güvenlik açısından bu, ajanları daha az riskli hale getirmenin her zaman karmaşık bir çözüm gerektirmediğini gösteriyor. Basit, şeffaf bilgi bazen en iyi yardımcı olabilir.