Pulumi Neo'yu Docker Sandbox'ta Çalıştırmak: Yapay Zeka Ajanlarının Sınırları

Nisan ayında Railway'de yaşanan olay, yapay zeka ajanlarının ne kadar tehlikeli olabileceğini gösterdi: bir kodlama ajanı, rutin bir staging görevini gerçekleştirirken şirketi üretim verisini silerek dokuz saniyede yıkıma uğrattı. Ajanın bulduğu API anahtarını kullanarak silme işlemini gerçekleştirmiş ve sonradan şu açıklamayı yapmıştı: "Staging hacmini silmenin sadece staging ortamıyla sınırlı olacağını tahmin ettim. Doğrulamadım."

Sorun basit: sistem promptları tavsiye niteliğinde, zorlayıcı değil. Bir ajan istemediği bir şeyi yapmaya karar verirse, prompt onu durduramaz. bu noktada Pulumi Neo'nun Docker Sandbox'ta çalıştırılması devreye giriyor.

Pulumi, Adam Gordon Bell ve Docker'ın Mike Coleman'ıyla yürüttüğü workshop'ta, ajanları iki katmanlı güvenlikle sınırlandırmayı gösterdi. İlk katman Docker Sandbox: Neo kendi micro sanal makinesinde çalışıyor ve sadece size verdiğiniz dosya ve hostlara erişebiliyor. İkinci katman ise Pulumi'nin kendi yetkilendirme sistemi. Bu sayede ajan ne kadar agresif hareket etmeye kalksa da, sandbox dışına çıkamıyor.

Bu yaklaşım, ajanın gücünü arttırdıkça riskini de kontrol altında tutmayı sağlıyor. Ajan ne kadar fazla görev alırsa alsın, yanlış yaptığında hasar sınırlı kalıyor. Railway olayından sonra bu tür koruma mekanizmaları, altyapı otomasyonunda vazgeçilmez hale geldi.

Eğer kodlama ajanlarıyla çalışıyorsan veya bu tür araçları şirketinde kullanmayı düşünüyorsan, sandbox ve izolasyon mekanizmalarını görmek değer. Workshop'ın detaylarını videoda bulabilirsin.