AI Ajanları Kontrol Altında Tutmak: Canvas Mimarisi Nasıl Çalışır

AI ajanları güçlü ancak risklidir. Özellikle yazılım geliştirme gibi kritik alanlarda bir ajanın kendi başına ne kadar ileri gitmesi gerektiği sorusu ortaya çıkar. Nimisha Asthagiri'nin sunumunda ele aldığı "Canvas" yaklaşımı tam da buna bir çözüm sunuyor.

Canvas modeli, ajanın hareket alanını önceden belirlenmiş sınırlar içinde tutar. Tıpkı bir ressam için hazırlanmış tuval gibi, sonsuz bir boş sayfa değil, belirli kenarları olan bir alan. Bu sınırlar ajanın hangi kod dosyalarını değiştirebileceğini, hangi API'leri çağırabileceğini ve hangi kararları alabildiğini tanımlar.

Pratik olarak, bir AI kodlama aracı Canvas kullanıyorsa, örneğin bir bug düzeltme görevini alırken sadece ilgili modülü değiştirebilir, test dosyalarını silip yeniden yazamaz ve veritabanı şemasını kendi başına değiştiremez. Sınırlar açık, ajandan çok yazılımcı tarafından kontrol edilir.

Modelin üç temel faydası var. Birincisi, ajanın "drift" etmesini, yani orijinal görevden sapmasını, sürekli olarak algılamak mümkün hale gelir. İkincisi, her kararın kaydı tutulur, böylece sonradan ne yapıldığı ve neden yapıldığı izlenebilir. Üçüncüsü, bu yapı ölçeklenebilir ve güvenilir yazılım geliştirmeye uygun; ajana tam güven değil, sınırlı yetki verilir.

Geliştirici açısından bakıldığında, bu demek oluyor ki AI ajanlarını kullanırken "tamamen otonom" ya da "tamamen manuel" arasında bir orta yol bulabilirsin. Ajana görev ver, sınırlarını belirle, sonuçları gözlemle, tıpkı bir junior geliştirici onboarding'i gibi. Hata riski azalır, kontrol artar.