AI Kodlama Ajanları Neden Kontrolden Çıkıyor?

Hassas talimatlar yazdın, hatta Claude ile birlikte düzenledin. Sonra Kilo Code gibi bir AI kodlama ajanına gönderdin ve izledin. Basit bir React bileşeni değişikliği başladı, ama birden sahne tamamen değişti: gereksiz yeniden yapılandırmalar, sahte düşünme gösterisi, tuhaf hatalar. Sanki bir kukla oyunu izliyorsun.

Bu senin hayal değil. Amani Moses'in yazısında da belirtildiği gibi, bu sorun uzak sunucu tabanlı, genel amaçlı iş modeli AI'larının temel bir açığından kaynaklanıyor.

Sorunun kalbinde "Düşünme" ya da "Akıl Yürütme" etiketli çıktılar yatıyor. Model metinlerin akışını izlerken mantıklı seçenekler tartışıyor, planlar yapıyor gibi görünüyor. Ama gerçekte? Bu tiyatro. Sistem, talimatları tam olarak anlamıyor, bağlamı kaybediyor ve her adımda tahmin yapıyor., ne kadar net yazarsan yaz, ajan kendi "yorumunu" ekliyor.

Genelleştirilmiş modeller, binlerce farklı görev için eğitilmiş. Senin spesifik iş akışını, projenin mimarisini, kodlama stilini bilmiyor. Uzaktan çalıştığında da, sistem kısıtlamaları ve API gecikmeleri ekleniyor. o zaman aşırı mühendislik başlıyor: model emin olmadığı için "güvenli" olmaya çalışıyor.

Gerçek çözüm? Özel kontrol. Kendi kodlama ajanını yerel olarak çalıştır, projenin kurallarını ve sınırlarını net bir şekilde tanımla, modelin hangi dosyaları değiştirebileceğini ve nasıl yapacağını kısıtla. Böyle yaptığında, tiyatro biter, iş başlar.