AI Ajanları Günlük Kullanan %80, Üretimde Çalıştıran %49

Temporal'ın yeni anketi bir rakamı öne çıkardı: geçen yıl %47 olan günlük AI ajan kullanıcılarının oranı şimdi %80'e fırladı. Ama asıl ilginç olan ikinci sayı, sadece %49'u bu ajanları gerçekten üretimde çalıştırıyor.

Yani %31'lik bir boşluk var. Günde kullananlar ile üretimde çalıştıranlar arasında bu fark sadece zaman meselesi değil; sorun sistemin kendisinde.

Harrison Chase, LangChain'in Londra etkinliğinde bunu açık söyledi: "Harness'ı kontrol eden kazanır." Yani model değil, prompt değil, ajanın etrafındaki sistem önemli. Değerlendirmeler (evals), hafıza, yetenekler, yönetim ve güvenilir yürütme mekanizması. bu, %49'u %51'den ayıran şey.

Deneme aşamasında ajan yazmak kolay. Bir LLM çağrısı, basit bir döngü, hatta LangChain'in hazır şablonları. Ama üretime taşıdığında? Ajan hangi verilere erişebilir, nasıl hata verirse ne olur, aynı işi iki kere yapmazsa emin misin, sistem çöktüğünde kaldığı yerden devam edebilir mi, sonuçlar denetlenebilir mi, bunların hepsi harness'ın işi.

Temporal'ın tam anketi detaylı gösteriyor: %80 ile %49 arasındaki boşluk, basit bir 'henüz hazır değil' değil. Çoğu takım ajanın lokal testini geçmesinden sonra, üretime götürürken altyapı sorunuyla karşılaşıyor.

       

       
       
       

       

Praktik tarafı: Eğer sen de bir ajan yazıyorsan, başından itibaren şunu düşün, bu kodu üretime taşırken ne yapacağım? Hata loglaması, retry mekanizması, durum saklama, izleme. Bunları sonradan eklemek, ilk yazarken tasarlamaktan çok daha pahalı.