Raspberry Pi'da İkinci Yapay Zeka Ajanı Kurmak: Manon Örneği
Raspberry Pi'da bir yapay zeka ajanı çalıştırmak cazip geliyor, tüm işleri o halledebilir, neden ikinci bir ajan kurasın ki? Ama burada tuzak var. Tek bir ajan takvim tutarsa, Fransızça öğretirse, alışveriş listesi yazarsa, hepsi karışır. Notlar konjugasyon tablolarıyla dolup taşar, görevler birbirine girer, sistem yavaşlar.
Manon projesi tam da bunu çözmek için ortaya çıktı. Fikir basit ama güçlü: her ajanın kendi kimliği, kendi çalışma klasörü, hatta kendi modeli olsun. Böylece Manon (Fransızça öğretmeni) yalnızca dile odaklanır, diğer işler başka ajanların omzuna yükselir. Sistem daha hızlı, daha temiz, daha ölçeklenebilir hale gelir.
Pratik açıdan, Raspberry Pi'da bunu sağlamak için ajanların ayrı Python ortamlarında çalışması gerekir. Her ajan için ayrı bir `venv` (sanal ortam) oluştur, kendi gereksinimlerini yükle, kendi konfigürasyon dosyasını tut. SOUL.md gibi bir dosyada ajanın kişiliğini, görevlerini ve sınırlarını tanımla. Böylece sistem başladığında her ajan otomatik olarak kendine düşen işi bilir.
Raspberry Pi'nın sınırlı kaynakları var. Birden fazla ajan çalıştırırsan, hafıza ve CPU paylaşımını yönetmen gerekir. Lightweight modeller (örneğin Ollama'da tinyllama) kullanmak, ajanları sırayla çalıştırmak (concurrent yerine sequential) veya dış bir API'ye bağlanmak seçenekler. Manon örneğinde, yerel bir model yerine bulut tabanlı bir API kullanmak daha pratik olabilir, Raspberry Pi'nın gücü o zaman sadece koordinasyon ve veri yönetimine kalır.
Önemli: Her ajanın kendi bot ID'si ve iletişim kanalı olsun (örneğin Telegram, Discord veya basit bir HTTP endpoint). Böylece kullanıcı hangi ajanla konuştuğunu bilir, sistem de istekleri doğru yere yönlendirir. Ajanlar arasında bir dispatcher yazman lazım, gelen mesajı analiz et, kime ait olduğunu belirle, o ajanın kuyruğuna koy.
Manon'un başarısı, ajanları ayrıştırmanın ne kadar fark yarattığını gösteriyor. Raspberry Pi'da bu modeli uygulamaya başladığında, sistem daha stabil ve yanıt süresi daha kısa olacak. Bir ajan meşgul olsa bile diğerleri çalışmaya devam eder.
0 yorum