AI Yardımcı Aracı Yaparken En Zor Kısım: Ne Görebilir, Ne Yapabilir?

Bir yapay zeka yazı aracı geliştirmek, sadece 'makine iyi cümle yazabilir mi?' sorusundan ibaret değil. Asıl soru şu: bu araç kullanıcının başka insanlarının mesajlarına, e-postalarına eriştiğinde, ne görmesine izin vereceksin ve nereye göndereceğiz?

Bu tür bir ürün tasarlarken ortaya çıkan en kritik sorun, araçın erişim sınırlarıdır. Mesela bir Chrome eklentisi, açık bir sohbet veya e-posta penceresinde yanıt taslağı oluşturuyorsa, o bağlamda yer alan herkesin yazısını okuyor demektir. Kullanıcı bunu bilmeli, bilmeden değil.

İlk prensip: isteği açık yap. Kullanıcı bir yanıt yazma eylemini başlattığında, araç sadece o istek için gereken bağlamı okumalı. Daha sonra bu bağlam buluta gönderiliyor (örneğin OpenAI API'sine). Burada kullanıcı şunu anlayabilmeli: hangi yazı gönderiliyor, kim alıyor, neden? Ekrana kısa bir bakışla bu anlaşılmıyorsa, arayüz yeterince açık değildir.

İkinci prensip: taslak ile göndermeyi ayır. Araç bir taslak döndürüyor, kullanıcı bunu düzenleyip, değiştirebiliyor, hatta görmezden gelebiliyor. Gönder düğmesine basana kadar hiçbir şey buluta çıkmıyor. Bu, kullanıcıya kontrol hissi veriyor ve gerçek bir kontrol sağlıyor.

Üçüncü prensip: veri saklama politikasını şeffaf tut. Bulut servisi tarafından tutulan veriler ne kadar süre saklanıyor? Eğitim için kullanılıyor mu? Kullanıcı bunu bilmeden yapay zeka aracı kullanmak, güven ihlalidir.

Bu ilkeler sadece hukuki zorunluluk değil, ürün tasarımının merkezinde yer almalı. Çünkü bir yanıt yardımcısı, başka insanların özel yazışmalarına çok yakın duruyor. O mesafede, güvenlik sınırı bir dipnot değil, ürünün kendisidir.