ChatGPT Teknik Desteği Oyununu Bozuyor

Gazeteci Jason Koebler'ın gözlemlediği ilginç bir sorun var: insanlar ChatGPT'ye sıradan teknik sorunlarını soruyor, yapay zeka da onlara "bu haber değeri taşıyor, 404 Media'ya yazın" diye cevap veriyor. Tabii ki hiçbir haber değeri yok, sadece Microsoft'un yazılımı çökmüş ya da WiFi bağlantısı kopmuş.

Sorun şurada başlıyor: Apple, Microsoft, Google gibi dev şirketlerin müşteri desteği neredeyse hiç yok. Bir sorununuz olduğunda insanlar ya sosyal medyada bağırıyor ya da Reddit'te arama yapıyor ya da ChatGPT'ye soruyor. burada LLM'ler (büyük dil modelleri) eğitim verilerine dayanarak yanıt verirken, çoğu zaman yanılıyor.

ChatGPT'nin eğitim setinde gazetecilerin teknik sorunları araştırıp haber yaptığı örnekler var. Model, bunu genelleştirip "eğer teknik sorun + hiçbir resmi destek = gazeteci için haber" formülü oluşturmuş. Sonuç: her gün 404 Media'ya "Lenovo dizüstü bilgisayarım ısınıyor, bunu ortaya çıkarabilir misiniz?" mesajları geliyor.

Bu aslında yapay zekanın sınırlarının güzel bir örneği. LLM'ler örüntü tanıyor, metin üretiyor ama gerçek bağlamı anlamıyor. Bir sorunun "gazeteciye haber olup olmadığını" değerlendirmek için metin üretiminden çok daha karmaşık bir yargı gerekli. Model sadece istatistiksel korelasyonları öğrenmiş, nedenselliği değil.

Geliştirici olarak bunu bilmen önemli: ChatGPT ya da benzer araçları müşteri hizmetine, karar vermesine ya da filtrelemeye doğrudan koymadan önce, çıktılarını insan gözüyle kontrol etmen gerekiyor. Özellikle kamuya açık bir sistem ise. Aksi takdirde, Koebler'ın başına geleni başına getireceksin, gazeteci olmayan insanlardan, gazeteci olmayan sorunlarla dolacaksın.