Sansürsüz AI Modelleri Siber Güvenlik İşinde Kullanılır mı?

Siber güvenlik alanında çalışanlar arasında sansürsüz yapay zeka modellerinin (abliterated LLM'ler) kullanılıp kullanılmadığı sık tartışılan bir konu. Gerçek şu: bu modellerin siber güvenlik işlerinde pratik bir yeri var, ama hype'ın çok ötesinde.

Sansürsüz modeller, geleneksel ChatGPT gibi araçların güvenlik filtreleri olmadan çalışan versiyonları. Örneğin Llama 2 Uncensored, Mistral gibi açık kaynak modeller ya da kişisel sunucularda çalıştırılan custom versiyonlar. Bunlar, teorik olarak, etik olmayan istekler hakkında da bilgi verebilir, exploit yazımı, güvenlik testi senaryoları, sosyal mühendislik teknikleri gibi konularda.

Pratik kullanımda ne oluyor? Bir güvenlik araştırmacısı, bir ağ açığını test etmek için exploit kodu yazması gerekiyorsa, sansürsüz model daha az "maalesef bunu yapamam" cevabı verir. Fakat burada kritik nokta: bu modellerin ürettiği kod çoğu zaman kalitesiz, hatalı veya eksiktir. Gerçek exploit yazımında deneyim, manuel test ve güvenlik bilgisi hâlâ zorunlu. Model, hızlı bir başlangıç noktası ya da fikir kaynağı olabilir, ancak profesyonel bir araştırmacı yine de kodu gözden geçirir, düzeltir ve test eder.

Siber güvenlik profesyonellerinin çoğu, sansürsüz modelleri nadiren kullanır. Bunun nedeni basit: standart araçlar (Metasploit, Burp Suite, custom Python scriptleri) çok daha güvenilir ve etkili. Bir pentester, zaten bildiği exploit'i yazarken yapay zekaya ihtiyaç duymaz; öğrenme aşamasında ise, kütüphane ve dokümantasyon daha faydalı.

Eğer bir hizmet sağlayıcı olarak sansürsüz modeller sunmayı düşünüyorsan, talep var ama sınırlı. Araştırmacılar ve öğrenciler ilgi gösterebilir. Ancak yasal sorumluluk, misuse riski ve model kalitesi ciddi engeller. Açık kaynak modelleri kendi altyapında çalıştırmak, üçüncü taraf hizmeti sunmaktan daha güvenli ve kontrollü bir seçenek.