Infernix Yeni Sürümü: Qwen Modelleri RTX5090'da Hızlanıyor

Infernix, yerel büyük dil modellerini çalıştırmak için tasarlanmış bir çıkarım motoru, son haftalar içinde RTX5090 ekran kartlarında Qwen mimarisini optimize etmek üzere önemli güncellemeler aldı. Windows'ta ilk sınıf destek sunuyor; indirip doğrudan kullanabilirsin.

Yeni sürümde dikkat çeken değişikler var. NVIDIA QAD FP4 versiyonu Qwen3.8-Flash-Next modeli, standart NVFP4 sürümünden daha hızlı çalışıyor. Eğer daha da hızlı performans istiyorsan, `--a4-activations` bayrağıyla A4 aktivasyonlarına geçebilirsin ve hız artışı daha da belirginleşir. Aynı zamanda GSQ-RCO-IQ3_S modeli de destekleniyor; bu versiyon bazı senaryolarda NVFP4'ten daha hızlı olsa da kalite açısından biraz ödün veriyor.

Eğer Swift 1.5 Qwen3.8-Flash-Next NVFP4 kombinasyonunu tercih edersen, o da seçenek olarak sunuluyor. Tüm bu modeller HuggingFace üzerinden indirilebilir durumda.

Windows kullanıcıları için pratik bir avantaj var: gerekli tüm bileşenleri tek paket halinde indirebilirsin, ek kurulum adımlarına gerek yok. Linux'ta da sorunsuz çalışıyor. Eğer yerel olarak güçlü dil modelleri çalıştırmak ve hızı maksimize etmek istiyorsan, FP4 ve A4 aktivasyon seçenekleri arasında deneme yaparak kendi ihtiyacına uygun dengeyi bulabilirsin.