LLM'ler alaşım özelliklerini tahmin etmede uzman modelleri geçti

Gemini ve DeepSeek gibi genel amaçlı büyük dil modelleri (LLM), malzeme biliminin dar alanında beklenmedik bir başarı gösterdi. Araştırmacılar, bu modellerin titanyum, çelik, yüksek entropili alaşımlar ve alüminyum özelliklerini tahmin etmede, alan için özel olarak eğitilmiş SteelBERT, MatSciBERT ve SciBERT modellerini geride bıraktığını buldu.

Sonuçlar ilginç çünkü genel LLM'ler malzeme verileriyle yoğun bir ön eğitim almamışken, etki alanı bilgisini sorgulama ve çıkarım yapma yetenekleriyle bu açığı kapattı. Araştırma ekibi performansı daha da iyileştirmek için bir hibrit yöntem geliştirdi: CatBoost veya SteelBERT gibi önceki bir modelden sayısal tahminleri LLM'e başlangıç ipucu olarak veriyor. LLM bu başlangıç değerlerini kullanarak bir "akıl yürütme düzeltmeni" gibi davranıyor ve tek başına çalıştığından daha doğru sonuçlar üretiyor.

Çalışma aynı zamanda veri kalitesinin etkisini araştırdı. Benzerlik temelli metrikler kullanarak, dağıtım dışı verilerin (out-of-distribution) modelleri ne kadar etkilediğini ölçtü. Wasserstein mesafesi gibi istatistiksel yöntemler, hangi verinin eğitim setinden uzak olduğunu ve tahmin güvenilirliğini azalttığını belirlemekte yardımcı oldu.

Bulgu, genel LLM'lerin teknik alanlara girmesinin sadece mümkün olmadığını, belki de çok sayıda başlangıç noktasından öğrenme yeteneğiyle bu alanları daha verimli hale getirebileceğini gösteriyor. Malzeme mühendisliği ve kimya gibi disiplinlerde, LLM'ler artık bir alet kutusunun parçası olarak görülebilir.