Sinir Ağlarında Gizlilik Riski: Donanım Kusurları Saldırıları Kolaylaştırıyor

Enerji tasarrufu için donanımda çalıştırılan yapay sinir ağlarının (SNN) gizlilik riski taşıyabileceği çoğu zaman gözden kaçıyor. Yeni bir araştırma, memristif crossbar dizileri üzerine yerleştirilen bu ağların donanım kusurlarının aslında saldırganları avantajlandırabileceğini gösteriyor.

Memristif teknoloji düşük güç tüketimi sağlıyor, ancak elektrik gürültüsü ve bileşen sapmalarına karşı hassas. Araştırmacılar, bu "kusurların" model inversion saldırılarını (eğitim verilerini geri çıkarmaya çalışan saldırılar) daha etkili hale getirebileceğini ortaya koymak için Spiking Domain Model Inversion (SDMI) yöntemini geliştirdi.

SDMI, sinir ağlarının stokastik davranışından yararlanarak, sinir uyarılarının (spike) yayılmasında bulunan boşlukları istismar ediyor. Yöntem, Expectation over Transformation (EOT) ve vekil gradyan teknikleri kullanarak, donanım gürültüsünü aşarak modelin içindeki bilgileri çıkarmayı başarıyor.

Bunun anlamı: enerji tasarrufu için donanımda çalışan modeller, teorik analizde güvenli görülse bile, gerçek ortamda daha savunmasız olabilir. Özellikle tıbbi veya finansal veriler işleyen sistemlerde bu bulgu önemli. Araştırma, donanım tasarımında gizlilik mekanizmalarının doğrudan entegre edilmesinin gerekliliğini vurguluyor.