Büyük yapay zeka modellerini destekleyen donanımların bilgisayar korsanlarının hedefi haline gelebildiği ve bu durumun sohbet robotlarının hatalı ile tehlikeli yanıtlar vermesine yol açtığı bildirildi. CNN ile paylaşılan yeni araştırmaya göre, uzmanlar hassas ulusal güvenlik ve kişisel sağlık sorularına verilen yanıtları manipüle etmeyi başardı. Bir örnekte, modelin bilgiyi işlemek için kullandığı ağırlıklara uzaktan müdahale edilerek yapay zeka modelinin Çin'in Tayvan'ı işgal etme olasılığını büyük ölçüde artırması sağlandı. Başka bir senaryoda ise göğüs ağrısı için tıbbi tavsiye arayan bir kullanıcıya hastaneye gitmek yerine evde kalması söylendi. Araştırma, çipler, bellek ve veri merkezi sunucuları da dahil olmak üzere milyarlarca dolarlık donanım endüstrisinin güvenliğini merkeze alıyor. Araştırmayı yürüten Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilemediği takdirde yapay zeka modeline de güvenilemeyeceğini belirtti. Eclypsium, söz konusu siber saldırıyı Nvidia tarafından üretilen bir bilgi işlem platformunda gösterdi ancak araştırmacılar bu senaryonun diğer donanımlara da uygulanabileceğini kaydetti. Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemleri kullanarak hedefli saldırı gerçekleştirebileceği, öte yandan bu tür saldırılara karşı güvenlik korumalarının da mevcut olduğu ifade edildi. Bir Nvidia sözcüsü, varsayımsal senaryoları incelediklerini ve endüstrinin daha önce farkında olmadığı hiçbir şey tespit etmediklerini belirterek araştırma konusunda Eclypsium ile çalışmaktan memnuniyet duyduklarını dile getirdi. Güçlü bellek erişim korumalarının saldırı yolunu kapatabileceği vurgulanırken, Nvidia geçen ay donanım saldırılarına karşı korunmak için yeni bir güvenlik platformu duyurdu. Eclypsium yöneticileri bulguları hakkında Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansına bilgi verdiklerini bildirdi. İki bağımsız donanım güvenliği uzmanı da sonuçların inandırıcı ve dikkate alınması gereken önemli veriler olduğunu kaydetti.