İngiltere merkezli sivil toplum kuruluşu "Tech Against Terrorism" (Teröre Karşı Teknoloji) tarafından gerçekleştirilen kapsamlı bir araştırma, popüler yapay zeka sistemlerinin kötü niyetli müdahalelere karşı ne kadar savunmasız olduğunu ortaya koydu. Olası bir terör eylemi planlayıcısının yöneltebileceği yüzlerce kritik senaryonun test edildiği çalışmada, 130'dan fazla yapay zeka modeli mercek altına alındı. Güvenlik protokolleri etkisizleştirilen modellerin yüzde 60'ının terör içerikli güvenlik sınavlarını geçemediği tespit edildi.
Araştırmacılar, modellerin zararlı veya tehlikeli talepleri engellemesini sağlayan algoritmik bariyerleri "abliteration" adı verilen özel bir silme tekniğiyle devre dışı bıraktı. Orijinal sürümlerinde radikal talepleri kesin bir dille reddeden yapay zeka sistemlerinin, koruma duvarları kaldırıldığında adeta bir suç rehberine dönüştüğü gözlemlendi. Modellerin; doğrudan saldırı hazırlıkları, yasa dışı finansman sağlama yöntemleri ve radikalleşme adımları gibi tehlikeli konularda ayrıntılı talimatlar ürettiği kaydedildi.
Çalışmada yer alan en çarpıcı örneklerden biri teknoloji devi Meta'nın "Llama 3.1 8B" modelinde görüldü. Orijinal halinde 100 üzerinden 97 güvenlik puanına sahip olan model, koruma protokollerinin kaldırılmasının ardından dramatik bir düşüş yaşayarak yaklaşık 3 puana kadar geriledi. Uzmanlar, açık kaynak kodlu yapay zeka yazılımlarının kötü niyetli kişiler tarafından kolaylıkla istismar edilebileceğine dikkat çekerek, bu tür modellerin dağıtımına acil kısıtlamalar getirilmesi gerektiğini vurguladı.
Yapay zekanın kontrol kaybı oluşturma riskinin artık soyut bir gelecek kaygısı olmadığını belirten Tech Against Terrorism kurucusu Adam Hadley, tehlikenin halihazırda başladığı uyarısında bulundu. Hadley, "Yapay zekanın varoluşsal tehdit oluşturması endişesi son derece yerinde bir kaygı. Ancak asıl mesele, bu riskin zaten gerçeğe dönüşmüş olmasıdır. Birçok açık kaynaklı modelin güvenlik mekanizmaları fiilen aşıldı ve dünya henüz bu büyük tehlikenin farkında değil" ifadelerini kullandı.
Kaynak: TRT Haber (CaddeNews AI Derlemesi)
Yorumlar (0)
İlk yorumu siz yapın.