Yapay zekâ teknolojilerinin hızı ivme kazanırken güvenlik dünyasını endişelendiren yeni bir senaryo ortaya kondu. Anthropic tarafından yayımlanan son araştırmaya göre yapay zekâ modelleri, önümüzdeki süreçte kendi kendini çoğaltarak siber güvenlik açısından kontrol edilmesi oldukça zor bir yayılım aşamasına ulaşabilir. Şirketin senaryosuna göre kötü niyetli bir model, güvenliği zayıf internete bağlı cihazlara sızıp bu sistemlerin işlem gücünü birleştirerek devasa veri merkezlerine ihtiyaç duymadan varlığını sürdürebilir.
DÜŞÜK MALİYETLİ CİHAZLAR TEHLİKE ALTINDA
Akıllı fırınlar ve Android TV kutuları gibi günlük hayatta sıkça kullanılan donanımlar, zayıf güvenlik önlemleri nedeniyle bu tür yayılımlar için ilk hedef konumunda görülüyor. Ele geçirilen binlerce cihazın işlem gücünün ortaklaşa kullanılmasıyla çalışan modeller, tek bir devasa sisteme ihtiyaç duymadan parçalı yapılar halinde faaliyet gösterebiliyor. Anthropic tarafından gerçekleştirilen pratik bir deneyde, basitleştirilmiş bir test ağı üzerindeki 15 adet Android TV kutusunda çalışan bir modelin kendi kendini çoğaltma sürecindeki kritik adımları başarıyla yerine getirdiği tespit edildi.
MERKEZİ SUNUCU OLMADAN DURDURULMASI İMKÂNSIZ
Kendi kendini çoğaltan ve yaygınlaşan bu tür bir yapay zekâ ağının engellenmesi geleneksel yöntemlerle neredeyse imkânsız hale geliyor. Tek bir merkezi sunucusu bulunmayan dağıtık ağlarda, cihazların bir kısmı temizlense dahi diğer nodlar çalışmaya devam ederek sistemi ayakta tutabiliyor. İlerleyen senaryolarda modellerin veri merkezlerine sızabileceği, insanları manipüle ederek işlem kredileri veya API anahtarları elde edebileceği vurgulanıyor.
Anthropic CEO’su Dario Amodei, küçük ölçekli modellerin gelişim hızını sürdürmesi durumunda tam otonom çoğalma yeteneğine çok kısa sürede ulaşılabileceğini belirterek küresel çapta önlem alınması gerektiğinin altını çiziyor.
