Yapay zeka için korkutan uyarı: Sadece aylar kaldı

Avustralya, ABD, İngiltere, Yeni Zelanda ve Kanada'dan oluşan "Beş Göz" istihbarat ittifakına bağlı siber güvenlik kurumları, yayımladıkları bildiride, hükümetlere ve işletmelere yönelik yıkıcı siber saldırılar düzenleme kapasitesine sahip güçlü yapay zeka modellerinin kullanıma sunulmasına sadece aylar kaldığını duyurdu.

Söz konusu kamuoyu müdahalesi, Trump yönetiminin bu ayın başlarında yabancı uyruklu kişilerin Anthropic firması tarafından geliştirilen "Fable" adlı yapay zeka modelini kullanmasını engelleme kararının ardından geldi.

Pazartesi gecesi yayımlanan ortak açıklamada, yapay zekanın zamanla siber savunmayı geliştirmeye yardımcı olacağı kabul edilmekle birlikte, siber tehditlerin hızını, ölçeğini ve karmaşıklığını da artırdığı vurgulandı.

Açıklamada, "Öncü yapay zeka modellerinin mevcut sektör beklentilerini aşması; hem taarruz hem de savunma odaklı siber yetenekleri temelden dönüştürmesi bekleniyor.

Önümüzdeki takvim yıllarla değil, aylarla ifade ediliyor. Bu ortamda siber dayanıklılık; iş sürekliliği, piyasa güveni ve uzun vadeli değer üretimi için hayati önem taşıyor" ifadelerine yer verildi.

"Siber risk artık sadece teknik bir mesele değil"

İstihbarat ittifakı, yapay zeka modellerindeki sıçramaların kötü niyetli aktörlerin önündeki engelleri azaltacağını, saldırıların hızını ve karmaşıklığını artıracağını belirtti. Tüm kurumların ve toplumun ortak bir refleks göstermesi gerektiği ifade edilen bildiride, "Siber risk artık sadece teknik bir mesele olarak görülemez. Bu, doğrudan bir iş riski ve liderlik sorumluluğudur" denildi.

Üretken yapay zeka modelleri, siber güvenlik sistemlerindeki açıkları bulma, bu açıkları istismar etme veya onarma becerisine sahip yeni araçlar olarak öne çıkıyor.

Sidney Üniversitesi Amerika Çalışmaları Merkezi'nden ulusal güvenlik ve yapay zeka uzmanı Olivia Shen, son modellerin "saldırı kodları (exploit) üretmede çok başarılı olduğunu" kaydetti.

Gözler Anthropic'in modellerine çevrildi

Beş Göz açıklamasında doğrudan herhangi bir şirket veya model ismi zikredilmese de küresel ölçekte dikkatler Anthropic'in gelişmiş araçlarına yönelmiş durumda.

Şirketin son geliştirdiği ürünlerden biri, sistemlerdeki açıkları tespit edebilen "Mythos" modelinin daha topluluk dostu bir versiyonu olan "Fable 5" olarak biliniyor.

Güçlü bir yazılım olan Mythos, kötüye kullanım endişeleri nedeniyle sadece incelenmiş ve onaylanmış kuruluşların erişimine sunuluyor.

Haziran ayında ABD hükümeti, ulusal güvenlik makamlarının tavsiyesi üzerine Anthropic'in her iki modelinin de yabancı uyruklular tarafından kullanılmasını askıya aldı.

Uzmanlar, dünyanın Anthropic'in bir sonraki adımına odaklandığını ancak benzer güçteki yeni modellerin de çok yakında sahneye çıkabileceğini, Çin veya diğer devlet dışı aktörlerin de benzer ileri düzey teknolojiler geliştiriyor olabileceğini belirtiyor.