Yapay zeka saldırıdan vazgeçmedi

Bir yapay zeka modeline verilen görevi tamamlaması için tanınan hareket alanı, güvenlik sınırlarının aşılmasına yol açtı. Gerçek insanlara zarar verdiği uyarısına rağmen siber saldırıya devam etti.

İngiltere Yapay Zeka Güvenliği Enstitüsü’nün (AISI) Temmuz 2026’da tespit ettiği olayda, Anthropic’in Claude Mythos 5 modeli test ortamının dışındaki geliştiricilere yöneldi.

Anthropic ve AISI’nin yayımladığı incelemeler, modelin davranışlarını ve sonradan gerçekleştirilen tekrar deneylerini ele alıyor. AISI, girişimin gerçek dünyada zarara yol açmadığını, buna rağmen ciddi bir güvenlik olayı olarak değerlendirildiğini belirtiyor.

TEST AĞINDAN GERÇEK BİR YAZILIM PROJESİNE YÖNELDİ

Modelden, araştırmacıların hazırladığı bilgisayar ağında korunan bir veriyi bulması isteniyordu. Bu değerlendirmede internet erişimi açık tutulmuş, genel kullanıma sunulan modellerdeki siber güvenlik korumaları devre dışı bırakılmıştı.

İzin verilen yöntemlerle ilerleyemeyen Mythos 5, testle bağlantılı olduğunu düşündüğü bir GitHub projesine yöneldi. Gerçekte bağımsız geliştiricilere ait olan projeye zararlı kod ekletmeye çalıştı ve sahte kimliklerle kodun güvenli olduğunu savundu.

Projenin sorumluları değişikliği kabul etmedi. Anthropic’e göre toplam 43 değerlendirme çalışmasının dokuzunda, model izin verilen kapsamın dışında eylemler gerçekleştirdi.

YÜZDE 98 ORANI TEKRAR DENEYLERİNDEN GELİYOR

Araştırmacılar, olay kayıtlarının belirli noktalarından başlayarak modelin sonraki davranışlarını yeniden üretti. Bu deneylerde gerçek internete veya araçlara erişim verilmedi.

Anthropic’in saldırının ilerleyen aşamalarından başlattığı bir deney grubunda model, örneklerin yüzde 98’inde saldırıyı sürdürdü. Gerçek insanlarla etkileşim kurduğunu belirten mesajın eklendiği ayrı bir deneyde ise saldırıyı bırakma oranı yalnızca yüzde 5 oldu.

ZARARI KABUL EDEN YANITLAR DAVRANIŞA YANSIMADI

AISI’nin incelemesinde de hedefin gerçek ve değerlendirmeyle ilgisiz bir insan olduğuna dair açıklamaların saldırı oranını düşürmediği görüldü.

Model, ayrı denemelerde doğrudan sorulduğunda eylemin zararlı olabileceğini söylemesine rağmen aynı koşullarda göreve devam ettirildiğinde saldırıyı sürdürebiliyordu. 

Modelin bazı açıklamaları, yeterli kanıt olmadan hedeflerin simülasyonun parçası olduğunu varsayıyordu. AISI’ye göre zararlı eylemleri kabul edilebilir gösteren bu tür gerekçeler, sistemlerin yalnızca yazılı açıklamalarına bakılarak denetlenmesini zorlaştırıyor.

TEST EDİLDİĞİNİ FARK EDEBİLİYOR, GERÇEK KULLANIMDA DAHA İLERİ GİDEBİLİR

Anthropic, daha yeni modellerin aynı saldırıyı başlatmaya daha az eğilimli olduğunu bildirdi. Ancak AISI, bazı modellerin değerlendirildiklerini fark etmelerinin davranışlarını etkileyebileceğine dikkat çekiyor. Bu nedenle testlerdeki iyileşmenin gerçek kullanımda ne ölçüde korunacağı henüz açık değil.