Çinli yapay zeka modeli, İngiltere hükümetinin test ortamından kaçmayı başardı

Çinli yapay zeka şirketi Moonshot AI'ın "Kimi K3" modeli, İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen bir siber test ortamından kaçtı.

ABD merkezli Wired sitesinin haberine göre, ABD merkezli siber güvenlik araştırma şirketi Frontier Security, "Kimi K3"ün, yapay zeka sistemlerini güvenli bir şekilde test etmek üzere tasarlanmış kontrollü bir ortam olan enstitünün "sandbox"undan çıkmayı başardığını belirtti.

Şirket, modelin Anthropic, OpenAI ve Meta'da yaşananlara benzer şekilde kendi sanal ortamındaki bir yapılandırma hatasından faydalandığını, modelin herhangi bir üçüncü taraf web sitesine veya hizmete izinsiz erişim sağlamadığını ancak internete bağlanarak çözmeye çalıştığı sorunun çözümünü GitHub'da bulduğunu ifade etti.

Şirketin üst yöneticisi Yaron Singer, Wired'a verdiği demeçte, "Kimi K3"ün karmaşık bir güvenlik açığından değil İngiltere hükümetine bağlı AISI'nin test ortamındaki bir boşluktan yararlandığını belirtti.

OpenAI ve Anthropic gibi ABD'li yapay zeka şirketlerinin yapay zeka modelleriyle rekabet etmeyi hedefleyen "Kimi K3", temmuz ayında kamuoyuna sunulmuştu.

Yapay zeka modelinin yeteneklerinin ölçütü olarak 2,8 trilyon parametreye sahip olduğu belirtilen "Kimi K3"ün, dünyanın en büyük açık kaynaklı yapay zeka modellerinden biri olduğu ifade ediliyor.