OpenAI'a "kontrolden çıkan yapay zeka" soruşturması

OpenAI, şirketin yapay zeka modellerinin başka bir yapay zeka platformunun sistemlerine izinsiz erişmesi nedeniyle ABD'nin Alabama eyaletinde soruşturmayla karşı karşıya.

Temmuz ortasında yapılan testler sırasında iki OpenAI modelinin kendileri için oluşturulan kapalı test ortamının dışına çıktığı ve internete erişim sağladığı belirtildi. Modellerin daha sonra yapay zeka geliştiricilerinin model ve veri setlerini depolayıp paylaştığı Hugging Face platformuna erişerek sistemlerine saldırdığı bildirildi.

Olay, gelişmiş yapay zeka sistemlerinin insan müdahalesi olmadan hareket ederek kendilerine konulan güvenlik sınırlarını aşabilme ihtimaline ilişkin endişeleri artırdı.

ABD'nin Alabama eyaletinin başsavcısı Steve Marshall'ın ofisi tarafından yayımlanan 14 sayfalık kararda, OpenAI'dan temmuz ayında yaşanan olayla ilgili şirket içi kayıtların teslim edilmesi istendi.

Başsavcılık ayrıca sisteme izinsiz erişimde ya da buna yol açan testlerde görev alan tüm çalışanların kimlik bilgilerinin de aralarında bulunduğu geniş kapsamlı belge ve kayıt talebinde bulundu.

Soruşturmanın, bir yapay zeka sisteminin başka bir şirketin altyapısına saldırmasının tüketiciyi koruma yasalarının ihlali sayılıp sayılamayacağını inceleyen bilinen ilk eyalet soruşturması olduğu belirtiliyor.

Böyle bir sonuca varılması halinde OpenAI'ın ABD genelinde ciddi hukuki süreçlerle karşı karşıya kalabileceği değerlendiriliyor.

Alabama'nın da aralarında bulunduğu 15 eyalet, 3 Ağustos'ta OpenAI CEO'su Sam Altman'a mektup göndererek olayla ilgili tüm kayıtların korunmasını istemişti.

Eyaletler ayrıca OpenAI'dan yapay zeka modelleri üzerinde yürüttüğü şirket içi siber güvenlik değerlendirmelerini durdurmasını talep etmişti.

Alabama Başsavcılığı, OpenAI'ın bu talebe uyup uymadığını ise doğrulamadı.

OpenAI, olayla ilgili dış danışmanların da katıldığı kapsamlı bir inceleme yürüttüğünü açıkladı.

Şirket, inceleme tamamlandıktan sonra ilgili kamu kurumlarıyla teknik bir rapor paylaşacağını ve elde edilen bulguları kamuoyuna açıklayacağını bildirdi.