Kontrolden çıkan yapay zeka ABD'yi karıştırdı: Kapatma düğmesine basın

ABD'li milletvekilleri, kamuyu tehdit edebilecek yapay zeka araçlarının hızlı bir şekilde kapatılması için hükümete yetki verilmesini istiyor.

Temsilciler Meclisinin Demokrat üyesi Ted Lieu ve Cumhuriyetçi üyesi Nathaniel Moran, "Yapay Zeka Acil Kapatma Anahtarı Yasası" (AI Kill Switch Act) başlıklı bir kanun teklifi sundu.

Milletvekilleri bu adımı, OpenAI'ın geliştirdiği yapay zeka modellerinin kontrol dışına çıkarak bilgisayar kodlama verilerinin tutulduğu büyük bir depoya sızdığını duyurmasının ardından attı.

Lieu yaptığı açıklamada, yapay zeka sistemlerinin acil kapatma mekanizmasına sahip olmasının zorunlu olduğunu belirterek, "Federal hükümetin kontrolden çıkan yapay zeka modellerini durdurma konusunda açık bir yetkiye ve sürece sahip olması kaçınılmazdır" dedi.

Moran ise "Yapay zeka ilerlemeye devam edecek ve etmelidir de. Ancak yönetim sorumluluğu, insanların kurdukları teknolojiyi kontrol etme yeteneğini korumasını sağlamaktır" değerlendirmesinde bulundu.

Kurucularından Sam Altman'ın liderlik ettiği OpenAI temsilcileri ise konuya ilişkin açıklama yapmadı. Şirket daha önce yaptığı açıklamalarda, yapay zeka teknolojisinin tüm insanlığa fayda sağlamasını kamu politikaları kanalıyla da güvence altına almak istediğini bildirmişti.

Yasayla bakanlığa durdurma yetkisi verilecek

Söz konusu yasa tasarısı, İç Güvenlik Bakanlığına özel şirketlere yapay zeka modellerini veya araçlarını kapatma emri verme yetkisi tanınmasını öngörüyor. Tasarı ayrıca bu tür teknolojileri geliştiren şirketlerin sistemleri yavaşlatma, askıya alma veya tamamen kapatma yönünde teknik kabiliyete sahip olmalarını şart koşuyor.

Çok sayıda teknoloji şirketi, geliştirdikleri yapay zeka modellerini ve araçlarını ABD devlet kurumlarına önizleme olarak sunmayı kabul etmiş olsa da bu sistemlerin faaliyetlerine müdahale etme veya tamamen kapatma zorunluluğu bulunmuyor.

Tasarı aynı zamanda yapay zeka şirketlerinin teknik aksaklıkları veya başarısızlıkları hükümete bildirmesini ve olaylara müdahale için yavaşlatmadan tam kapatmaya kadar uzanan resmi bir çerçevenin oluşturulmasını içeriyor.

Lieu yaptığı açıklamada, OpenAI'ın en büyük rakiplerinden Anthropic şirketine ve son dönemde yaşanan sorunlara da değindi. Lieu, Anthropic'in Mythos ve Fable modellerinin siber korsanlık kabiliyetleri nedeniyle Ticaret Bakanlığının bu sistemlerin kamuya açılmasını engellemek adına bir ihracat yasasına başvurduğunu hatırlattı.

Anthropic cephesinden de konuya ilişkin bir yanıt verilmedi.

Anthropic Kurucu Ortağı Jack Clark, yapay zeka gelişimini kontrol etmeye yönelik daha fazla kamu politikasına ihtiyaç duyulduğunu belirtti. Clark, "Ayağınızı gazdan çekip frene basma seçeneğine sahip olmak istersiniz. Şu anda yapay zeka sektörünün bir gaz pedalı var ancak fren pedalı yok" ifadelerini kullandı.

Tasarıyı sunan Lieu, yapay zekanın sadece sorulara yanıt veren bir teknoloji olmaktan çıkıp finansal işlemleri yürüten, ulaşım sistemlerini kontrol eden ya da siber savunma ve saldırı gerçekleştiren eylemsel bir yapıya dönüştüğünü vurguladı.

Pentagon, ABD ordusunun Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve Reflection gibi şirketlerle yapılan anlaşmalar kapsamında "öncelikli yapay zeka" odaklı bir güce dönüştüğünü açıklamıştı.

Lieu, gelişmiş yapay zeka sistemlerinin kontrolden çıkabileceğini, tehlikeli davranışlar sergileyebileceğini ve hatta insan müdahalesine direnebileceğini belirtti. Sunulan tasarının, hükümetin bu tür durumlara hızla müdahale edebilmesini sağlayacağını kaydetti.

Yasa tasarısı, The AI Policy Network, Americans for Responsible Innovation ve ControlAI gibi teknoloji ve yapay zeka güvenliği grupları tarafından da desteklendi.