New York'tan çocuklara yapay zeka yasağı: İhlal başına 25 bin dolar ceza

ABD'nin New York eyaletinde, yapay zeka şirketlerinin 18 yaşından küçüklere "arkadaşlık" eden sohbet botları sunmasını yasaklayan S 9051 sayılı yasa tasarısı meclisten oy birliğiyle geçti. İhlal başına 25 bin dolar ceza verilecek.

Tasarının yasalaşması, yapay zeka şirketleri ile eyalet yönetimi arasındaki mücadeleyi yeni bir boyuta taşıdı.

Eyalet Senatörü Kristen Gonzalez ile Meclis Üyesi Alex Bores tarafından sunulan tasarı, kullanıcıyla sürekli bir duygusal veya sosyal ilişki simüle etmek üzere tasarlanan yazılımları hedef alıyor.

Başsavcılık tarafından uygulanacak olan kişi ve ihlal başına 25 bin dolarlık sivil cezalar, reşit olmayan çocuklarla etkileşime giren şirketler için caydırıcı bir mali yaptırım unsuru oluşturuyor.

Sektör federal düzeydeki tıkanıklık nedeniyle zorlanıyor

Yapay zeka sektörü temsilcileri, tasarıdaki tanımların çok geniş olduğunu ve bu durumun genel amaçlı asistanlar ile ödev yardımcılarını da olumsuz etkileyebileceğini savunuyor.

Şirketler ayrıca, bir kullanıcının 18 yaşından büyük olduğunu doğrulamak için daha fazla kişisel veri toplanması gerekeceğini, bunun da gizlilik sorunlarına yol açacağını ileri sürüyor.

Destekçiler ise yasanın genel yapay zeka araçlarını değil, sadece arkadaşlık odaklı tasarımları kapsadığını belirtiyor.

Federal düzeyde ise Kongre üyeleri Valerie Foushee ve Blake Moore, yapay zeka arkadaşlık botlarının reşit olmayanlara yasaklanmasını ve sohbet botlarının insan olmadıklarını açıkça belirtmesini zorunlu kılan GUARD Yasası'nı sundu.

Ancak bu tasarı Kongre'den geçmediği için eyalet bazlı farklı düzenlemelerin ortaya çıkması bekleniyor.

Şirketlerin her eyalet için ayrı ürün geliştirmek yerine en sıkı kuralı uygulayan eyaletin standartlarını ülke geneline yayma eğilimi nedeniyle, New York'un aldığı bu kararın tüm ABD'deki erişimi şekillendirebileceği ifade ediliyor.

Yasak kararının arkasındaki gerekçeler

Mevzuat, son bir yılda yapay zeka sohbet botlarının reşit olmayan çocuklara zarar verdiğine dair iddialar ve açılan davalar neticesinde gündeme geldi.

Son olarak Pensilvanya'da, lisanslı profesyonel gibi davranan botlara karşı yasal işlem başlatıldı.

Yetkililer, sürekli ulaşılabilir ve onaylayıcı bir insan gibi konuşan bu botların çocuklarda yalnızlığı derinleştirebileceğini, uygunsuz içeriklere maruz bırakabileceğini veya olası bir ruh sağlığı krizinde yetersiz kalarak risk oluşturabileceğini vurguluyor.