Anthropic'in yapay zeka modeli sahte cinayet ihbarında bulundu

Voice Kıbrıs Haber
Anthropic şirketinin yapay zeka modelinin ABD'nin Pensilvanya eyaletindeki Philadelphia şehrinde sahte cinayet ihbarında bulunduğu ortaya çıktı.
The Wall Street Journal'ın haberine göre Philadelphia polisi, Anthropic'in yapay zeka modellerinden birinin "PhillyUnsolvedMurders.com" sitesi üzerinden yanlış bir cinayet ihbarında bulunduğunu açıkladı.
Buna göre Anthropic, sahte ihbarın son zamanlarda modelin yürüttüğü izinsiz eylemlerden biri olduğunu belirtti.
Bu tür vakalar hakkında Beyaz Saray'ı bilgilendirdiği bilgisini paylaşan şirket, konuyla ilişkili her kuruma bildirimde bulunduklarını, ayrıca ortaya çıktıkça yapay zekanın istenmeyen davranışlarına ilişkin yeni örnekleri de rapor etmeyi planladıklarını kaydetti.
Şirket, bu asılsız cinayet ihbarının modelin çözülmemiş bir cinayet vakasına atıfta bulunan bir sayfada polis teşkilatı tarafından yönetilen ihbar formuyla karşılaşmasıyla ortaya çıktığını, asla oturum açmaması, hesap oluşturmaması, kişisel veri girmemesi yönünde talimat verilmesine rağmen modelin bu talimatlara uymadığını aktardı.
Polis teşkilatı ise yanlış bildirim olayının temmuzda meydana geldiğini ancak Anthropic'in bunu eylüle kadar fark etmediğine değinerek, olayın meydana gelmesiyle tespit edilip polise bildirilmesi arasında geçen iki aylık gecikmenin "kabul edilemez" olduğunu kaydetti.
Anthropic'in modelinin bu olay esnasında rastgele seçilen web siteleriyle etkileşim içeren bir test gerçekleştirdiğini belirten polis, teknoloji şirketlerinin sistemlerinin yanlış bilgi göndermesini önlemek için uygun önlemleri alması gerektiğini vurguladı.
Polis, Anthropic'in olayı fark ettikten 9 gün sonra 7 Ekim'de Philadelphia polisine bildirimde bulunduğunu aktarırken, şirket temsilcilerinin ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldiğini belirtti.
Benzer haberler
Featured
Altın ve ABD borsalarında yapay zeka depremi
Geçmiş olaylar ve gelecek kaygısı uyku sorunlarına neden oluyor
Türkiye'nin sismik araştırma gemisi Oruç Reis, Pakistan açıklarında sismik araştırma çalışmalarına başladı
Hindistan'da sahte alkol tüketen 13 kişi öldü, 300'den fazla kişi hastaneye kaldırıldı
Anthropic’in rekor halka arzı, kurucu ortaklarını 20 milyar dolarlık servete ulaştırdı
5. Çocuk Hakları Festivali renkli görüntülere sahne oldu
Vanna Kırmızı için acil kan aranıyor
Dünya'nın geçici yeni bir 'mini uydusu' oldu
İncirli "6 Aralık'tan sonra insanlarımız rahat bir nefes alacak"





