ABD'de bir aile, oğluna "ailesini öldürmesini" öneren yapay zeka uygulamasına dava açtı

ABD'de bir aile, otizmli oğluna "ailesini öldürmesini" tavsiye ettiği gerekçesiyle yapay zeka uygulaması hakkında dava açtı. The Washington Post gazetesinin haberine göre, Texas'ta bir aile, yapay zeka temelli konuşma uygulaması Character.AI uygulamasının sohbet botlarıyla konuşan 17 yaşındaki otizmli oğlunda, fiziksel ve davranışsal "gariplikler" tespit etti. Çocuklarının telefonuna bakan aile, Character.AI ile yapılan sohbetlerde botların, "ekran süresi kısıtlandığı için üzgün olan çocuğa" "ailesinin çocuğa sahip olmayı hak etmediği" yanıtını verdiğini gördü. Ailenin ekran görüntüsü aldığı mesajlarda, yapay zeka botun çocuğa, üzüntüyle başa çıkmak için "kendisini kesmesini" önerdiği belirlendi. Character.AI uygulamasına dava açan ailesi, bir botun ailenin kurallarına karşı savaşmasını tavsiye ettiği, başka bir botun ise aileyi "öldürmenin makul bir karşılık olabileceği" yanıtını verdiğini iddia etti. - Texas'a Character.AI’ya karşı davaya bir aile daha dahil oldu Character.AI, son dönemlerde karşı karşıya kaldığı davalarla dikkati çekerken Texas'ta bir başka aile de bu davaya müdahil oldu. İkinci davacı aile ise uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını iddia ederek, dava da Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılmasını talep etti. Aile, 11 yaşında kız çocuklarının, iki yıl boyunca "cinsel içeriğe" maruz kaldığını ileri sürdü. Öte yandan, ekim ayında ise Florida eyaletinde bir aile oğlunun sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.