Claude yapay zekası metinlere gizli filigran ekleyecek

Voice Kıbrıs Haber
Anthropic, Avrupa Birliği düzenlemelerine uyum sağlamak amacıyla sohbet robotunun metin üretirken yaptığı rastgele kelime seçimlerini değiştireceğini açıkladı.
Anthropic, Claude modelinin metin oluşturma yöntemini güncelleyeceğini duyurdu. Yapılan değişiklik, AB'nin aralık ayından itibaren yapay zeka tarafından üretilen tüm metinlerde filigran bulunmasını zorunlu kılan yasasına uyum sağlamayı amaçlıyor.
Anthropic, bu düzenlemenin ortalama bir okuyucu tarafından fark edilemeyecek düzeyde ve rastgele bir yapıda olacağını bildirdi.
Ancak teknoloji yazarı John Gruber bu duruma tepki gösterdi. Gruber, filigran uygulamasının metin kalitesini sınırlayacağını ve modeli daha az kesin kelime tercihleri yapmaya zorlayacağını savundu.
Yapay zeka modellerinin bir cümleyi kurgularken yaptığı küçük tercihlerde istatistiksel bir rastgelelik bulunuyor.
Örneğin bir gün için "gri" mi yoksa "kapalı" mı diyeceği tamamen bu olasılıklara bağlı. Anthropic'in yeni filigran teknolojisi, bu rastgele seçimleri değiştirerek sadece tespit anahtarına sahip sistemlerce okunabilecek bir kalıp bırakacak.
University College London bilgisayar bilimleri profesörü Steven Murdoch ise bu değişimin gözle görülür bir etki yaratmayacağını ifade etti.
Gruber'ın eleştirisi filigranın modelin bir sonraki kelimeyi seçme özgürlüğünü kısıtlayacağı yönünde olsa da uzmanlar modellerin zaten her zaman en ideal seçimi yapmadığını vurguluyor.
Murdoch, yapay zeka modellerinde rastgeleliğin temel bir çalışma prensibi olduğunu, bu olasılıklar olmasaydı sistemlerin döngüye girip aynı şeyleri tekrarlayacağını söyledi.
AB genelinde faaliyet gösteren tüm yapay zeka şirketlerini kapsayan bu düzenleme, öğrencilerin veya akademisyenlerin yapay zeka çıktılarını kendi metinleri gibi sunmasını zorlaştıracak.
Öte yandan uzmanlar filigran uygulamasının başka bir önemli amacı olduğuna dikkat çekiyor. İnternetteki yapay zeka içeriği miktarının aşırı artması, modellerin kendi ürettiği verilerle eğitilerek çöküşe geçmesine neden olabiliyor.
Filigran teknolojisi, sadece yanlış bilgiyle mücadele etmekle kalmayıp sohbet robotlarının kendi ürettikleri verilerle nitelik kaybına uğramasını da engellemeyi hedefliyor.
Benzer haberler
Featured
Bitcoin, sert satış dalgasının ardından yeniden 60 bin doların üzerine çıktı
MotoGP'de Marc Marquez şampiyon oldu
İran "ABD ile görüşmeler sürüyor, diplomasi penceresi hala açık"
Gazze Şeridi'nde menenjit vakalarında olağan dışı artış yaşanıyor
Bilim insanları, dişlerin arasındaki kalıntılardan metabolizmayı takip eden "akıllı diş ipi" geliştirdi
Fransa'da cumhurbaşkanı adayı Ruffin, yarıştan çekildiğini duyurdu
Lavrov "Almanya ve İngiltere savunma bakanlarının aklı yerinde değil"
Hristodulidis Fitto ile telefonda görüştü
Cumhurbaşkanlığı Senfoni Orkestrası 11. kuruluş yıl dönümünü iki konserle kutlayacak





