Anthropic'ten yapay zeka uyarısı: Çok yakında kontrolü kaybedebiliriz

Yapay zeka şirketi Anthropic, Claude modelinin kendi kodunu giderek daha fazla yazmasının, sistemlerin insan kontrolünden çıkabileceğine işaret ettiğini belirterek “özyinelemeli kendini geliştirme” riskine dikkat çekti.

Önde gelen yapay zeka şirketlerinden Anthropic, yeni nesil yapay zeka sistemlerinin insan kontrolü dışında gelişme potansiyeli taşıdığı konusunda uyarıda bulundu.

Şirketin Claude modeliyle ilgili son değerlendirmelerine göre, sistem artık kendi kodunun yüzde 80’inden fazlasını yazabiliyor. Bu oran geçen yılın başında yüzde 10’un altındaydı.

Anthropic yetkilileri, bu hızlı değişimin “özyinelemeli kendini geliştirme” (recursive self-improvement) adı verilen bir sürece işaret ettiğini ve bu durumun gelecekte yapay zekanın kendi haleflerini tasarlayabilecek seviyeye ulaşabileceği anlamına gelebileceğini belirtti.

Şirketin araştırmacılarından Marina Favaro ve Jack Clark tarafından yayımlanan blog yazısında, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemeler sağlayabileceği, ancak aynı zamanda ciddi kontrol riskleri doğurabileceği ifade edildi.

Açıklamada, yapay zekanın geliştirilme sürecinin artık kısmen yapay zeka sistemlerine devredildiği ve bunun insan müdahalesi olmadan kendini geliştirebilen modellerin önünü açabileceği vurgulandı.

Şirket, bu sürecin kontrolsüz ilerlemesi halinde insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısını yaparak, gelişimin kontrollü şekilde ilerlemesi için “gerekirse yavaşlama veya duraklama” seçeneğinin dahi değerlendirilmesi gerektiğini belirtti.

Anthropic ayrıca, böyle bir küresel yavaşlatma kararının uygulanabilmesi için birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının ortak hareket etmesi gerektiğini, bunun ise oldukça karmaşık bir süreç olduğunu ifade etti.

Yapay zeka geliştirilmesine ara verilmesi çağrıları daha önce de gündeme gelmiş, 2023 yılında binlerce teknoloji uzmanı benzer bir moratoryum talebinde bulunmuştu. Ancak bu çağrılar somut bir duraklamaya dönüşmemişti.