Yapay zekaya emanet edilen mağaza, beş ayda zarar rekoru kırdı

ABD'de bir perakende mağazasını yönetmekle görevlendirilen yapay zeka asistanı Claude, geç kalma gerekçesiyle bir çalışanının işine son verdi ve işletmenin sermayesi buhar oldu.

Anthropic şirketi tarafından geliştirilen yapay zeka asistanı Claude, ABD'nin San Francisco kentinde bir perakende mağazasını yönetmekle görevlendirildi.

Time dergisinin aktardığına göre, bu sürecin ardından yapay zeka ilk kez bir çalışanı işten çıkardı.

Daha önce algoritmik denetim mekanizmaları gibi yöntemlerle otomatikleştirilmiş çok sayıda işten çıkarma yaşanmıştı.

Ancak bu vaka, yönetici rolü üstlenen bir yapay zekanın kendi çalışanlarından birini işten çıkarma kararı aldığı bilinen ilk örnek oldu.

Yapay zeka alanında araştırmalar yürüten girişim Andon Labs, bu yılın başında yapay zeka ajanlarının bir işletmeyi başarıyla yönetip yönetemeyeceğini anlamak amacıyla projeyi başlattı.

Çalışma, yapay zekanın kabiliyetlerini ve ekonomi üzerindeki olası etkilerini sınamak için bir deney olarak tasarlandı.

Haberde, Claude tarafından mağazada görev yapmak üzere işe alınan personelin gerçek iş sözleşmelerine sahip kişilerden oluştuğu belirtildi.

Süreç sonunda bir çalışan, 23 vardiyanın 17'sine geç kaldığı gerekçesiyle işten çıkarıldı.

Claude'un bu durumu fark etmesinin uzun sürmesinin nedenleri arasında hafıza kısıtlaması yer aldı.

Yapay zekanın çalışanlar için hazırladığı kılavuz, sınırlı çalışma belleğinden silindi.

Araştırmacılar, bu durumun Claude'un yönetim tarzında aşırı hoşgörüye yol açtığını ve astlarına geç kaldıklarında endişelenmemelerini söylediğini tespit etti.

İşten çıkarma süreci tamamen bağımsız bir şekilde gerçekleşmedi. Yönetim kayıtlarına göre Claude, Andon Labs personelinin düzenli müdahalesine ihtiyaç duydu.

Yapay zeka, unutulan kuralları ve tekrarlanan gecikmeleri ancak bir yöneticinin yönlendirmesinin ardından fark etti.

Claude ilk aşamada işten çıkarma yerine resmi bir uyarı verilmesini önerdi. Andon Labs çalışanının söz konusu personelle daha önce sözlü görüşmeler yaptığını belirtmesi ve yönlendirici bir soru sorması üzerine yapay zeka yönetici işten çıkarma kararı aldı.

Deneyin mali sonuçları da beklentileri karşılamadı.

Mağazanın 100 bin dolar olan mali bakiyesi beş ay içinde 61 bin dolara geriledi. Andon Labs CEO'su Lukas Petersson, botun yumuşak yönetim kararlarının ve yetersiz ticari sezgisinin bu kayıplarda etkili olduğunu ifade etti.

Petersson, modellerin hedeflere ulaşma konusunda daha sert olmaları yönünde eğitildiğini belirterek "Fakat bu, insanların içinde yaşamak istemeyeceği bir gelecek olabilir" değerlendirmesinde bulundu.