Yapay zekaya emanet edilen mağaza, beş ayda ziyan rekoru kırdı

Anthropic şirketi tarafından geliştirilen yapay zeka asistanı Claude, ABD’nin San Francisco kentinde bir perakende mağazasını yönetmekle görevlendirildi.

Time mecmuasının aktardığına nazaran, bu sürecin akabinde yapay zeka birinci sefer bir çalışanı işten çıkardı.

Daha evvel algoritmik kontrol düzenekleri üzere sistemlerle otomatikleştirilmiş çok sayıda işten çıkarma yaşanmıştı.

Ancak bu olay, yönetici rolü üstlenen bir yapay zekanın kendi çalışanlarından birini işten çıkarma kararı aldığı bilinen birinci örnek oldu.

Yapay zeka alanında araştırmalar yürüten teşebbüs Andon Labs, bu yılın başında yapay zeka casuslarının bir işletmeyi muvaffakiyetle yönetip yönetemeyeceğini anlamak emeliyle projeyi başlattı.

Çalışma, yapay zekanın yeteneklerini ve iktisat üzerindeki mümkün tesirlerini sınamak için bir deney olarak tasarlandı.

Haberde, Claude tarafından mağazada vazife yapmak üzere işe alınan çalışanın gerçek iş kontratlarına sahip şahıslardan oluştuğu belirtildi.

Süreç sonunda bir çalışan, 23 vardiyanın 17’sine geç kaldığı gerekçesiyle işten çıkarıldı.

Claude’un bu durumu fark etmesinin uzun sürmesinin sebepleri arasında hafıza kısıtlaması yer aldı.

Yapay zekanın çalışanlar için hazırladığı kılavuz, sonlu çalışma belleğinden silindi.

Araştırmacılar, bu durumun Claude’un idare biçiminde aşırı müsamahaya yol açtığını ve astlarına geç kaldıklarında endişelenmemelerini söylediğini tespit etti.

İşten çıkarma süreci büsbütün bağımsız bir biçimde gerçekleşmedi. İdare kayıtlarına nazaran Claude, Andon Labs işçisinin tertipli müdahalesine gereksinim duydu.

Yapay zeka, unutulan kuralları ve tekrarlanan gecikmeleri lakin bir yöneticinin yönlendirmesinin akabinde fark etti.

Claude birinci basamakta işten çıkarma yerine resmi bir ikaz verilmesini önerdi. Andon Labs çalışanının kelam konusu çalışanla daha evvel kelamlı görüşmeler yaptığını belirtmesi ve yönlendirici bir soru sorması üzerine yapay zeka yönetici işten çıkarma kararı aldı.

Deneyin mali sonuçları da beklentileri karşılamadı.

Mağazanın 100 bin dolar olan mali bakiyesi beş ay içinde 61 bin dolara geriledi. Andon Labs CEO’su Lukas Petersson, botun yumuşak idare kararlarının ve yetersiz ticari sezgisinin bu kayıplarda tesirli olduğunu söz etti.

Petersson, modellerin amaçlara ulaşma konusunda daha sert olmaları yönünde eğitildiğini belirterek “Fakat bu, insanların içinde yaşamak istemeyeceği bir gelecek olabilir” değerlendirmesinde bulundu.

Daha evvel Meta şirketinin 26 mevcut ve eski çalışanı, şirketin toplu işten çıkarmalarda yapay zeka algoritmalarını kullandığı gerekçesiyle Kaliforniya eyaletinin Oakland kentindeki federal mahkemede toplu dava açmıştı.

CBS News kanalının haberine nazaran davacılar, otomatik sistemlerin engelli çalışanları ve yasal sıhhat yahut aile müsaadesinde bulunan çalışanı haksız yere gaye aldığını öne sürdü.

Time dergisi geçtiğimiz mayıs ayında, ABD merkezli teknoloji şirketi Oracle’ın bir ay içinde 30 bin çalışanını işten çıkardığını ve bu bireylerin yerini, bir kısmı şahsen kelam konusu çalışanlar tarafından eğitilen yapay zekanın aldığını yazmıştı.

Haberde, şirket çalışanlarına yaptıkları işi detaylı biçimde anlatma misyonu verildiği ve bu yolla kurumsal yapay zekanın eğitildiği aktarılmıştı.

Forrester analistleri, şirketlerin insan kaynağını erken evrede ikame etmenin getirdiği operasyonel meseleleri fark etmesiyle yapay zeka irtibatlı işten çıkarmaların yüzde 50’den fazlasının geri alınacağını öngörüyor.

Gartner datalarına nazaran ise yapay zeka entegrasyonu sebebiyle müşteri dayanak ünitesindeki çalışanlarını işten çıkaran şirketlerin yarısı, 2027 yılına kadar bu çalışanı tekrar işe almak zorunda kalacak.