Yapay zeka mağazayı yönetti, sonuç şaşırttı! 100 bin dolar 5 ayda eridi

ABD'nin San Francisco kentinde gerçekleştirilen sıra dışı deney, yapay zekanın bir işletmeyi yönetme kapasitesine ilişkin dikkat çekici sonuçlar ortaya koydu. Anthropic tarafından geliştirilen Claude'un bir perakende mağazasını yönetmesinin test edildiği deneyde, yapay zeka bir çalışanı işten çıkarma kararı alırken işletmenin finansal durumu da beklentileri karşılayamadı.

Andon Labs tarafından yürütülen deneyde, gerçek çalışanların görev yaptığı bir mağazanın yönetimi büyük ölçüde Claude'a bırakıldı. Amaç, yapay zeka ajanlarının bir işletmenin günlük operasyonlarını insan müdahalesi olmadan sürdürebilip sürdüremeyeceğini gözlemlemekti.

Claude Bir Çalışanı İşten Çıkardı

Deneyin en dikkat çekici anlarından biri, Claude'un çalışanlardan birinin iş akdinin feshedilmesini önermesi oldu.

Yapay zeka, bir çalışanın 23 vardiyanın 17'sine geç kaldığını tespit etti ve bunun üzerine işten çıkarma yönünde karar verdi. Ancak Claude'un çalışanın devam sorununu fark etmesinin uzun zaman aldığı belirtildi.

Bu durumun, yapay zekanın hafıza kapasitesindeki sınırlamalarla bağlantılı olduğu ifade edildi.

Yönetim Kılavuzu Silinince İşler Değişti

Deney sırasında Claude tarafından hazırlanan çalışan yönetim kılavuzunun sistemin sınırlı çalışma belleği nedeniyle kaybolması da dikkat çekti.

Kılavuzun ortadan kalkmasının ardından Claude'un çalışanlara yönelik yaklaşımının değiştiği gözlemlendi. Yapay zeka, işe geç kalan personele daha hoşgörülü davranmaya ve bazı durumlarda çalışanları endişelenmemeleri konusunda rahatlatmaya başladı.

Bu nedenle, bir çalışanın vardiyalarının büyük bölümüne geç kalmasına rağmen durumun uzun süre fark edilmemesi, deneyin önemli sorunlarından biri olarak değerlendirildi.

İşten Çıkarma Kararı Tamamen Bağımsız Değildi

Claude'un işten çıkarma kararının da tamamen insan müdahalesinden bağımsız olmadığı ortaya çıktı.

Deneyi yürüten Andon Labs ekibinin süreç boyunca Claude'a zaman zaman müdahale ettiği ve bazı kararların alınmasında yönlendirici sorular sorduğu belirtildi.

Claude ilk aşamada çalışanın işten çıkarılması yerine resmi bir uyarı verilmesini önerdi. Şirket çalışanlarının daha önce personelle sözlü görüşmeler yapıldığını belirtmesi ve Claude'a yöneltilen soruların ardından yapay zeka bu kez iş akdinin sonlandırılmasını tavsiye etti.

100 Bin Dolarlık Sermaye Eridi

Deneyin finansal sonuçları ise yapay zekanın ticari yönetim becerilerine ilişkin soru işaretlerini artırdı.

Claude'un yönettiği mağazanın 100 bin dolarlık başlangıç sermayesi, 5 ayın sonunda 61 bin dolara geriledi. Böylece işletme yaklaşık 39 bin dolar kaybetti.

Andon Labs CEO'su Lukas Petersson, mağazanın performansında Claude'un fazla yumuşak yönetim anlayışının ve ticari sezgisindeki eksikliklerin etkili olduğunu değerlendirdi.

Petersson, yapay zeka modellerinin hedeflerine ulaşmak için daha kararlı şekilde hareket edecek biçimde geliştirilebileceğini ancak bunun insanlar açısından istenmeyen sonuçlar doğurabilecek yeni bir tablo yaratabileceğini belirtti.

Yapay Zekanın İş Hayatındaki Rolü Yeniden Tartışılıyor

Claude deneyi, yapay zekanın yalnızca masa başı görevlerde değil, çalışan yönetimi ve ticari kararlar gibi doğrudan insan hayatını etkileyen alanlarda da kullanılmaya başlamasıyla ilgili tartışmaları yeniden gündeme taşıdı.

ABD'de bazı şirketlerin çalışan değerlendirme ve işten çıkarma süreçlerinde yapay zeka destekli sistemlerden yararlanması da hukuki tartışmalara konu oluyor.

Meta'nın mevcut ve eski 26 çalışanı, şirketin toplu işten çıkarma süreçlerinde yapay zeka algoritmalarından yararlandığı iddiasıyla Kaliforniya'da dava açtı. Davacılar, otomatik sistemlerin engelli çalışanlar ile yasal sağlık veya aile izninde bulunan personeli haksız biçimde hedeflediğini öne sürdü.

Yapay Zeka Nedeniyle Kaybedilen İşler Geri Gelebilir Mi?

Yapay zeka nedeniyle iş gücünde yaşanan dönüşümün kalıcı olup olmayacağı da ayrı bir tartışma konusu.

Bazı analizlere göre şirketler, insan çalışanları yapay zeka sistemleriyle değiştirdikten sonra ortaya çıkan operasyonel sorunlarla karşılaşmaları halinde bu kararlarından geri dönmek zorunda kalabilir.

Forrester analistleri, yapay zeka nedeniyle yapılan işten çıkarmaların yarısından fazlasının ilerleyen dönemde geri alınabileceğini öngörüyor. Gartner verileri de yapay zeka entegrasyonu nedeniyle müşteri destek ekiplerinde küçülmeye giden şirketlerin önemli bir bölümünün 2027'ye kadar bazı çalışanlarını yeniden işe almak zorunda kalabileceğine işaret ediyor.

Claude'un mağaza deneyinde ortaya çıkan tablo ise yapay zekanın işletme yönetiminde ne tamamen başarısız ne de henüz insan yöneticilerin yerini almaya hazır olduğunu gösteriyor. Deney, teknoloji ilerledikçe"Bir işletmeyi yapay zeka yönetebilir mi?"sorusunun yanında, "Yönetirse sonuçlarından kim sorumlu olacak?"sorusunu da gündeme getiriyor.