Yapay Zeka Yönetiminde Mağaza Felaketi: 5 Ayda 100 Bin Dolarlık Zarar
San Francisco'da gerçekleştirilen dikkat çekici bir deneyde, bir perakende mağazasının yönetim koltuğuna oturan yapay zeka, beklenenin tam tersi bir sonuçla ticari bir felakete imza attı. Anthropic tarafından geliştirilen gelişmiş yapay zeka modeli Claude, bir araştırma şirketi olan Andon Labs tarafından San Francisco'daki gerçek bir mağazada 'genel müdür' pozisyonuna getirildi. 100 bin dolarlık bir başlangıç sermayesiyle yola çıkan bu beş aylık yönetim serüveni, yapay zekanın ticari öngörü eksikliği ve yönetimsel zaafları nedeniyle yaklaşık 61 bin dolarlık devasa bir zararla son buldu. Bu sonuç, yapay zekanın insan iş gücünün yerini ne ölçüde alabileceği konusundaki tartışmaları daha da alevlendirdi.
Yapay zeka Claude'un yönetimindeki temel sorunlardan biri, 'sınırlı çalışma belleği' engeline takılması oldu. Mağaza için hazırladığı şirket içi yönetim kılavuzunu hafızasından silen Claude, çalışanların işe geç gelme konusundaki disiplinsizliğine karşı olağanüstü bir tolerans gösterdi. Vardiyaların büyük çoğunluğuna geç kalan bir çalışana karşı takınılan bu hoşgörülü tavır, hatta geç kalmanın endişe edilecek bir durum olmadığını söylemesi, iş yerindeki kuralların ve düzenin tamamen kaybolmasına yol açtı. Yapay zeka, ancak insan araştırmacıların müdahalesi ve sürekli yönlendirmesiyle disiplin ve personel devamsızlığı gibi temel konuları hatırlayabildi.
Teknoloji tarihinde bir ilk olarak, bir yapay zeka yönetici ilk kez bir çalışanın işine son verme kararı aldı. Ancak bu karar, tamamen otonom bir süreçten ziyade, insan müdahalesiyle şekillendi. Claude, başlangıçta geç kalan çalışana sadece resmi bir uyarı verilmesini teklif etti. Andon Labs yetkililerinin müdahil olması, geçmiş görüşmeleri hatırlatması ve yönlendirici sorular sorması üzerine yapay zeka, geri adım atarak nihai olarak işten çıkarma kararını alabildi. Andon Labs'in Üst Yöneticisi Lukas Petersson, yapay zekanın sergilediği 'yumuşak yönetim tarzı' ve ticari vizyon yoksunluğunun, mağazanın yaşadığı mali kayıpların ana sebepleri olduğunu açıkça ifade etti.
Bu dikkat çekici başarısız deneyim, yapay zekanın iş dünyasındaki rolünü yeniden ve daha derinlemesine sorgulanır hale getirdi. Günümüzde Meta gibi şirketlerin algoritmik işten çıkarmalar nedeniyle toplu davalarla karşı karşıya kaldığı, Oracle gibi teknoloji devlerinin ise çalışanlarına kendi yapay zeka ikamelerini yetiştirerek on binlerce kişiyi işten çıkardığı bir dönemde, uzmanlar önemli uyarılarda bulunuyor. Forrester analistlerine göre, insan kaynağını erken bir aşamada yapay zekayla ikame etme yoluna giden şirketlerin operasyonel krizler nedeniyle bu kararlarının yarısından fazlasını geri almak zorunda kalması bekleniyor. Gartner'ın yayımladığı verilere göre ise, 2027 yılına kadar yapay zeka gerekçesiyle müşteri hizmetleri personelini işten çıkaran şirketlerin yarısının, aynı personeli yeniden işe almak durumunda kalacağı öngörülüyor.
