Yapay zeka müdür ilk kez insan çalışanı işten çıkardı

ABD'nin San Francisco kentindeki deneysel bir mağazayı yöneten yapay zeka sistemi, bir çalışanının işten çıkarılmasına karar verdi. Deneyi yürüten Andon Labs, bunun büyük bir dil modelinin yönetici olarak görev yapıp bir insan çalışanı işten çıkarmaya karar verdiği ilk vaka olduğunu öne sürüyor.

Anthropic'in Claude modelleri üzerine geliştirilen “Luna” adlı yapay zeka, araştırma girişimi Andon Labs tarafından işletilen Andon Market'i yönetiyor.

Business Insider'ın aktardığına göre işten çıkarılan çalışan, 23 vardiyanın 17'sine geç kaldı.

Luna mağazanın çalışan işe alımından vardiya programlarının hazırlanmasına, satılacak ürünlerin seçilmesinden fiyatların belirlenmesine kadar operasyonların önemli bölümünü yönetiyor. Yapay zekanın işe aldığı kişiler resmi olarak Andon Labs bünyesinde çalışıyor ve ücret ile yasal çalışan haklarından yararlanıyor.

Kuralları yazdı, sonra kendisi unuttu

Olayın dikkat çekici ayrıntılarından biri, Luna'nın çalışanların uyması gereken kuralları da kendisinin belirlemiş olması.

Yapay zeka daha önce işe devamlılık ve geç kalmayla ilgili kuralları içeren bir çalışan el kitabı hazırladı. Ancak çalışma belleğindeki sınırlamalar nedeniyle daha sonra bu belgenin izini kaybetti.

Luna, söz konusu çalışanın aylar boyunca işe geç kaldığını kaydetmesine rağmen kendi oluşturduğu kuralları uygulayamadı.

Sonunda Andon Labs çalışanlarından biri Luna'ya el kitabını yeniden bulmasını ve çalışanın durumunu bu kurallara göre değerlendirmesini söyledi.

Yapay zeka ilk olarak çalışana resmi bir uyarı verilmesini tavsiye etti. Ancak yöneticilerin çalışanla daha önce birkaç kez geç kalma sorunu hakkında konuştuğu bilgisi verildiğinde kararını yeniden değerlendirdi ve çalışanın işine son verilmesini önerdi.

Nihai işlem ise insanlar tarafından gerçekleştirildi. İnsan yöneticiler Luna'nın tavsiyesini inceledikten sonra çalışanı işten çıkardı.

Yönlendirici bir soru soruldu

Andon Labs CEO'su Lukas Petersson, Time dergisine yaptığı açıklamada yapay zekanın işten çıkarma kararına ulaşmasına neden olan istemin “yönlendirici bir soru” olduğunu kabul etti.

Petersson buna rağmen kararın etik dışı olduğunu düşünmediklerini belirterek, “Bir insan çalışan bu kişiyi çok daha önce işten çıkarırdı,” dedi.

Otomatik sistemler daha önce de özellikle platform ekonomisinde çalışanların işten çıkarılması veya hesaplarının kapatılması süreçlerinde rol oynamıştı.

Ancak Andon Labs, bu olayın büyük bir dil modelinin doğrudan yönetici rolünü üstlenerek nihayetinde bir insan çalışanın işten çıkarılmasına karar verdiği ilk örnek olduğunu savunuyor.

Yapay zekaya 100 bin dolar ve şirket kredi kartı verildi

Andon Labs deneyi mart ayında, yapay zeka ajanlarının gerçek bir işletmeyi yönetip yönetemeyeceğini görmek amacıyla başlattı.

Luna'ya 100 bin dolar, internet erişimi ve şirket kredi kartı verildi. Yapay zekadan bir mağaza açması ve işletmeyi kâra geçirmesi istendi.

Luna bunun ardından satılacak ürünleri seçti, taşeronlarla çalıştı, iş ilanları yayımladı, adaylarla mülakat yaptı ve çalışanları işe aldı.

Ancak deneyin ilk beş ayındaki finansal tablo yapay zeka açısından pek parlak olmadı.

Andon Market satış yapmayı başarsa da kâra geçemedi. Başlangıçta 100 bin dolar olan nakit varlığı beş ay sonra 61 bin 186 dolara geriledi.
‘Modeller daha acımasız hale geliyor’

Petersson, yapay zeka teknolojisi geliştikçe yapay zeka yöneticilerin iş dünyasında daha sık görülebileceğini düşünüyor. Ancak bunun beraberinde ciddi sorunlar getirebileceği konusunda da uyarıyor.

“Modeller giderek daha acımasız olmaları ve hedefleri takip etmeleri için eğitiliyor,” diyen Petersson, yapay zekalara insanları işten çıkarma yetkisi verilmesi durumunda ortaya çıkabilecek tabloya dikkat çekti:

“Eğer insanların işine son vermelerine izin verirsek ve onlar da daha acımasız hale gelirse... Belki de bu, insanların içinde yaşamak istemeyeceği bir gelecek olur.”

'Yapay zeka tarafından yönetilmek mide bulandırıcı'

Deney, mağazada çalışan insanlar arasında da endişeye neden oluyor.

Andon Market çalışanlarından Felix Carson, Luna'yı hoşgörülü bir yönetici olarak tanımlasa da bir yapay zeka tarafından yönetilme deneyimini “mide bulandırıcı” olarak nitelendirdi.

Carson, “Ama buradayım çünkü işe ihtiyacım var,” dedi.

Yapay zeka yöneticilerin gelecekte yaygınlaşıp yaygınlaşmayacağı sorulduğunda ise bunun gerçekleşmemesini umduğunu belirtti:

“Bu sektörde herhangi bir şeyi gerçekleştirebilecek kadar çok para var. Ama bir şeyi yapabiliyor olmanız, onu yapmanız gerektiği anlamına gelmiyor.”

Euronews Türkçe