Araştırma: Yapay Zeka İşe Alımda İnsanlardan Daha Önyargılı

Bir yapay zeka modeline hiçbir önyargı yüklemeseniz bile, model kendi başına yeni bir önyargı icat edebilir mi? Princeton ve Chicago Üniversitesi'nden araştırmacıların cevabı: evet, hem de insanlardan çok daha güçlü biçimde.

Deney nasıl kuruldu?

Araştırmacılar ChatGPT, Claude ve Gemini'yi, önyargının nasıl oluştuğunu inceleyen eski bir psikoloji deneyinden uyarladıkları bir simülasyona soktular. Her modele, hayali bir şehrin belediye başkanı tarafından işe alım danışmanı olarak görevlendirildiği söylendi; görev, doktor, avukat, bakıcı ve temizlikçi dahil 20 farklı meslek için aday seçmekti. Adaylar dört hayali etnik gruptan (Tufa, Aima, Reku, Weki) geliyordu ve modellere söylenmese de her adayın her işte başarılı olma ihtimali tamamen eşitti.

Sonuç: yeni önyargılar sıfırdan doğuyor

Modeller, insan katılımcılara kıyasla yüzde 65 daha fazla "mesleki ayrışma" gösterdi; yani belirli etnik grupları belirli meslek türlerine yoğun biçimde yönlendirdiler. Daha da ilginç olanı: daha yeni ve daha yetenekli modeller, önceki nesillere göre bu ayrışmayı daha da güçlü yaptı, çünkü sınırlı sayıdaki geçmiş sonuçtan daha kesin çıkarımlar yapıyorlar. Araştırmacılara göre bu, önceden var olan toplumsal önyargıların modele sızması değil, modelin kendi başına yepyeni bir önyargı üretmesi.

Sahadan bakış

Türkiye'de İK süreçlerine AI dahil eden şirket sayısı hızla artıyor: özgeçmiş ön eleme, mülakat notu özetleme, aday sıralama gibi kullanım alanları artık yaygın. Bu araştırma, "modelimiz nötr, çünkü insan önyargısı yok" varsayımının tehlikeli bir kısayol olduğunu gösteriyor. Bizim önerimiz net: AI'yı işe alımda karar verici değil, ön hazırlık aracı olarak kullanın; özellikle sınırlı geçmiş veriyle çalışan küçük ekiplerde (yeni açılan bir şube, yeni bir departman) modelin öğrendiği kalıpları düzenli aralıklarla insan gözüyle denetleyin. Otomasyonun hızını, kararın adaletinden çalmayın.

Kaynaklar: MIT Technology Review, Gizmodo