Sırt çizgisi
Cambridge Üniversitesi'nden araştırmacılar Pazar günü, geçmişte eleştirilere neden olan programları yayınlayarak, cinsiyet ve ırk önyargılarından kaçınmak için yapay zeka kullandığını iddia eden işe alım araçlarının işe alımda çeşitliliği iyileştirmeyebileceğini ve aslında bu önyargıları sürdürebileceğini savundu. daha derin bir soruna hızlı bir çözüm sunmak için teknolojiyi kullanmanın bir yolu olarak.
Google Vision'ın AI destekli Yüz Tanıma sistemi gösterilmektedir.
Getty Images
Ana unsurlar
tarafından yayınlanan bir makalede Felsefe ve Teknoloji, araştırmacılar, birçoğu adayların adlarını, cinsiyetlerini ve diğer tanımlayıcılarını gizleyerek önyargıları ortadan kaldırdığını ve çeşitliliği teşvik ettiğini iddia eden ve bazıları da bu tür yapay zeka destekli işe alım araçları sunan birkaç şirketin iddialarını inceledi. rütbe adayların özgeçmiş taramalarına, çevrimiçi değerlendirmelerine ve başvuru sahiplerinin konuşma ve yüz ifadelerinin analizine dayalıdır.
Cambridge Üniversitesi Toplumsal Cinsiyet Araştırmaları Merkezi'nden iki profesör olan araştırmacılar, bu araçların, tarihsel olarak beyaz veya Avrupalı erkek olan “ideal aday”ın kültürel önyargılarını yeniden ürettikleri için işe alımda tek biçimliliği teşvik edebileceğini savundular.
Araçlar ayrıca geçmiş şirket verilerine dayandıkları için çeşitliliği iyileştirmeyebilir ve dolayısıyla mevcut çalışanlara en çok benzeyen adayları teşvik edebilir.
Cambridge Üniversitesi Toplumsal Cinsiyet Çalışmaları Merkezi'nin ortak yazarı ve araştırmacısı Eleanor Drage, "bu ürünlerin nasıl üretildiği veya test edildiği konusunda çok az sorumluluk var" dedi ve teknolojinin eklenmesinin "tehlikeli" olabileceğini söyledi. “İşe alımların nasıl 'tarafsızlaştırılabileceği' ve daha adil hale getirilebileceği hakkında yanlış bilgi” kaynağı.
Önemli Alıntı
"Bu şirketler, yapay zeka kullanılarak işe alım sürecinden ırkçılık, cinsiyetçilik ve diğer ayrımcılık biçimlerinin sıyrılabileceğini iddia ederek, dünyada nasıl hareket ettiğimizi şekillendiren güç sistemlerinden ziyade ırk ve cinsiyeti önemsiz veri noktalarına indirger. Drage yaptığı açıklamada.
Teğet
Amazon 2018'de duyurdu durdurmak Sistemin kadınlara karşı güçlü bir şekilde ayrımcılık yaptığını tespit ettikten sonra iş başvurusunda bulunanların özgeçmişlerini incelemek için bir AI işe alım aracı kullanmak. Bunun nedeni, güvendiği bilgisayar modellerinin son 10 yılda şirkete gönderilen ve çoğunlukla erkek adaylardan gelen özgeçmişlere dayalı olarak geliştirilmiş olmasıdır.
Anahtar Arka Plan
Kuruluşlar, işe alım süreçlerini yönetmeye yardımcı olmak için giderek daha fazla yapay zekaya yöneldi. Birinde 2020 anket Danışmanlık firması Gartner, Pazar günkü makalenin yazarları tarafından belirtilen 300'den fazla insan kaynakları lideri arasından işverenlerin %86'sının işe alım uygulamalarında sanal teknoloji kullandığını tespit etti. Bazı şirketler yapay zekanın daha maliyet ve zaman açısından verimli bir işe alım süreci sunabileceğini iddia ederken, bazıları uzmanlara göre var bulundu sistemler, gerçek dünyadaki mevcut önyargıları çoğaltarak, ırksal ve cinsiyete dayalı önyargılı işe alımları ortadan kaldırmak yerine teşvik etme eğilimindedir. Bazı ABD'li milletvekillerinin Hedeflenen Teknoloji hızla gelişmeye devam ederken ve onu düzenleyecek çok az yasa varken, yapay zeka sistemlerindeki önyargılarla mücadele etmek. Beyaz Saray bu hafta yayınladı İşe alımda kullanılan algoritmaların “mevcut istenmeyen eşitsizlikleri yansıttığını ve yeniden ürettiğini” veya yeni “önyargı ve ayrımcılığı” yerleştirdiğini iddia eden bir “Yapay Zeka Haklar Bildirgesi” taslağı. Yasal olarak bağlayıcı olmayan veya resmi bir hükümet politikası olmayan plan, şirketleri AI'nın ayrımcılık yapmamasını veya veri gizliliğini ihlal etmemesini sağlamaya ve kullanıcıları teknolojinin ne zaman kullanıldığından haberdar etmeye çağırıyor.
Ne İzlenmeli?
Öneriler listesinde, Pazar gününün yazarları Felsefe ve Teknoloji Makale, AI teknolojileri geliştiren şirketlerin “bireyselleştirilmiş önyargı örnekleri” yerine daha geniş, sistematik eşitsizliklere odaklandığını öne sürdü. Örneğin, yazılım geliştiricilerin adayları sıralamak, işlemek ve sınıflandırmak için kullanılan kategorileri ve bu kategorilerin cinsiyet ve ırkla ilgili belirli varsayımlara dayanarak ayrımcılığı nasıl teşvik edebileceğini incelemelerini önerirler. Araştırmacılar ayrıca İK profesyonellerinin AI işe alım araçlarının nasıl çalıştığını ve potansiyel sınırlamalarından bazılarının neler olduğunu anlamaya çalışması gerektiğini iddia ediyor.
Şaşırtıcı Gerçek
Avrupa Birliği, yapay zeka destekli işe alım yazılımlarını ve performans değerlendirme araçlarını yeni raporunda "yüksek riskli" olarak sınıflandırdı. taslak AI ile ilgili yasal çerçeve, yani araçların daha fazla incelemeye tabi olacağı ve belirli uyumluluk gereksinimlerini karşılaması gerekeceği anlamına gelir.
Daha fazla Okuma
DC, AI yanlılığına karşı mücadeleye liderlik etmek istiyor (Aksiyolar)
Kaynak: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/