Yapay zeka (YZ) devrimi başladı ve insanların profesyonel ve kişisel yaşamlarının neredeyse her yönüne, iş alımı da dahil olmak üzere, yayılmakta.
Sanatçılar telif hakkı ihlallerinden veya basitçe yerlerinin alınmasından korkarken, iş dünyası ve yönetim, tedarik zinciri yönetimi, müşteri hizmetleri, ürün geliştirme ve insan kaynakları (İK) yönetimi gibi çeşitli alanlarda daha büyük verimlilik imkanlarının farkına varıyor.
Yakında tüm iş alanları ve operasyonlar bir şekilde YZ’yi benimsemek zorunda kalacak. Ancak YZ’nin doğası ve süreçlerinin ve çıktıların ardındaki veriler, insan önyargılarının bu teknolojiye yerleştirildiği anlamına geliyor.
Araştırmamız, özgeçmiş taramasını otomatikleştirmek ve iş başvurusu yapanların video mülakatlarını değerlendirmek için yaygın olarak YZ’yi benimseyen işe alım ve işe yerleştirme alanını inceledi.
İşe alımda YZ, insan önyargılarını ortadan kaldırarak ve karar alma süreçlerinde adaleti ve tutarlılığı artırarak işe alım sürecinde daha büyük nesnellik ve verimlilik vaat ediyor.
Ancak araştırmamız, YZ’nin önyargıları ince bir şekilde – ve bazen açıkça – artırabileceğini gösteriyor. Ve İK profesyonellerinin müdahalesi bu etkileri hafifletmek yerine kötüleştirebilir. Bu, insan denetiminin YZ’yi kontrol edebileceği ve ılımlı hale getirebileceği inancımıza meydan okuyor.
As #AI becomes more and more commonplace, it's important to look at how these systems can go wrong.
— MHR (@mhr_solutions) June 6, 2024
Our latest MHR Labs update explores bias in AI recruitment and how we can protect against these issueshttps://t.co/y0LGFhg9NZ#Recruitment #Research pic.twitter.com/xZPgyf95KU
İnsan Yanlılığının Büyütülmesi
Yapay zekanın işe alım süreçlerinde kullanılmasının nedenlerinden biri, daha objektif ve tutarlı olması beklenmesidir. Ancak, yapılan birçok çalışma, bu teknolojinin aslında çok büyük olasılıkla önyargılı olduğunu göstermiştir. Bunun nedeni, yapay zekanın eğitildiği veri setlerinden öğrenmesidir. Eğer veriler kusurluysa, yapay zeka da kusurlu olacaktır.
Verilerdeki önyargılar, insan yapımı algoritmalar tarafından desteklenen yapay zeka ile daha da kötüleşebilir. Bu algoritmalar genellikle insan önyargılarını tasarımlarına dahil eder.
22 İK profesyoneli ile yapılan röportajlarda, işe alımda iki yaygın önyargı tespit ettik: “stereotip önyargısı” ve “bana benzeyen önyargısı”.
Stereotip önyargısı, belirli gruplara yönelik klişelerden etkilendiğinde ortaya çıkar. Örneğin, aynı cinsiyetten adayları tercih etmek, cinsiyet eşitsizliğine yol açar.
“Bana benzeyen” önyargısı ise, işe alımcıların, kendileriyle benzer geçmişe veya ilgi alanlarına sahip adayları tercih etmesi durumunda ortaya çıkar.
Bu önyargılar, işe alım sürecinin adilliğini önemli ölçüde etkileyebilir ve tarihsel işe alım verilerine gömülüdür. Bu veriler, yapay zeka sistemlerini eğitmek için kullanıldığında, önyargılı bir yapay zeka ortaya çıkar.
Geçmiş işe alım uygulamaları belirli demografileri kayırmışsa, yapay zeka da bunu devam ettirir. Bu önyargıları azaltmak zordur çünkü algoritmalar, diğer ilişkili bilgilerden gizli verilerden kişisel bilgileri çıkarabilir.
Örneğin, erkekler ve kadınlar için farklı uzunluklarda askerlik hizmeti olan ülkelerde, bir yapay zeka hizmet süresine dayanarak cinsiyeti tahmin edebilir.
Bu önyargının devam etmesi, hem insan hem de yapay zeka ile yürütülen işe alım süreçlerinde adaleti sağlamak için dikkatli planlama ve izleme gerekliliğini vurgulamaktadır.
İnsanlar Yardımcı Olabilir mi?
İK profesyonellerinin yanı sıra, 17 yapay zeka geliştiricisi ile de röportaj yaptık. Amacımız, işe alım önyargısını azaltacak bir yapay zeka sistemi nasıl geliştirilebileceğini araştırmaktı.
Röportajlara dayanarak, İK profesyonelleri ve yapay zeka programcılarının veri setlerini incelerken ve algoritmaları geliştirirken bilgi alışverişi yapıp önyargıları sorguladıkları bir model geliştirdik.
Ancak, bulgularımız, böyle bir modelin uygulanmasındaki zorluğun, İK profesyonelleri ve yapay zeka geliştiricileri arasında var olan eğitim, mesleki ve demografik farklılıklarda yattığını ortaya koymaktadır.
Bu farklılıklar, etkili iletişim, işbirliği ve hatta birbirini anlama becerisini engeller. İK profesyonelleri geleneksel olarak insan yönetimi ve örgütsel davranış konularında eğitilirken, yapay zeka geliştiricileri veri bilimi ve teknoloji konusunda uzmandır.
Bu farklı geçmişler, birlikte çalışırken yanlış anlamalara ve uyumsuzluğa yol açabilir. Bu, özellikle kaynakların sınırlı ve profesyonel ağların daha az çeşitli olduğu küçük ülkelerde, örneğin Yeni Zelanda’da, bir sorundur.
İK ve AI’yı Birleştirmek
Şirketler ve İK profesyonelleri AI tabanlı işe alımlarda önyargı sorununu ele almak istiyorlarsa, birkaç değişiklik yapmaları gerekmektedir.
Öncelikle, İK profesyonellerine yönelik bilgi sistemleri geliştirme ve yapay zeka konularında yapılandırılmış bir eğitim programının uygulanması çok önemlidir. Bu eğitim, yapay zekanın temellerini, yapay zeka sistemlerindeki önyargıların tespitini ve bu önyargıların azaltılması için stratejileri kapsamalıdır.
Ayrıca, İK profesyonelleri ve yapay zeka geliştiricileri arasında daha iyi iş birliğinin teşvik edilmesi de önemlidir. Şirketler, İK ve yapay zeka uzmanlarını içeren ekipler oluşturmayı hedeflemelidir. Bu ekipler, iletişim boşluğunu kapatmaya ve çabalarını daha iyi hizalamaya yardımcı olabilir.
Bunun yanı sıra, kültürel olarak ilgili veri setlerinin geliştirilmesi, yapay zeka sistemlerindeki önyargıların azaltılması için hayati öneme sahiptir. İK profesyonelleri ve yapay zeka geliştiricileri, yapay zeka destekli işe alım süreçlerinde kullanılan verilerin çeşitli ve farklı demografik grupları temsil etmesini sağlamak için birlikte çalışmalıdır. Bu, daha adil işe alım uygulamalarının oluşturulmasına yardımcı olacaktır.
Son olarak, ülkelerin işe alımda yapay zekanın kullanımına yönelik güven oluşturabilecek ve adaleti sağlayabilecek yönergeler ve etik standartlara ihtiyacı vardır. Kuruluşlar, yapay zeka destekli karar alma süreçlerinde şeffaflığı ve hesap verebilirliği teşvik eden politikalar uygulamalıdır.
Bu adımları atarak, İK profesyonelleri ve yapay zeka geliştiricilerinin güçlerini birleştirerek daha kapsayıcı ve adil bir işe alım sistemi oluşturabiliriz.
Orjinal Makale Sayfası:
