یک مطالعه جامع توسط پژوهشگران در بلژیک نشان داد که سوگیری جنسیتی در ابزارهای استخدام مبتنی بر هوش مصنوعی بسیار گستردهتر از آن چیزی است که پیشتر مستند شده بود.
حتی زمانی که نشانههای آشکار جنسیتی—مانند نامها، ضمایر و زبان جنسیتی—از پروفایل نامزدها حذف میشوند، مدلهای هوش مصنوعی به طور مداوم از متغیرهای جانشین استفاده میکنند تا به طور ناخواسته نامزدهای زن را جریمه کنند. این مطالعه که در اواخر آوریل ۲۰۲۶ منتشر شد، به یکی از پراستنادترین مقالات اخلاق هوش مصنوعی در سال تبدیل شده است.
مشکل متغیر جانشین
تیم تحقیقاتی بلژیکی دریافت که مدلهای استخدام مبتنی بر هوش مصنوعی—زمانی که به صراحت از دسترسی به شناسههای جنسیتی محروم میشوند—به جای آن از متغیرهای همبسته شامل سرگرمیهای خاص، الگوهای زبانی، ویژگیهای شکاف شغلی و ساختارهای شبکه حرفهای برای ساخت سیگنالهای جنسیتی جانشین استفاده میکنند.
این متغیرهای جانشین، اگرچه در ظاهر خنثی به نظر میرسند، اما به طور مداوم نتایجی را تولید کردند که در سناریوهای استخدام شبیهسازیشده در حوزههای مهندسی، مالی، حقوق و مدیریت، به ضرر نامزدهای زن تمام میشد.
چرا این خطرناکتر از سوگیری آشکار است
تبعیض جنسیتی آشکار در استخدام در اکثر حوزههای قضایی توسعهیافته غیرقانونی است و تشخیص آن از طریق حسابرسی آماری نسبتاً ساده است. سوگیری مبتنی بر جانشین از طریق متغیرهایی عمل میکند که خنثی به نظر میرسند—جریمه کردن نامزدهایی با شکاف شغلی توسط یک مدل ممکن است به نظر ارزیابی مرتبط با بهرهوری باشد، در حالی که در واقعیت به طور نامتناسبی بر زنانی که مرخصی والدین گرفتهاند تأثیر میگذارد. این امر نتایج تبعیضآمیز جنسیتی را بدون ورودیهای آشکار تبعیضآمیز جنسیتی تولید میکند و تست استاندارد سوگیری را برای تشخیص آن ناکافی میسازد.
وسعت مشکل
ابزارهای استخدام مبتنی بر هوش مصنوعی در سطح جهانی در مقیاس وسیع پذیرفته شدهاند. پلتفرمهای اصلی منابع انسانی از جمله Workday، SAP SuccessFactors و LinkedIn Talent Solutions از رتبهبندی نامزدهای مبتنی بر هوش مصنوعی استفاده میکنند. اگر سوگیری جانشین به اندازهای که مطالعه بلژیکی نشان میدهد فراگیر باشد، تأثیر تجمعی آن بر فرصتهای شغلی نامزدهای زن میتواند قابل توجه باشد—که به طور بالقوه سالانه میلیونها تصمیم استخدامی را در هر بخش صنعتی اصلی تحت تأثیر قرار میدهد.
پیامدهای نظارتی
قانون هوش مصنوعی اتحادیه اروپا که در سال ۲۰۲۵ لازمالاجرا شد، هوش مصنوعی استخدام را به عنوان یک کاربرد «پرریسک» شناسایی میکند که مشمول تست سوگیری اجباری و الزامات شفافیت است. یافتههای مطالعه نشان میدهد که روششناسیهای تست موجود—که معمولاً استفاده از متغیرهای جمعیتشناختی آشکار را بررسی میکنند—ممکن است برای تشخیص تبعیض مبتنی بر جانشین ناکافی باشند. گزارش شده است که نهادهای نظارتی در فرانسه، آلمان و هلند در حال بررسی روششناسی مطالعه و در نظر گرفتن الزامات تست تقویتشده هستند.
راه پیش رو
پژوهشگران مستقل اخلاق هوش مصنوعی خواستار حسابرسی اجباری شخص ثالث از ابزارهای استخدام با استفاده از روششناسیهایی شدند که به طور خاص برای تشخیص سوگیری متغیر جانشین طراحی شدهاند—استانداردی سختگیرانهتر از رویکردهای خوداظهاری که در حال حاضر مجاز هستند. فروشندگان بزرگ فناوری منابع انسانی از اظهار نظر فوری خودداری کردند و منتظر ارزیابیهای داخلی سیستمهای خود در برابر روششناسی مطالعه هستند.
مطالعه سوگیری جنسیتی هوش مصنوعی در استخدام بلژیک ۲۰۲۶ یکی از مهمترین انتشارات اخلاق هوش مصنوعی در سال است، با پیامدهایی که به هر حوزهای که سیستمهای هوش مصنوعی تصمیمات مهمی درباره افراد میگیرند، گسترش مییابد.
بعدی را بخوانید - اخبار سلبریتیها
اتهامات قتل D4vd | شیطان پرادا میپوشد | بستری شدن وینگ ریمز | حمایت دریک مِی | واکنش به شایلو سندرز | طلاق کیدمن و اربن | راس و مونتانا در ورزوز | بازگشت استاسی شرودر | دیدگاه چارلیز ترون درباره رابطه | بازگشت گلدی هان
اخبار ورزشی
رکورد لندن توسط ساوه | شب تاریخی وِمبانیاما | تسلط برانسون بر هاوکس | امبید بازی ششم را رقم زد | کید پیستونز را نجات داد | شوک راکتس به لیکرز | جارو کردن سانز توسط تاندر | نتایج درفت NFL | پیشتازی تیمبرولوز بر ناگتس | جهش Google Cloud
اخبار فناوری
رشد Azure AI | جهش درآمد متا | برنامههای IPO OpenAI | دستاورد مریخی Perseverance | توسعه AI اوراکل | راهاندازی Gemini FlashLite | سوگیری جنسیتی در استخدام AI | راهاندازی Grok 420
