كانت شركة صغيرة عملت معها تستخدم أداة فرز بالذكاء الاصطناعي منذ أشهر قبل أن يفكر أحد في فحصها للتحيز — لا عن إهمال، بل لأن أحداً لم يخبرهم بأن هذا الفحص أمر ينبغي عليهم القيام به. لم يكن ما وجده التدقيق خوارزمية منفلتة تتخذ قرارات جائرة عمداً، بل مجموعة بيانات تدريب رمّزت بصمت نمطاً لم يلحظه أحد، ومتغيراً بديلاً يمارس التمييز نيابةً عن النموذج. (غُيّرت التفاصيل المُعرِّفة هنا حفاظاً على السرية؛ والنمط أدناه يمثّل ما تكشفه هذه التدقيقات باستمرار.)
منهجية التدقيق التي أتبعها
تدقيق التحيز ليس اختباراً واحداً — بل أربعة فحوص منفصلة تُجرى بالترتيب. أولاً، حدّدوا كل خاصية محمية قد ترتبط بها قرارات النظام بشكل مباشر أو غير مباشر: العمر، والجنس، والعرق، والإعاقة، وما إلى ذلك. ثانياً، أجروا اختبار الأثر المتفاوت بمقارنة معدلات النتائج بين المجموعات — وقاعدة الأربعة أخماس (معدل اختيار لأي مجموعة يقل عن 80% من معدل المجموعة الأعلى أداءً) عتبة بداية مفيدة وراسخة، لا ضماناً قانونياً للإنصاف بحد ذاتها. ثالثاً، اختبروا الحالات الحدّية عمداً — الطلبات والمدخلات غير المعتادة التي نادراً ما يراها النموذج في التشغيل العادي، حيث يختبئ التحيز غالباً لعدم وجود بيانات روتينية كافية لتسويته. رابعاً، وهو الأكثر إغفالاً: ابحثوا عن المتغيرات البديلة — حقول ليست بحد ذاتها خاصية محمية لكنها ترتبط بإحداها ارتباطاً قوياً.
ما الذي وجده التدقيق فعلاً
كشف اختبار الأثر المتفاوت فجوة في معدل الاختيار تقع على حافة عتبة الأربعة أخماس تماماً — لم تكن مقلقة بوضوح بمفردها، ولهذا بالضبط مرّت دون ملاحظة. وعند التعمق في مدخلات النموذج، برز حقل واحد: الرمز البريدي، الذي أُدرج كبديل يبدو معقولاً لمسافة التنقل. يرتبط الرمز البريدي في المملكة المتحدة بعدد من الخصائص المحمية بدرجة أقوى مما تفترضه معظم الفرق، وفي هذه الحالة كان يمارس بصمت تمييزاً غير مباشر لم يقصده مصممو النموذج ولم يختبروه قط.
لم يتصرف أحد بسوء نية في أي حلقة من هذه السلسلة. عكست البيانات سنوات من قرارات التوظيف السابقة التي لم تُدقَّق قط بحثاً عن النمط نفسه، وتعلّم النموذج بأمانة أن يكررها. هذا هو الجانب المزعج في معظم تدقيقات التحيز: الخوارزمية لا تخترع التحيز، بل تؤتمت وتضخّم أي نمط كان كامناً أصلاً في البيانات التاريخية.
الحل ليس دائماً إعادة تدريب النموذج
الاستجابة الغريزية لنتيجة كهذه هي «أعيدوا تدريب النموذج دون ذلك الحقل». وأحياناً يكون ذلك صحيحاً. لكن الحل الأدوم في الغالب إجرائي: أزيلوا المتغير البديل، وأعيدوا اختبار الأثر المتفاوت للتأكد من أن الفجوة سُدّت فعلاً لا أنها انتقلت إلى بديل آخر، وضعوا دورية تدقيق منتظمة حتى لا تعود المشكلة بصمت مع تغيّر البيانات الأساسية. أما الترقيع التقني لمرة واحدة دون فحص دوري فهو حل تنتهي صلاحيته لحظة تحديث بيانات التدريب مجدداً.
لماذا يهم هذا حتى لو لم يشتكِ أحد بعد
الشركات التي تتضرر من ذلك ليست تلك التي تملك نظام ذكاء اصطناعي متهوراً بوضوح — بل تلك التي افترضت أن الأتمتة المصممة بشكل معقول لا تحتاج إلى فحص، إلى أن يُجري متقدم أو صحفي أو جهة تنظيمية اختبار الأثر المتفاوت نفسه من الخارج، دون معرفة بالسياق أو بحسن النية. تدقيق التحيز الاستباقي تمرين في الحوكمة. أما التدقيق نفسه بعد شكوى فهو استجابة لأزمة — وتكلفته أعلى بكثير بكل المقاييس.
عن الكاتب — د. مهدي سيفي، دكتوراه، MBA، مهندس
مستشار في استراتيجية الذكاء الاصطناعي وحوكمته مقيم في ميلتون كينز. المؤسس ورئيس الذكاء الاصطناعي في VisionXY7، ومحاضر أول وقائد برنامج ماجستير تحليلات الأعمال في جامعة نورثهامبتون. دكتوراه (تحليلات الأعمال المدعومة بالذكاء الاصطناعي، جامعة ليفربول) · MBA · مدقق رئيسي ومنفذ لمعيار ISO/IEC 27001 · أكثر من 25 عاماً من الخبرة في تقنية المعلومات والتنفيذ عبر أكثر من 100 مشروع.