عنصرية وتحيز في الذكاء الاصطناعي الذي تستخدمه الحكومة البريطانية

ستُنشر أدوات الذكاء الاصطناعي والخوارزمية التي تستخدمها الحكومة المركزية البريطانية في سجل عام بعد تحذيرات من أنها قد تحتوي على عنصرية وتحيز. وأكد المسؤولون أن هذه الأدوات، التي استخدمت في محاولة اكتشاف الزيجات الوهمية واستئصال الاحتيال والخطأ في طلبات الإعانات، وانتقدها ناشطون واتهموها بالتحيز والعنصرية وعدم الشفافية، ستجري تسميتها قريباً.

الذكاء الاصطناعي ضد جنسيات بعينها؟

في أغسطس/آب 2020، وافقت وزارة الداخلية البريطانية على التوقف عن استخدام خوارزمية كمبيوتر للمساعدة في فرز طلبات التأشيرة، بعد اتهامها بأنها تحتوي على "عنصرية وتحيز راسخين". وأوقف المسؤولون الخوارزمية بعد طعن قانوني من المجلس المشترك لرعاية المهاجرين ومجموعة الحقوق الرقمية "فوكسغلوف". الأخيرة أكدت أن بعض الجنسيات مُنحت تلقائياً درجة خطر "حمراء"، فصارت أكثر عرضة لرفض التأشيرة، وشدّد الطعن على أن العملية تعادل التمييز العنصري.

كما استُهدفت الوزارة العام الماضي بشكوى ضد أداة خوارزمية للكشف عن الزيجات الوهمية. وقال حزب العمّال إن الذكاء الاصطناعي يمكن أن يميّز ضد أشخاص من دول معينة، إذ كشف تقييم للمساواة أن الأشخاص البلغاريين واليونانيين والرومانيين والألبان هم أكثر عرضة للإحالة للتحقيق.

اقتصاد الناس

التحديثات الحية

شركة عقارات استخدمت الذكاء الاصطناعي لتضخيم الإيجارات في أميركا

مطالبات بالشفافية

وفي تقرير صادر في نوفمبر/تشرين الثاني 2020، حذّر مركز أخلاقيات البيانات والابتكار التابع للحكومة من وجود أمثلة عدة حيث "رسّخت التكنولوجيا الجديدة أو عزّزت التحيزات التاريخية، أو حتى خلقت أشكالاً جديدة من التحيّز أو الظلم".

وساعد المركز في تطوير معيار شفافية الخوارزمية في نوفمبر/تشرين الثاني 2021 للهيئات العامة التي تنشر أدوات الذكاء الاصطناعي والخوارزمية. واقترح نشر النماذج التي تتفاعل مع الجمهور أو التي لها تأثير كبير على القرارات في سجل أو "مستودع"، مع تفاصيل حول كيفية استخدامها ولماذا. وأكدت وزارة العلوم والابتكار والتكنولوجيا أن الإدارات ستقدم الآن تقارير عن استخدام التكنولوجيا بموجب المعيار.

ونقلت صحيفة ذا غارديان البريطانية عن الزميلة البحثية البارزة في مؤسسة "مشروع القانون العام" غير الربحية للوصول إلى العدالة، كارولين سلمان، أن هناك نقصاً في الشفافية بشأن وجود وتفاصيل ونشر الأنظمة. وأوضحت: "نحن بحاجة إلى التأكد من أن الهيئات العامة تنشر المعلومات حول هذه الأدوات، التي يجري طرحها بسرعة"، و"من مصلحة الجميع أن تكون التكنولوجيا المعتمدة قانونية وعادلة وغير تمييزية".