تحليل: الذكاء الاصطناعي ينحاز ضد الفقراء والمحرومين

24 سبتمبر 2018
قد يفقد أسود طفله بسبب خوارمية (تويتر)
+ الخط -


نشر موقع "ذا نيكست ويب" التقني تحليلاً خلُص فيه إلى أن أكبر تهديد حقيقي يواجهه البشر، عندما يتعلق الحديث بالذكاء الاصطناعي، لا علاقة له بالروبوت، بل بالخوارزميات المتحيّزة، وأن أكبر المتضررين من هذا التحيّز هم الفقراء والمهمشون.

ومردّ هذه المشاكل يعود إلى أن هذه الخوارزميات غير قادرة على اتخاذ قرارات عقلانية، بل تخلق أنماطاً وتسير عليها، لكن الوكالات الحكومية، في أميركا مثلاً،  تجعلها مسؤولة عن القرارات التي تؤثر بعمق في حياة البشر، وتبدو غير أخلاقية بشكل غير مفهوم.

وقبل سنتين مثلاً، اندلع نقاش التحيز على مصراعيه عندما نشر موقع Pro-Publica مقالاً كشف التحيز الظاهر في خوارزميات COMPAS، وهو نظام يُستخدم في إصدار أحكام على المجرمين المتهمين استناداً إلى عدة عوامل، بينها العرق.

وأظهر التقرير بوضوح آنذاك عدة حالات كان فيها من الواضح أن الخوارزمية تتوقع معدلات الميل إلى الانتكاس على أساس لون البشرة.



ويضيف التقرير: "في عصر تقوم فيه الخوارزميات "بمساعدة" الموظفين الحكوميين في القيام بوظائفهم، إذا كنت مثلياً، أو غير أبيض، أو تعيش تحت خط الفقر، فإنك معرض بشكل أكبر لخطر التحيز غير العادل".

وهذا لا يعني أن الأثرياء والبيض لا يمكن أن يعانوا من التحيز، لكنهم أقل عرضة لفقدان حريتهم، أو أطفالهم، أو رزقهم، يقول التحليل.

دلالات
المساهمون