الذكاء الاصطناعي متهم بالعنصرية

يشتكي فنانون سود مما وصفوه بـ"عنصرية" الذكاء الاصطناعي التوليدي، إذ أشاروا إلى أن البرامج المستندة إلى هذه التقنيات تعرض أصحاب البشرة السوداء بصور نمطية مسيئة أو تشوه أشكالهم.

تصاعد النقاش حول التحيز العنصري في الذكاء الاصطناعي خلال السنوات الأخيرة، إذ أظهرت الدراسات أن تقنيات التعرف إلى الوجه وبرامج المساعدة الرقمية يصعب عليها تحديد الصور وأنماط الكلام للأشخاص غير البيض.

ستيفاني دينكينز فنانة أميركية سوداء رائدة في الجمع بين الفن والتكنولوجيا. على مدى السنوات السبع الماضية، جرّبت قدرة الذكاء الاصطناعي على تصوير النساء السوداوات بشكل واقعي، وهن يبتسمن ويبكين، باستخدام مجموعة متنوعة من الكلمات المحفزة التي تعتمد عليها هذه البرامج. وكانت النتائج الأولى باهتة ومثيرة للقلق وفقاً لما قالته لـ"نيويورك تايمز" الثلاثاء، إذ أنتجت الخوارزمية الخاصة جسماً بشرياً مظللاً باللون الوردي ومحاطاً بعباءة سوداء. وبحسبها، فسواء كانت تستخدم مصطلح "امرأة أميركية من أصل أفريقي" أو "امرأة سوداء"، فإن تشويه الآلة لملامح الوجه والشعر يحدث بمعدلات عالية.

وليندا دونيا ريبيز فنانة سنغالية طلبت من مولّد الصور DALL-E 2 تخيل المباني في مسقط رأسها داكار، فأنتجت الخوارزمية مناظر طبيعية صحراوية قاحلة ومباني مدمرة، قالت ريبيز إنها لا تشبه البيوت الساحلية في العاصمة السنغالية.

وفي وقت سابق من هذا الشهر، حلّلت وكالة بلومبيرغ أكثر من 5 آلاف صورة أنشأتها شركة ستيبيليتي إيه آي، ووجدت أن برنامجها ضخّم الصور النمطية حول العرق والجنس، إذ يصور عادةً الأشخاص ذوي البشرة الفاتحة على أنهم يشغلون وظائف ذات رواتب عالية، بينما صنّف الأشخاص ذوي البشرة الداكنة على أنهم "يعملون في غسيل الأطباق" و"مدبري منازل".

تكنولوجيا

التحديثات الحية

الذكاء الاصطناعي... هل يحدّ التنظيم من الابتكار؟

قبل 8 سنوات، عطّلت "غوغل" إمكانية البحث عن الغوريلا والقرود عبر تطبيق الصور الخاص بها، لأن الخوارزمية كانت تصنّف الأشخاص السود في تلك الفئات. وقال موظفان سابقان عملا في التكنولوجيا المثيرة للجدل من "غوغل"، لـ"نيويورك تايمز"، إن الشركة لم تدرب ذكاءها الاصطناعي بصور كافية للأشخاص السود.

كافحت شركات التكنولوجيا ضد تهم التحيز في تصوير البشرة الداكنة منذ الأيام الأولى للتصوير الفوتوغرافي الملون في الخمسينيات من القرن الماضي، عندما استخدمت شركات مثل "كوداك" نماذج بيضاء في تطوير ألوانها. وتعهّدت شركات الذكاء الاصطناعي الكبرى، بما في ذلك "أوبن إيه آي" و"ستيبيليتي إيه آي" و"ميدجورني"، بتحسين أدواتها. وقالت المتحدثة باسم شركة أوبن إيه آي، أليكس بيك، لـ"نيويورك تايمز"، إن "التحيز يمثل مشكلة مهمة في هذه الصناعة"، مضيفةً أن الشركة تحاول باستمرار "تحسين الأداء وتقليل التحيز وتخفيف النواتج الضارة".