"تويتر" يعتذر عن تمييزه عرقياً بين البيض والسود في الصور

اعتذر موقع "تويتر" عن خوارزمية قص الصور العنصرية، بعد أن اكتشف المستخدمون أنّ الميزة كانت تركز تلقائيًا على الوجوه البيضاء وتقصي الوجوه السوداء. وقالت الشركة إنها اختبرت الخدمة للتحقق من التحيز قبل أن تبدأ في استخدامها، لكنها اعترفت بأن ذلك لم يكن كافياً.

لطالما قام "تويتر" باقتصاص الصور تلقائيًا لمنعها من شغل مساحة كبيرة جدًا على الخلاصة الرئيسية، وللسماح بعرض صور متعددة في نفس التغريدة. تستخدم الشركة العديد من الأدوات الخوارزمية لمحاولة التركيز على أهم أجزاء الصورة، في محاولة للتأكد من بقاء الوجوه والنص في الجزء المقتطع من الصورة.

لكن المستخدمين بدأوا في اكتشاف العيوب في الميزة، خلال اليومين الماضيين. وبحسب صحيفة "ذا غارديان" البريطانية، كان أول من سلط الضوء على المشكلة طالب الدكتوراه كولين مادلاند الذي اكتشف المشكلة أثناء تسليط الضوء على تحيز عرقي مختلف في برنامج مؤتمرات الفيديو "زوم".

عندما نشر مادلاند، وهو أبيض اللون، صورة له ولزميل أسود، تم مسحه من مكالمة "زوم" بعد أن فشلت خوارزمية التعرف على وجهه، قام "تويتر" تلقائيًا بقص الصورة لإظهار مادلاند فقط.

pic.twitter.com/1VlHDPGVtS

— Colin Madland (@colinmadland) September 19, 2020

وتابع آخرون بتجارب أكثر استهدافًا، بما في ذلك رجل الأعمال توني أرسيري الذي اكتشف أنّ الخوارزمية ستقطع باستمرار صورة السناتور الأميركي ميتش ماكونيل وباراك أوباما لإخفاء الرئيس السابق الأسود. وجرّب آخرون صوراً حتى للشخصيات الكارتونية، وللكلاب، ليظهر التمييز العرقي أيضاً.

"It's the red tie! Clearly the algorithm has a preference for red ties!"

Well let's see... pic.twitter.com/l7qySd5sRW

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid

— - M A R K - (@MarkEMarkAU) September 20, 2020

وفي بيان، اعترف متحدث باسم "تويتر"، بأنّ الشركة لديها عمل لتقوم به، قائلاً: "قام فريقنا باختبار التحيز قبل إرسال النموذج ولم يجد دليلًاً على التحيز العنصري أو الجنساني في اختبارنا. لكن من الواضح من هذه الأمثلة أنه لدينا المزيد من التحليل للقيام به. سنستمر في مشاركة ما تعلمناه، والإجراءات التي نتخذها، وسنفتح مصدر تحليلنا حتى يتمكن الآخرون من المراجعة والتكرار".

تكنولوجيا

التحديثات الحية

تعرّفوا إلى كواليس العمل داخل "تويتر" في زمن كورونا

وليس "تويتر" أول شركة تقنية تجد نفسها تكافح لشرح التحيز العنصري الواضح في خوارزمياتها. في عام 2018، تم الكشف عن أنّ "غوغل" قد حظرت ببساطة خدمة الصور الخاصة بها من تصنيف أي شيء على أنه غوريلا أو شمبانزي أو قرد، بعد أن تعرضت لانتقادات بسبب نشر صور مضللة بشكل متكرر لأشخاص سود بهذه التعابير العنصرية.