الذكاء الاصطناعي يتورط في حذف أدلة على جرائم حرب

وجدت "بي بي سي" أن أدلة على ارتكاب انتهاكات ضد حقوق الإنسان حذفت من قبل شركات التكنولوجيا المالكة لمنصات التواصل الاجتماعي. وهذه ليست المرة الأولى التي يُسلّط فيها الضوء على هذه القضية، فقبل ثلاثة أعوام أصدرت منظمة هيومن رايتس ووتش تقريراً، أشارت فيه إلى أن منصات التواصل الاجتماعي تزيل من الإنترنت المحتوى الذي تعتبره إرهابياً أو متطرفاً بشكل عنيف أو يحض على الكراهية، بما يمنع استخدامه المحتمل للتحقيق في الجرائم الخطيرة، بما فيها جرائم الحرب. لكن هذه المسألة أصبحت أشد إلحاحاً الآن، وخاصة وسط الإقبال الكبير على الذكاء الاصطناعي، والاعتماد عليه في الإشراف على المحتوى.

تحذف منصات التواصل الاجتماعي مقاطع الفيديو التي تتضمن مشاهد عنيفة أو مؤذية عبر استخدام الذكاء الاصطناعي، لكن ذلك يسمح بحذف المحتوى الذي يساعد على إجراء محاكمات من دون أرشفته.

شركتا ميتا ويوتيوب المملوكة لـ"غوغل" أكدتا أنهما تسعيان "لخلق توازن بين واجباتهما في الشهادة على الأحداث وحماية المستخدمين من المحتوى المؤذي"، وفقاً لما نقلته "بي بي سي". لكن عضو مجلس المراقبة في "ميتا"، ألان روسبريدجر، قال إن الشركة كانت "تبالغ في الحذر" بشأن اعتدالها.

تصرح المنصات بأن لديها استثناءات تتعلق بالمواد المؤذية حين يكون ذلك في المصلحة العامة، ولكن عندما حاولت "بي بي سي" تحميل لقطات توثق الهجمات على المدنيين في أوكرانيا، حذفت بسرعة. وقال روسبريدجر لـ"بي بي سي": "يمكنك فهم سبب تطوير وتدريب أجهزتهم (منصات التواصل الاجتماعي)، ففي اللحظة التي يرون فيها محتوى يبدو صعب الهضم أو صادماً، يحذفونه".

وفقاً للسفيرة الأميركية لدى محكمة العدالة الجنائية الدولية، بيث فان شاك، "لا يستطيع أحد أن يُنكر حق شركات التكنولوجيا في مراقبة المحتوى". لكنها أضافت: "أعتقد أن مصدر القلق هو اختفاء هذه الأدلة بشكل مفاجئ".

واجه الصحافي السابق المتخصص في شؤون السفر، إيهور زاخارنكو، ذلك في أوكرانيا حيث كان يوثق الهجمات على المدنيين منذ بدء الغزو الروسي. قابلته "بي بي سي" في إحدى ضواحي كييف، حيث أطلقت القوات الروسية النار على رجال ونساء وأطفال خلال محاولتهم الفرار من الاحتلال. وصور زاخارنكو حينها ما لا يقل عن 17 جثة، إضافة إلى السيارات المحترقة. وأراد زاخارنكو تحميل مقاطع الفيديو على الإنترنت كي يرى العالم ما يحدث، ولمواجهة رواية الكرملين. لكن عند مشاركتها على "فيسبوك" و"إنستغرام"، حُذفت سريعاً. وقال لـ"بي بي سي" إن "الروس أنفسهم قالوا إن هذه الصور كاذبة، وإنهم لم يلمسوا المدنيين، وإنهم قاتلوا فقط الجيش الأوكراني".

"بي بي سي" نفسها حمّلت المقاطع التي صورها زاخارنكو على "إنستغرام" و"يوتيوب" باستخدام حسابات مزيفة. حذفت "إنستغرام" ثلاثة من أربعة مقاطع فيديو خلال دقيقة واحدة. وطبقت "يوتيوب" في البداية القيود الخاصة بالسن على المشاهد الثلاثة، ثم عادت وحذفتها كلها بعد مرور عشر دقائق. لكن "بي بي سي" حاولت مجدداً، لكنها فشت في تحميل المقاطع كاملة. ورفض طلب لإعادة مقاطع الفيديو على أساس أنها تحتوي أدلة على جرائم حرب.

"ميتا" تؤكد أنها تستجيب "للطلبات القانونية الصالحة من وكالات إنفاذ القانون حول العالم"، وأنها تواصل عملية "استكشاف طرق إضافية لدعم إجراءات المساءلة الدولية، بما يتوافق مع التزاماتها القانونية والخصوصية". وتشير شركة يوتيوب إلى أنها تعتمد استثناءات للمحتوى العنيف الذي يخدم الصالح العام لكنها ليست أرشيفاً. وترى أن على "منظمات حقوق الإنسان والناشطين والمدافعين عن حقوق الإنسان والباحثين والصحافيين المواطنين، وغيرهم ممن يوثقون انتهاكات حقوق الإنسان أو الجرائم المحتملة الأخرى، مراعاة أفضل الممارسات، لتأمين المحتوى والحفاظ عليه".

تكنولوجيا

التحديثات الحية

كيف يمكن أن يؤثر الذكاء الاصطناعي على الصراعات؟

كما تحدثت "بي بي سي" إلى عماد الذي كان يملك صيدلية في حلب السورية، إلى أن تعرض لقصف من قوات النظام ببرميل متفجر عام 2013. تذكر عماد كيف ملأ الانفجار الغرفة بالغبار والدخان، وسماعه لنداءات الاستغاثة. خرج إلى السوق، ورأى أيادي وأرجلاً وجثثاً ملطخة بالدماء. فريق القناة الإعلامية المحلية صور المشاهد. ونشرت الصور على "فيسبوك" و"يوتيوب"، لكنها حُذفت لاحقاً. بعد سنوات، عند تقديم عماد طلب لجوء في دول الاتحاد الأوروبي، طُلب منه تقديم وثائق تؤكد أنه كان في الموقع. وقال: "كنت متأكداً أن صيدليتي تظهر من خلال المشاهد. لكن عند بحثي عنها على الإنترنت، حولني بحثي إلى مقطع فيديو محذوف".

هذه الحوادث دفعت منظمات حقوق الإنسان مثل "منيمونيك" في برلين إلى التدخل لأرشفة المشاهد قبل حذفها. وطورت المنظمة أداة لحفظ وتنزيل الأدلة على انتهاكات حقوق الإنسان تلقائياً، بداية في سورية والآن في اليمن والسودان وأوكرانيا. وحفظت المنظمة أكثر من 700 ألف صورة من مناطق النزاع قبل حذفها من منصات التواصل الاجتماعي، من بينها ثلاثة مقاطع فيديو تُظهر الهجوم الذي وقع قرب صيدلية عماد. لكن منظمات مثل "منيمونيك" لا تستطيع تغطية جميع مناطق النزاع حول العالم.

في السنوات الأخيرة، كثّفت شركات مواقع التواصل الاجتماعي، بما فيها "فيسبوك" و"يوتيوب" و"تويتر"، جهودها لتزيل من منصاتها منشورات تعتبرها تنتهك قواعدها، أو إرشادات أو معايير مجتمعها وفقا لشروط الخدمة الخاصة بها. يشمل ذلك المحتوى الذي تعتبره إرهابياً أو متطرفاً بشكل عنيف، وخطاب الكراهية، والكراهية المنظمة، والسلوك الذي ينم عن كراهية، والتهديدات العنيفة. تُزيل الشركات المنشورات التي يُبلغ عنها المستخدمون ويراجعها مشرفو المحتوى. لكن يزداد استخدامهم أيضاً للخوارزميات لتحديد وإزالة المنشورات المسيئة، وفي بعض الحالات بسرعة كبيرة، بحيث لا يرى أي مستخدم المحتوى قبل إزالته. شجّعت الحكومات عالمياً هذا التوجه، داعية الشركات إلى إزالة المحتوى الخطير في أسرع وقت ممكن. "هيومن رايتس ووتش" كانت قد نبهت إلى أن "الشركات محقة في الإزالة الفورية للمحتوى الذي قد يُحرّض على العنف، أو يؤذي الأفراد، أو يُهدد الأمن القومي أو النظام العام، طالما أن المعايير التي تُطبقها تتوافق مع مبادئ حقوق الإنسان الدولية والإجراءات القانونية الواجبة. إلا أن الحذف الدائم لهكذا محتوى قد يمنع الوصول إليه ويعيق جهود المساءلة الجنائية الهامة".

لا توجد آلية حتى الآن لحفظ وأرشفة عمليات الإزالة التي تقوم بها مواقع التواصل الاجتماعي التي قد توفر أدلة مهمة على الانتهاكات، ناهيك عن ضمان وصول الذين يُحققون في الجرائم الدولية. في معظم البلدان، يمكن لمسؤولي إنفاذ القانون الوطنيين إجبار شركات مواقع التواصل الاجتماعي على تسليم المحتوى من خلال استخدام مذكرات التوقيف، ومذكرات الاستدعاء، وأوامر المحكمة، لكن المحققين الدوليين لديهم قدرة محدودة على الوصول إلى المحتوى لأنهم يفتقرون إلى سلطات إنفاذ القانون ومكانتها.

لعبت المنظمات المستقلة والصحافيون دوراً حيوياً في توثيق الفظائع حول العالم، غالبا عند غياب هيئات قضائية تُجري تحقيقات. في بعض الحالات، أثار هذا التوثيق إجراءات قضائية. مع ذلك، لا يمتلكون القدرة على الوصول إلى المحتوى المحذوف، وعلى غرار المحققين الرسميين، لن يُبلَّغوا بحذف المواد بواسطة أنظمة الذكاء الاصطناعي قبل أن يراها أي شخص.