كيف يهدد قانون الذكاء الاصطناعي الأوروبي حقوق الفلسطينيين؟

كشف مركز حملة الفلسطيني (المركز العربي لتطوير الإعلام الاجتماعي) عن الآثار السلبية التي يحملها قانون الاتحاد الأوروبي الجديد لتنظيم الذكاء الاصطناعي على الحقوق الرقمية للفلسطينيين والفلسطينيات، في ظل استمرار حرب الإبادة الإسرائيلية على قطاع غزة منذ السابع من أكتوبر/ تشرين الأول الماضي.

وفي ورقة نشرت الثلاثاء، بيّن "حملة" آثار التشريع الجديد على حقوق الإنسان الفلسطيني، ورصد كيفية تعارضه مع حقوق أساسيّة للفلسطينيّين، وكذلك المخاطر التي قد يواجهها هؤلاء، من جراء توظيف الاحتلال لأدوات الذكاء الاصطناعي والاستفادة منها لأغراض أمنية وعسكرية.

وكانت الدول الأعضاء في الاتحاد الأوروبي قد وافقت، مطلع فبراير/ شباط الماضي، على تشريع غير مسبوق على المستوى العالمي لتنظيم الذكاء الاصطناعي، إثر مفاوضات مكثّفة. ولم يمرّ سوى شهر واحد حتّى أقرّ القانون في البرلمان الأوروبي في 13 مارس/ آذار الماضي. وقدّم القانون تصنيفاً لأنظمة الذكاء الاصطناعي بناءً على المخاطر التي قد تنطوي عليها. فحظر الأنظمة التي تنطوي على مخاطر جسيمة مثل تلك التي "تستخدم تقنيات باطنية دون علم الشخص أو تقنيات تلاعبية أو احتيالية بشكل متعمد" و"تستغل نقاط ضعف شخصي طبيعي أو مجموعة معينة بسبب سنّها، محدوديتها أو وضع اجتماعي أو اقتصادي معين"، كما حظر القانون الأنظمة التي تهدف لتقييم السلوك الاجتماعي والتجميع غير الموجه لصور الوجوه من شبكة الإنترنت أو كاميرات المراقبة". فيما صنفت أنظمة أخرى مثل التعرّف إلى الوجوه وأنظمة تمييز المشاعر، أنظمةً عالية الخطورة، مع فرض حظر جزئي عليها.

مع ذلك، فإنّ التشريعات الجديدة لا تنطبق على استعمال أنظمة الذكاء الاصطناعي لأغراض عسكرية أو أخرى متعلقة بالأمن القومي. ورأى مركز حملة أنّ القانون الجديد يحتوي على "نواقص خطيرة ستزيد من انتهاكات حقوق الإنسان" للشعب الفلسطيني، بسبب "محدودية نطاقه"، إذ إن الشركات الأوروبية غير ملزمة بالامتثال لأحكامه عند بيع أنظمة الذكاء الاصطناعي إلى دول خارج الاتحاد، بما في ذلك الأنظمة المعروفة بأنّها عالية المخاطر، مثل أنظمة التعرف إلى الوجوه وتمييز المشاعر والرقابة التنبؤية.

وكانت مجموعات حقوقية أوروبية قد انتقدت القانون بسبب عدم منعه الشركات الناشطة في أوروبا من تصدير أنظمة ذكاء اصطناعي محظورة داخل الاتحاد إلى خارجه، ممّا يعني وجود خطر انتهاك حقوق الإنسان في دول غير أوروبية بواسطة تقنيات مطوّرة في أوروبا، كما لا يتطلب إخضاع أنظمة الذكاء الاصطناعي عالية المخاطر التي يتم تصديرها لأيّ تدابير احترازية ترتبط بالشفافية والجانب الفني.

سينما ودراما

التحديثات الحية

مهرجان سينمائي في دير البلح... "رغم اللجوء"

وأعطت هذه الثغرات حرية كبيرة لدولة الاحتلال في الاستفادة من التقنيات الأوروبية من أجل "تعميق احتلالها للأراضي الفلسطينية وتقييد حركة الفلسطينيين والفلسطينيات". وهو الأمر الذي بيّنه العدوان الإسرائيلي المتواصل على قطاع غزة. وفقاً لـ"حملة"، استخدم الجيش الإسرائيلي أنظمة ذكاء اصطناعي لاختيار أهداف عمليات الاغتيال ولتنفيذ عمليات هدم اعتباطية واسعة النطاق في مناطق سكنية مأهولة بالمدنيين. وذكّر "حملة" باستعانة الاحتلال "بتعلم الآلة لاختيار أهداف عسكرية واغتيال مقاتلين مشتبه بهم" في قطاع غزة، لافتاً إلى أنّ "هذه الأتمتة التي تفتقر للعناية البشرية الواجبة" ساهمت في العدد الكبير من المصابين والشهداء المدنيين. كما نبّه إلى زيادة اعتماد الاحتلال على الذكاء الاصطناعي في عمليات الرقابة في الضفة الغربية.

ولفت "حملة" إلى وجود أدلة على استخدام سلطات الاحتلال كاميرات الدائرة التلفزيونية المغلقة التي تصنعها شركة تي سيكوريتي الهولندية وشركة فيديوتك الإيطالية في مراقبة الفلسطينيين والتعرف إلى وجوهم في القدس الشرقية. كما أشار إلى أن شركات تكنولوجيا أوروبية مختلفة تدير أنشطة تجارية مع الحكومة الإسرائيلية في مجال الذكاء الاصطناعي وتقنياته.

كذلك، رأى مركز حملة أنّ القانون الأوروبي احتوى استثناءات خطيرة تتعلق باستخدام أنظمة الذكاء الاصطناعي لأغراض تتعلق بالأمن القومي، إذ سمح لسلطات إنفاذ القانون باستخدام أدوات مثل التعرف إلى الوجوه وغيرها. كما نبّه إلى أن الاستثناءات المقترنة بالأمن القومي في القانون تهدد حقوق الفلسطينيين ومناصري القضية الفلسطينية في أوروبا. على سبيل المثال، يحظر القانون استخدام أنظمة الذكاء الاصطناعي للتعرف إلى الوجوه في أماكن العمل والمؤسسات التعليمية، ولكنه يسمح باستخدامها "لأسباب طبية وأمنية".

أما بالنسبة لتقنية التعرف البيومتري عن بعد، فإن نطاق الصلاحيات الممنوحة لسلطات إنفاذ القانون يتسع أكثر فأكثر، إذ يسمح باستخدام أنظمة التعرف البيومتري الفوري عن بعد (مثل التعرف إلى الوجوه في الأماكن العامة والمتاحة) لغرض إنفاذ القانون "عندما يكون استخدامها ضرورياً للغاية"، وذلك لثلاثة أهداف رئيسية: البحث المستهدف عن ضحايا الاختطاف أو الاتجار بالبشر أو الاستغلال الجنسي للبشر والبحث عن المفقودين، وتجنب وقوع خطر عيني جسيم ووشيك يهدد حياة الإنسان أو أمنه الجسدي أو لتجنب خطر فعلي حالي أو مرتقب بوقوع عملية إرهابية، ولتحديد موقع أو للتعرف إلى شخص ارتكب جريمة خطيرة مثل الاتجار بالبشر الإرهاب واستغلال الأطفال جنسياً.

وفي حين أنّه في الهدفين الأول والثالث تستخدم تقنية التعرف الفوري إلى الوجوه بغية البحث المستهدف عن أشخاص معينين وتحديد موقعهم، فإن الهدف الثاني يترك مجالاً للتأويل، وقد يساء استغلاله بحجة الحفاظ على الأمن ومكافحة الإرهاب. كما لم يحظر القانون استخدام تقنية التعرف الارتجاعي إلى الوجوه المستخدمة للتعرف إلى الوجوه بعد وقوع الحادثة، وتحذر جماعات حقوقية من أن هذه التقنيات اقتحامية، مثل التعرف الفوري إلى الوجوه، وتؤثر بشكل غير متناسب على "الشعوب غير البيضاء".

ولفت المركز إلى أن الأنظمة "تنطوي على الاستغلال وعدم الدقة، في ظل التحيز والتمييز القائم ضد المسلمين والعرب في أوروبا، ومن ضمنهم الفلسطينيون، وقانون الذكاء الاصطناعي يسهم في تعزيز هذا التنميط. فضلاً عن ذلك، فإنّ بعض التدابير الاحترازية المنصوص عليها في القانون غير قابلة للتطبيق على سلطات إنفاذ القانون في الواقع، فإن سلطات إنفاذ القانون معفاة من نشر مواصفات الأنظمة التي تستخدمها في قواعد البيانات العامة، الأمر الذي يحد من مسؤوليتها حيال استخدام هذه الأنظمة، وما ينطوي على قدر أكبر من الخطر هو الإعفاء المقترن بالأمن القومي المنصوص عليه في المادة 2.3 من قانون الاتحاد الأوروبي".

وتنص المادة المذكورة على أن "هذا القانون التنظيمي لا ينطبق على أنظمة الذكاء الاصطناعي طالما سبق وطرحت في الأسواق أو دخلت حيز الاستخدام، مع أو بدون تعديل حصراً لأغراض عسكرية أو دفاعية أو متعلقة بالأمن الوطني. بغض النظر عن طبيعة الكيان القائم على تنفيذ هذه الأنشطة، هذا القانون التنظيمي لا ينطبق على أنظمة الذكاء الاصطناعي غير المطروحة في الأسواق أو التي لم تدخل حيز الاستخدام في دول الاتحاد الأوروبي، وحيث إن المخرجات مستخدمة في دول الاتحاد حصراً لأغراض عسكرية أو دفاعية أو متعلقة بالأمن الوطني، بغض النظر عن طبيعة الكيان القائم على تنفيذ هذه الأنشطة". هذا الإعفاء واسع النطاق يجيز للحكومات التحجج بالأمن القومي، للتملص من أي من التدابير الاحترازية التي ينص عليها القانون عند استخدام السلطات العامة لأنظمة الذكاء الاصطناعي.

إعلام وحريات

التحديثات الحية

المصوّر الفلسطيني سعيد الخطيب يكرّم في مدريد: لقطة من الإبادة

ولفت "حملة" إلى أن استخدام هذه الأنظمة من قبل سلطات إنفاذ القانون، مع حد أدنى من الالتزام بالتدابير بدون أي التزام، سيقوّض من قدرة المناصرين والمحتجين في أوروبا على القيام بأي نشاط داعم للفلسطينيين، ودعا السلطات إلى إجراء تعديلات على تصدير أنظمة الذكاء الاصطناعي خارج الاتحاد الأوروبي، وتحديداً إلى مناطق النزاع، ومطالبة الشركات "برصد ومعالجة انتهاكات حقوق الإنسان الناجمة عن أنشطتها". إضافةً إلى التعاون مع المجتمعات المحلية المعرضة للتأثر بشكل سلبي بأنظمة الذكاء الاصطناعي. كما دعا منظمات المجتمع المدني إلى تعزيز جهودها في دعم المجموعات المهمشة في الاتحاد الأوروبي، ومن ضمنها الفلسطينيون ومناصرو القضية الفلسطينية.