الذكاء الاصطناعي لرصد تطبيقات تستغل الأطفال

بنى فريق من الباحثين موقعاً يسمى "آب دينجر بروجكت" يستند إلى الذكاء الاصطناعي، من أجل حماية الأطفال من الاستغلال أثناء استخدام التطبيقات. 

ويحلّل "آب دينجر" تقييمات المستخدمين حول المتحرشين الجنسيين، ويوفر تقييمات أمان للتطبيقات ذات المراجعات السلبية، ويسرد المراجعات التي تشير إلى الاعتداء الجنسي.

وعلى مدار العامين الماضيين، سعى عالِم الكمبيوتر في جامعة ماساتشوستس أمهيرست بريان ليفين إلى مساعدة الآباء من خلال تصميم نموذج حسابي يقيّم آراء العملاء حول التطبيقات الاجتماعية.

وقال ليفين لصحيفة "نيويورك تايمز": "هناك مراجعات تتحدث عن نوع السلوك الخطير الذي يحدث، لكن هذه المراجعات تغرق، ولا يمكن العثور عليها".

ويستخدم مفترسو الأطفال التطبيقات والخدمات عبر الإنترنت لجمع الصور الإباحية، ويجبرون أطفالاً ومراهقين على إرسال صور عارية ثم ابتزازهم مقابل المال أو المزيد من الصور.

وأشار ليفين إلى أنه نظراً لأن متجري تطبيقات "آبل" و"غوغل" لا يوفران عمليات بحث باستخدام الكلمات الرئيسية، فقد يكون من الصعب على الآباء العثور على تحذيرات بشأن السلوك الجنسي غير اللائق.

ويتصوّر العالِم "آب دينجر بروجكت" كمكمّل للخدمات الأخرى التي تفحص مدى ملاءمة المنتجات للأطفال، من خلال تحديد التطبيقات التي لا تفعل ما يكفي لحماية المستخدمين.

والمشروع مجاني، ولا يخطط ليفين للتربح منه، لكنه يشجّع التبرعات لجامعة ماساتشوستس لتعويض تكاليف تكبدتها.

وحقّق ليفين وعشرات من علماء الكمبيوتر في عدد المراجعات التي حذّرت من الاعتداء الجنسي على الأطفال، عبر أكثر من 550 تطبيقاً للشبكات الاجتماعية تعرضها متاجر "آبل" و"غوغل".

تكنولوجيا

التحديثات الحية

فرنسا تغرّم "غوغل" مليوني يورو بسبب محرك البحث ومتجر التطبيقات

ووجدوا أن خُمس هذه التطبيقات لديها شكوى أو أكثر من مواد الاعتداء الجنسي على الأطفال، وأن 81 تطبيقاً تحتوي على سبعة أو أكثر من تلك الأنواع من المراجعات.

وساعدت المتاجر ثلاثة تطبيقات عليها شكوى بالاستغلال الجنسي على تحقيق مبيعات قيمتها 30 مليون دولار العام الماضي، وهي "هوب" و"ميت مي" و"ويسبر"، وفقاً لـ"سينسور تاور" لأبحاث السوق.

وقال ليفين إنه يجب على "آبل" و"غوغل" تزويد الآباء بمزيد من المعلومات حول الأخطار التي تشكلها بعض التطبيقات، وتحسين مراقبة أولئك الذين لديهم سِجِلّ حافل من الإساءة.

وعلّق عالِم الكمبيوتر في جامعة كاليفورنيا بيركلي هاني فريد، الذي عمل مع ليفين في "آب دينجر بروجكت"، قائلاً: "نحن لا نطلب إزالة كل تطبيق به مراجعات تقول إن المتحرشين الأطفال موجودون به، لكن إذا كانت متاجر التطبيقات لديها التكنولوجيا للتحقق من ذلك، فلماذا لا تزال بعض هذه التطبيقات محط السؤال في المتاجر؟". 

من جانبها، ردّت "آبل" و"غوغل" بأنهما تفحصان بانتظام مراجعات المستخدمين للتطبيقات باستخدام نماذجهم الحاسوبية الخاصة، وبأنهما تحقّقان في مزاعم الاعتداء الجنسي على الأطفال، وعندما تنتهك التطبيقات سياساتهما تُزال.

وتحتوي التطبيقات على تصنيفات عمرية لمساعدة الآباء والأطفال. وتسمح البرامج للآباء باستخدام حق النقض ضد التنزيلات. وتقدم الشركات أيضاً أدوات لمطوري التطبيقات لمراقبة المواد الجنسية للأطفال.