موظفو "أوبن إيه آي" و"غوغل" يحذرون من أخطار الذكاء الاصطناعي

أطلقت مجموعة من الموظفين الحاليين والسابقين في شركات الذكاء الاصطناعي الأبرز رسالة مفتوحة أمس الثلاثاء، حذرت فيها من نقص الرقابة على السلامة داخل القطاع، ودعت إلى توفير حماية أكبر للمبلغين عن الانتهاكات.

الرسالة التي تطالب بـ"الحق في التحذير من الذكاء الاصطناعي" واحدة من أبرز المواقف التي تحذر من أخطار هذه التقنية والصادرة عن موظفين في هذا القطاع الذي تحيط السرية به عموماً. وقد وقع على هذه الرسالة 11 موظفاً حالياً وسابقاً في شركة أوبن إيه آي المطورة لبرنامج "تشات جي بي تي" ChatGPT، وموظفان في قسم شركة ديب مايند التابعة لشركة غوغل، أحدهما عمل سابقاً في شركة أنثروبيك.

وقال الموقعون على الرسالة إن "في حوزة شركات الذكاء الاصطناعي معلومات كبيرة غير متاحة للعامة حول قدرات أنظمتها والقيود المفروضة عليها، ومدى كفاءة تدابير الحماية الخاصة بها، ومستويات أخطار أنواع مختلفة من الأضرار، ومع ذلك، ليس لديهم حالياً سوى التزامات محدودة بمشاركة بعض هذه المعلومات مع الحكومات، وليس مع المجتمع المدني. ولا نعتقد أنه يمكن الاعتماد عليها لمشاركة هذه المعلومات طوعاً"، وفق ما نقلته صحيفة نيويورك تايمز.

تكنولوجيا

التحديثات الحية

الذكاء الاصطناعي وخطره الوجودي: أداة بيد الرأسماليين

ودعوا إلى توفير حماية أكبر للموظفين في شركات الذكاء الاصطناعي المتقدمة الذين يقررون التعبير عن مخاوفهم المتعلقة بالسلامة. وطالبوا بالالتزام بأربعة مبادئ حول الشفافية والمساءلة. إذ اعتمدت شركات مثل "أوبن إيه آي" تكتيكات عدوانية لمنع الموظفين من التحدث بحرية عن عملهم، وذكر موقع Vox الأسبوع الماضي أنها طلبت من الموظفين الذين يغادرونها التوقيع على مستندات تجبرهم على عدم الإفصاح عن أي من تفاصيل عملهم وإلا سيخسرون مكتسباتهم. واعتذر الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، بعدما نشر موقع Vox الخبر، وقال إنه سيغير القواعد المتبعة في الشركة.

من جهة ثانية، دافعت "أوبن إيه آي" عن نفسها في بيان ذكرت فيه أنها توفر مثلاً خطاً للإبلاغ عن المشكلات في الشركة، وأنها لم تطلق تقنية جديدة حتى تتأكد من وجود ضمانات مناسبة. وقال متحدث باسمها: "نحن متفقون على أن النقاش الدقيق أمر ضرورية نظراً لأهمية هذه التكنولوجيا، وسنواصل التعاون مع الحكومات والمجتمع المدني والمجتمعات الأخرى حول العالم".

وتأتي الرسالة بعد استقالة اثنين من كبار موظفي "أوبن إيه آي" الشهر الماضي، احتجاجاً على توجه الشركة نحو إطلاق "منتجات براقة" على حساب ثقافة السلامة التي يفترض أن تحافظ عليها. ولم تعلق "غوغل" بعد.