هيئة مستقلة للإشراف على ممارسات أمن الذكاء الاصطناعي في "أوبن إيه آي"

أعلنت شركة أوبن إيه آي المدعومة من "مايكروسوفت"، يوم الاثنين، أنّ لجنتها للسلامة ستشرف بصفة هيئة مستقلة على عمليات الأمن والسلامة الخاصة بتطوير ونشر نماذج الذكاء الاصطناعي التابعة للشركة. ويأتي هذا التغيير في أعقاب توصيات قدمتها اللجنة إلى مجلس إدارة "أوبن إيه آي".

وشكلت "أوبن إيه آي"، مطورة "تشات جي بي تي"، لجنة السلامة والأمن الخاصة بها في مايو/ أيار هذا العام لتقييم وتطوير ممارسات السلامة الموجودة لدى الشركة بشكل أكبر. وكجزء من توصيات اللجنة، صرّحت الشركة أنها تعمل على تقييم تطوير "مركز لتبادل المعلومات والتحليل" لقطاع الذكاء الاصطناعي، لإتاحة تبادل المعلومات حول التهديدات والأمن الإلكتروني بين الكيانات داخل القطاع. وأضافت الشركة أنها ستعمل على أن تصبح أكثر شفافية بشأن قدرات ومخاطر نماذج الذكاء الاصطناعي الخاصة بها.

ووقعت "أوبن إيه آي" الشهر الماضي اتفاقية مع الحكومة الأميركية لإجراء أبحاث واختبارات وتقييم لنماذج الذكاء الاصطناعي الخاصة بالشركة. وأشعل إطلاق "تشات جي بي تي" في أواخر عام 2022 موجة كبيرة من الاهتمام بالذكاء الاصطناعي وأثار جدلاً حول الفرص والتحديات التي تواجهه، ما دفع إلى إجراء مناقشات حول الاستخدام الأخلاقي والتحيز المحتمل.

تكنولوجيا

التحديثات الحية

"أوبن إيه آي" تطلق ذكاء اصطناعياً قادراً على "التفكير"

"أوبن إيه آي" تطلق o1

أطلقت شركة أوبن إيه آي نموذج الذكاء الاصطناعي التوليدي الجديد o1 القادر على التفكير والإجابة عن أسئلة أكثر تعقيداً، وخصوصاً في مجال الرياضيات، وتأمل من خلاله الحدّ من احتمالات الهلوسة التي تصيب أحياناً هذا النوع من البرامج.

وأكدت "أوبن إيه آي"، في بيان نُشر عبر الإنترنت، الخميس، أنّ "o1 يفكّر قبل إعطاء الإجابة". ويشكّل إطلاق هذا النموذج خطوة جديدة للشركة نحو تحقيق هدفها المتمثل بتطوير الذكاء الاصطناعي "العام"، أي الذكاء الاصطناعي المشابه لذكاء البشر.

وتوجه رئيس "أوبن إيه آي" سام ألتمان عبر منصة إكس بالتهنئة إلى فرق عمل شركته على هذا "النموذج الجديد: الذكاء الاصطناعي القادر على التفكير بطريقة معقدة وعامة". لكنّه أقرّ بأن هذه التكنولوجيا "لا تزال غير كاملة، ولا تزال محدودة، وتبدو أكثر إبهاراً عند استخدامها للمرة الأولى مما تبدو بعد استخدامها مزيداً من الوقت".

ووفرت الشركة الإصدار التجريبي من o1 اعتباراً من الخميس، الذي سيكون متاحاً في مرحلة أولى لمن يستخدمون "تشات جي بي تي" لقاء رسم مدفوع. وأجرت وكالة فرانس برس اختباراً لنموذج o1 بطرح أسئلة منطقية بسيطة عليه، فحقق النتائج نفسها التي حققها GPT-4o، لكنه استغرق المزيد من الوقت، وأعطى تفاصيل أكثر عن إجاباته، بدلاً من أن يولّدها على الفور تقريباً. وثمة فارق آخر يتمثل بعدم قدرة النموذج الجديد في الوقت الراهن على معالجة أو إنشاء محتوى آخر غير النصوص.

(رويترز، فرانس برس)