تواجه OpenAI، الشركة الرائدة في تطوير خدمات الذكاء الاصطناعي، تحديات جديدة بعد قرارها إلغاء فريق الاستعداد الذي كان مكلفًا بالتحقق من المخاطر المحتملة لنماذج الذكاء الاصطناعي المتقدمة، مثل الهجمات السيبرانية أو تطوير تهديدات بيولوجية، حيث قامت الشركة بإعادة توزيع مهام هذا الفريق إلى وحدات أخرى، بدلاً من الاحتفاظ به كفريق مستقل.
توزيع المهام وأثرها على السلامة
وفقًا لتقرير منصة The Verge، تم تقسيم مسؤوليات الفريق إلى فئات حسب نوع الخطر، ثم تم إسنادها لفرق الأمن السيبراني والسلامة البيولوجية القائمة بالفعل، مع انتقال ديلان سكاندينارو، رئيس الفريق، إلى دراسة التأثيرات المحتملة للذكاء الاصطناعي الذي يتمكن من تحسين نفسه بصورة دورية، وتأتي هذه الخطوة في أعقاب إلغاء فريق الاستعداد للذكاء العام الاصطناعي وفريق المواءمة الفائقة، مما يثير تساؤلات حول سلامة الأنظمة المتقدمة.
إلغاء فريق الاستعداد ونتائجه
رغم أن تفكيك الفريق لا يعني توقف OpenAI عن اختبارات الأمان، إلا أنه يلغي هيئة مستقلة كانت تعكف على دراسة المخاطر بشكل شامل وتقديم توصيات للحد منها، يتزامن هذا التغيير مع مغادرة عدد من المسؤولين البارزين في مجالات السلامة والأخلاقيات، بالإضافة إلى استعداد الشركة لإدراج عام كبير، مما يثير خشية النقاد من أن يؤدي الضغط الناتج عن المنافسة إلى توزيع مسؤولية السلامة بين إدارات متعددة، دون وجود جهة تملك القدرة على الاعتراض على تطوير نماذج خطيرة.
مخاوف من تداعيات المنافسة
يزداد القلق بين النقاد داخل OpenAI، إذ يرون أن ضغط المنافسة، ورغبة الشركة في إطلاق منتجات جديدة وجذب المستثمرين، قد يؤديان إلى اتخاذ قرارات تعرّض سلامة الأنظمة والبيانات للخطر، فقد كانت هناك حاجة ماسة لفريق مستقل وقوي للتعامل مع هذه التحديات، لضمان تطوير آمن للمستقبل التكنولوجي.
تعليقات