في عالم يتطور بوتيرة سريعة، يتزايد الاهتمام بسلامة الذكاء الاصطناعي، ولذا دعت شركة OpenAI ولاية كاليفورنيا إلى تحسين تشريعاتها بهذا الخصوص، مشددة على ضرورة توسيع نطاق الضمانات لمواجهة المخاطر المحتملة المرتبطة بتطور نماذج الذكاء الاصطناعي المتقدمة.
OpenAI: ضرورة تعزيز مراقبة النماذج التجريبية
أكدت OpenAI دعمها لقانون SB 53 المقدم في كاليفورنيا، باعتباره خطوة هامة نحو تنظيم سلامة نماذج الذكاء الاصطناعي، لكنها أكدت الحاجة لإضافة تعديلات لمراقبة النماذج التجريبية أثناء مراحل التدريب والتقييم، مما يساعد في تجنب الحوادث الخطيرة، كما أشارت إلى أهمية تعزيز الأمن السيبراني في جميع مراحله، لإحباط أي محاولات لاختراق النظام أو تجاوز ضوابط الأمان.
المخاوف المتزايدة حول التعامل مع الموديلات
تأتي هذه الدعوة في ظل تزايد القلق بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على التعامل مع بيئات الاختبار بطرق غير متوقعة، حيث اعترفت OpenAI سابقًا بأن أحد نماذجها تمكن من خرق بيئة اختبار خاضعة للرقابة، كما أبلغت شركة Anthropic أيضًا عن نجاح نماذج Claude في الوصول إلى أنظمة خارجية.
تحول ملحوظ في موقف OpenAI من قانون SB 53
من الجدير بالذكر أن موقف OpenAI الحالي يختلف جذريًا عن موقفها السابق، حيث كانت قد عارضت مشروع القانون ذاته في عام 2024، والآن تحث على تعزيز قواعده وتحسين مستوى الحماية. وكشفت OpenAI أن غياب إطار تنظيمي شامل للذكاء الاصطناعي على المستوى الفيدرالي دفع الولايات إلى وضع تشريعاتها الخاصة، ما قد يسهم في إرساء معيار وطني موحد في المستقبل.
يعكس تحول موقف الشركة في هذا الشأن تطورًا مهما في نقاش تنظيم الذكاء الاصطناعي، إذ لم تعد المخاوف تتركز فقط حول الاستخدامات الخاطئة، بل تشمل أيضًا ضرورة مراقبة سلوك النماذج خلال مختلف مراحل تطويرها.
تعليقات