أعلنت OpenAI عن توفير خيار عدم الاحتفاظ بالبيانات (Zero Data Retention) لعملائها الذين يستخدمون واجهة برمجة التطبيقات (API) مع نماذج الذكاء الاصطناعي المتقدمة، ويأتي هذا بالتزامن مع إطلاق نظام جديد يدعى “Private Safety Processing”، الذي يهدف إلى ضمان سلامة استخدام هذه النماذج دون كشف محتوى العملاء للموظفين. وفقًا لهذا الخيار، تضمن OpenAI عدم احتفاظها بالمطالبات أو المخرجات بعد معالجة الطلبات، وتؤكد على أن محتوى العملاء لا يُتاح لمراجعة الموظفين، كما أن بيانات المؤسسات لا تُستخدم في تدريب النماذج إلا بموافقة صريحة من العميل.
أهمية هذه الخطوة للشركات
تستهدف هذه المبادرة إحدى أكبر العوائق أمام استخدام الشركات للذكاء الاصطناعي، خاصةً في المجالات التي تتعامل مع بيانات حساسة، مثل السجلات المالية، المعلومات الصحية، والبيانات التجارية السرية. تتطلب العديد من القطاعات الخاضعة للتنظيم معرفة مكان تخزين بياناتها، ومن يمكنه الوصول إليها والمدة التي تبقى محفوظة، مما يجعل سياسات الاحتفاظ بالبيانات أمرًا حيويًا عند اعتماد تقنيات الذكاء الاصطناعي.
كيفية مراقبة أوبن إيه آي لإساءة الاستخدام دون الاطلاع على البيانات
توضح OpenAI أن إساءة الاستخدام قد لا تتضح من خلال تفاعل واحد فقط، فالأفراد قد يحاولون اختراق الأنظمة عبر إجراء اختبارات متعددة، أو تنسيق أنشطة ضارة. ينطلق هنا دور نظام “Private Safety Processing” الذي يقوم بتحليل الأنماط بين التفاعلات بدلاً من فحص كل تفاعل بشكل منفصل، مستخدمًا عمليات آلية تحافظ على سرية المحتوى.
البيانات تحت سيطرة العميل
في حالات النشر التي يديرها العميل، تبقى البيانات في بنية تحتية يتحكم فيها العميل. تُطور OpenAI نموذجًا يتيح تخزين المحتوى على بنيتها التحتية بطريقة مشفرة، باستخدام مفاتيح يتحكم فيها العميل، ولا يمتلك موظفو OpenAI نسخًا من مفاتيح التشفير، مما يجعل الوصول إلى المطالبات غير ممكن، وعند اكتشاف نشاط قد يشير إلى إساءة استخدام، تتلقى الشركة إشارات تحدد نوع النشاط دون اجراء مراجعة للمحتوى.
إشارة خطر بدلاً من قراءة المحادثة
يمكن استخدام هذه الإشارات لاتخاذ قرارات بشأن تطبيق سياسات الاستخدام، دون كشف المحتوى الأصلي للعميل، حيث يتمكن العملاء من التحقيق في التنبيهات داخل بيئاتهم الخاصة، كما يمكنهم أن يقدموا بيانات إضافية إذا أرادوا الاعتراض على قرار أو توضيح شرعية النشاط.
تعليقات