في عصر التسارع السريع لتبني تقنيات الذكاء الاصطناعي التوليدي، أعلن المهندس عمرو صبحي، خبير أمن المعلومات والتحول الرقمي، عن تحول نماذج الذكاء الاصطناعي من مجرد أدوات مساعدة إلى أدوات تجسس غير مقصودة، مما يثير العديد من التساؤلات حول أمان البيانات الشخصية.
عشوائية وواقع “الحفظ المرن”
حذر المهندس عمرو صبحي، في تصريحات خاصة لوكالة البوصلة الإخبارية، من أن الشركات الكبيرة تسعى إلى سد ثغرات تسريب البيانات من خلال برمجة نماذج الذكاء الاصطناعي لإنتاج إجابات ذات طابع “عشوائي”، حتى لا تنسخ النصوص حرفياً، ومع ذلك، كشفت الأبحاث عن ظاهرة “الحفظ المرن” حيث يمكن للنموذج إعادة صياغة المعلومات بكلمات مختلفة، مما يطرح سؤالًا مقلقًا: هل أصبح لدينا آلة تتلصص علينا وتفهم أسرارنا بذكاء دون أن تترك دليلاً؟
مفارقة النماذج المخصصة: كلما زادت الخصوصية زاد الخطر
يشير المهندس عمرو صبحي إلى أن هناك تزايدًا كبيرًا في رغبة المؤسسات والبنوك لتدريب نماذج ذكاء اصطناعي مخصصة على البيانات الحساسة، ولكن رغم ذلك، أثبتت الاختبارات أن هذه النماذج أكثر عرضة لتسريب البيانات الشخصية بخمسة أضعاف مقارنة بالنماذج العامة، ويرجع ذلك إلى عملية “التجهيز الزائد” التي تجعل النموذج يفقد حماية البيانات الضخمة.
جدران الحماية البدائية و”الخط الأحمر”
أكد صبحي أن المراجعات الأكاديمية تشير إلى أن جدران الحماية لا تزال بدائية ولا تتماشى مع التطورات السريعة في النماذج التوليدية، كما أنها لا تفهم “السياق الدلالي” الذي يمكن أن تكشف فيه أسرار تجارية محتملة، وينصح صبحي المستخدمين والموظفين بضرورة عدم التجاوز عن “الخط الأحمر”، المتمثل في عدم كتابة معلومات حساسة في خانة الدردشة، مثل البيانات الشخصية، أكواد برمجية تحتوي على مفاتيح وصول، أو استراتيجيات العمل الداخلية، لأن الوعي الشخصي هو الخطوة الأولى نحو حماية الخصوصية.
تعليقات