تحديات السيطرة البشرية على الذكاء الاصطناعي وتأثيراتها المحتملة

تتزايد المخاوف المتعلقة بالذكاء الاصطناعي كلما ظهرت أنظمة جديدة في بيئات عالية المخاطر، مما يجعل من الضروري أن يظل البشر هم من يتخذون القرارات النهائية دائماً.

التحديات في استخدام الأنظمة الذكائية

في ميادين الحرب، برزت الخلافات حول تمييز الأسلحة ذاتية التشغيل عن تلك الخاضعة للسيطرة البشرية، في إطار مناقشات تنظيمية وجماهيرية مهمة حول هذا الموضوع. في سياق الشركات، أدت الأنظمة شبه المستقلة إلى الحاجة إلى اعتماد المهنيين ذوي الخبرة كصناع قرار نهائيين. وفقاً للتقارير، تؤكد شركات مثل أمازون على ضرورة أن يكون لمهندسي البرمجيات المبتدئين والمتوسطين إشرافاً من مهندسين أكثر خبرة عند إجراء تغييرات تعتمد على الذكاء الاصطناعي.

التوازن بين البشر والآلات

لكن السؤال يبقى: هل يحقق هذا الحل التوازن الأمثل بين مكاسب السرعة والدقة التي تقدمها الآلات، وبين الخبرة والسياق والحكم البشري؟ لفترة طويلة، تفكر المجتمعات في أفضل الوسائل للدمج بين التكنولوجيا والبشر. ومع ذلك، يبدو أن التجارب الإنسانية لم تعلِّمنا دروساً كافية لتجنب الأخطاء السابقة.

عدم قدرة البشر على مواكبة السرعة

التحدي الرئيسي يتمثل في أن الذكاء الاصطناعي يعمل بسرعة تفوق القدرة البشرية، مما يثير القلق بشكل خاص في ساحات المعارك، حيث يمكن للأنظمة معالجة كميات كبيرة من البيانات في وقت قياسي. على سبيل المثال، عندما تُختصر سلاسل القرار من ساعات إلى دقائق أو ثوان، تبرز التساؤلات حول قدرة البشر على التحكم في هذه الأوقات الحرجة.

الإرهاق الذهني في بيئات العمل

وفي أماكن العمل، حيث المخاطر أقل، نشهد توقفات مشابهة بحيث تزيد أنظمة الذكاء الاصطناعي من وتيرة العمل وحجمه، مع استمرار الحاجة إلى التوجيه البشري. دراسة استمرت ثمانية أشهر حول استخدام الذكاء الاصطناعي في إحدى الشركات التقنية أظهرت أن زيادة الإنتاجية رافقتها مظاهر من الإرهاق الذهني والاحتراق الوظيفي وصعوبات في اتخاذ القرارات.

الثقة المفرطة في التكنولوجيا

تُظهر الدراسات أن البشر يميلون إلى الثقة في الآلات، حتى بعدما تم تنبيههم بعدم القيام بذلك. ظاهرة “الانحياز للأتمتة” مسجلة في عدة سياقات، بدءاً من السائقين المعتمدين على أنظمة تحديد المواقع إلى الطلاب الذين اتبعوا إرشادات الروبوتات. مثال آخر يُبرز هذه الظاهرة يتمثل في تجربة مع مركبات شبه ذاتية القيادة، حيث أظهر نحو 30% من المشاركين استعدادهم للقيام بأفعال خطرة.

غموض المسؤولية

تتعمق الإشكالية عند الحديث عن من يتحمل المسؤولية عندما تسوء الأمور. قد نكون متعجلين في إلقاء اللوم على متخذ القرار النهائي، ولكن إذا كان هذا القرار عبارة عن نتيجة نظام معقد، فإن ذلك يُشكل إشكالية أخلاقية وقانونية ينبغي معالجتها بجدية.

التوجه نحو الحلول

لحسن الحظ، ليست هذه المسائل مستعصية على الحل. لقد تعلمنا الكثير من مجالات معينة؛ مثل تجربة الطيارين مع تكنولوجيا الأتمتة. هذه التجارب قدمت دروسًا قيمة، مثل ضرورة تدريب الطيارين على كيفية عمل الأنظمة وطرق التعامل مع التعطلات.

إن هنالك ميلاً فطريًا لوضع البشر في موقع القرار الأسمى، ولكن التفاعل بين الإنسان والآلة يُظهر أن تحقيق هذا الأمر ليس سهلاً، وقد يكون وهم السيطرة البشرية أكثر خطورة من فقدان السيطرة الفعلية.