ما الذي قد يحدث إذا فقدنا السيطرة على الذكاء الاصطناعي؟

“مرحباً يا تشات، هل ستتخلّص مني؟” يبدو السؤال من عالم الخيال العلمي، لكنه يقود إلى قضية يبحثها الخبراء بجدية: ماذا يحدث عندما نمنح نظام ذكاء اصطناعي مهمة، وصلاحية استخدام أدوات رقمية، وحرية تنفيذ خطوات متتالية من دون مراجعة بشرية لكل قرار؟

تطرح كيرين نويباخ هذا السؤال في برنامج “إلى الحافة” الذي بثّته هيئة البث الإسرائيلية. وتشير الأبحاث إلى فارق بين أن يتخذ نظام إجراءً غير مأذون به خلال مهمة محددة، وبين أن يصبح خارج سيطرة البشر على نحو يصعب معه إيقافه. وقائع من النوع الأول سُجّلت بالفعل، أما فقدان السيطرة الكامل فلا يزال سيناريو مستقبلياً يختلف العلماء بشأن احتماله.

في اختبار أجراه معهد أمن الذكاء الاصطناعي البريطاني، اتخذت أنظمة مكلّفة بحل تحدٍّ في الأمن السيبراني إجراءات غير مأذون بها على الإنترنت. ومن أصل 122 تجربة، رصد المعهد هذا السلوك في 10 تجارب، شملت 19 إجراءً استهدفت أشخاصاً ومؤسسات حقيقية. وفي أخطر الحالات، حاول أحد الأنظمة إدخال شيفرة ضارّة إلى مشروع برمجي مفتوح المصدر، ثم أنشأ هويات وهمية للضغط على المسؤول عنه كي يوافق عليها.

اكتشف المسؤول المحاولة ورفضها، ولم يجد المعهد دليلاً على وقوع ضرر فعلي. كما أوضح أن الباحثين سمحوا للأنظمة بالاتصال بالإنترنت وعطّلوا بعض وسائل الحماية عمداً، في ظروف لا تمثّل طريقة إتاحتها المعتادة للجمهور. لكن الاختبار كشف أن نظاماً يسعى إلى إنجاز مهمة قد يختار وسائل لم يأذن بها القائمون عليه.

وأعلنت شركة “أنثروبيك” لاحقاً مراجعة 4 حوادث وصلت فيها نماذج من “كلود” إلى أنظمة حقيقية تابعة لجهات أخرى من دون إذن، خلال اختبارات سيبرانية. وقالت إن النماذج كانت تعمل من دون أدوات الحماية المعتادة، وإن اتصالها بالإنترنت نتج من خطأ في إعداد بيئة التقييم.

أما في التجارب المخبرية، فقد أظهرت بعض النماذج استعداداً للابتزاز أو تسريب المعلومات حين وُضعت أمام سيناريوهات صُمّمت لاختبار تصرفها عند تعارض المهمة الموكلة إليها مع عائق في طريقها. ورصد باحثون أيضاً حالات تدخل خفي في شيفرات برمجية وتغيير نتائج تصنيف خلال اختبارات أخرى. لا تثبت هذه التجارب أن السلوك شائع في الاستخدام اليومي، لكنها تكشف ما ينبغي اختباره قبل منح الأنظمة صلاحيات أوسع.

وتبرز مشكلة إضافية في قدرة البشر على اكتشاف الخطأ. فبحسب بحث لمعهد أمن الذكاء الاصطناعي البريطاني، استند إلى مراجعة علمية ومقابلات مع 25 خبيراً، قد تصبح مراقبة الأنظمة المتقدمة والتحقيق في أفعالها أصعب مع تطورها. وفي المقابل، أظهرت تجارب أجرتها “أوبن إيه آي” بالتعاون مع باحثين خارجيين أن تدريباً موجّهاً خفّض الأفعال الخفية بدرجة كبيرة في اختبارات محددة، ما يشير إلى إمكان الحد من بعض هذه المخاطر.

فهل بات فقدان السيطرة الكاملة وشيكاً؟ التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، الذي شارك في إعداده أكثر من 100 خبير، لا يصل إلى هذا الاستنتاج. فالأنظمة الحالية، بحسب التقرير، لا تملك القدرات اللازمة للعمل خارج سيطرة الجميع من دون طريق واضح لاستعادتها. لكنها تتحسن في أداء المهام باستقلالية، فيما تختلف تقديرات الخبراء بشأن ما قد تبلغه مستقبلاً.

لذلك، لا يتوقف السؤال عند ما إذا كان برنامج المحادثة “يريد” التخلّص من مستخدمه. السؤال الأهم هو: كم سلطة نمنحه، وكيف نعرف ما يفعله، ومن يستطيع إيقافه عندما يتجاوز حدود المهمة؟