ناديلا يدعو إلى فرامل طوارئ وسيطرة بشرية على أنظمة الذكاء الاصطناعي المتقدمة

نشر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، منشوراً على منصة X بتاريخ 10 أكتوبر 2026، دعا فيه إلى تزويد أنظمة الذكاء الاصطناعي عالية الأداء بفرامل طوارئ خاضعة للسيطرة البشرية وآليات تحكم مستقلة، وفق ما نشره موقع aitimes.com.

وقال ناديلا إنه يجب افتراض أن نماذج الذكاء الاصطناعي مخترقة بالفعل منذ البداية، وعزلها عن البيئة المحيطة بها. وأكد ضرورة أن يكون الأشخاص المخوّلون قادرين على إيقاف النموذج مؤقتاً أو إنهاء عمله في أي لحظة، حتى أثناء تنفيذ مهمة جارية.

ودعا إلى الجمع بين تصميم أنظمة محدّدة النتائج، وسيطرة بشرية، وإجراءات تشغيلية موثوقة. كما شدد على التعامل مع النماذج المغلقة الرائدة والنماذج مفتوحة الأوزان على حد سواء بوصفها تهديدات داخلية محتملة.

أوضح ناديلا أن النماذج والبنية المحيطة التي تنسّق عملها يجب فصلهما مادياً، وأن تتركّز السيطرة على صلاحيات النموذج وحدود أفعاله في طبقة تنسيق خارجية تقع خارج النموذج نفسه، مع سجلات تدقيق غير قابلة للتغيير لكل الإجراءات الرئيسية.

ضمت مبادئ السلامة التي طرحها تنويع النماذج للتحقق من القرارات، والاختبار المستمر، والرقابة والتدقيق المستقلين، وعزل نشاط الذكاء الاصطناعي، والإفصاح عن الحوادث الأمنية.

خلفية النقاش حول السلامة

تأتي هذه الدعوة بعد سلسلة أعطال وحوادث أمنية كشفت عنها شركتا Anthropic وOpenAI تتعلق بنماذج ووكلاء ذكاء اصطناعي. وكان داريو أمودي، الرئيس التنفيذي لشركة Anthropic، قد دعا سابقاً إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم وتعزيز السلامة. كما كانت قوة Superintelligence Force (SIF) قد حذّرت شركات الذكاء الاصطناعي، بعد اختراق أمني لمواقع حكومية شمل نموذجاً من Anthropic، بضرورة الإفصاح الفوري عن الحوادث الأمنية ومعالجة الأضرار بسرعة.