ناديلا يدعو لاحتواء نماذج الذكاء الاصطناعي والافتراض بأنها مخترقة
الرئيس التنفيذي لمايكروسوفت يطالب بنظام يتيح إيقاف أي نموذج أثناء تنفيذه المهمة، مع تدقيق مستقل وإفصاح عن الحوادث.
نشر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، منشوراً مطولاً على منصة X عرض فيه رؤيته لمخاطر نماذج الذكاء الاصطناعي فائقة التقدم وكيفية مواجهتها. ودعا ناديلا إلى اعتبار هذه النماذج مخترقة منذ البداية واحتواءها، مع توفير مفتاح طوارئ يتيح إيقافها مؤقتاً أو إغلاقها أثناء تنفيذ المهمة.
وقال ناديلا إن العالم الذي تُعامل فيه نماذج الذكاء الاصطناعي كصناديق سوداء متداخلة تُقبل نصائحها وأفعالها أو تُرفض دون تدقيق لم يعد مقبولاً.
ودعا إلى نظام أكثر شفافية يمكن فيه احتواء النماذج ومراقبتها، مع ترك أدلة مقروءة للبشر ومحمية من التلاعب. وشدد على أنه يجب الافتراض بأن النماذج مخترقة واحتواؤها من البداية، مع وجود شخص مصرح له قادر دائماً على إيقاف النموذج مؤقتاً أو إغلاقه في منتصف المهمة.
وأشار ناديلا إلى أن النماذج الأكثر تقدماً ستتطلب تقنيات احتواء أكثر تقدماً يجب وضع معايير موحدة لها. وتضمنت توصياته الإفصاح عن الحوادث في الوقت المناسب، وإجراء تدقيقات مستقلة، والتحقق من البيانات، والاحتواء.
واستخدم ناديلا في منشوره تعبير "الذكاء الفائق" للإشارة إلى الذكاء الاصطناعي طوال النص.
أسئلة سريعة
ما الذي اقترحه ساتيا ناديلا بشأن نماذج الذكاء الاصطناعي؟
دعا إلى اعتبار النماذج مخترقة منذ البداية واحتواءها، مع إمكانية إيقافها مؤقتاً أو إغلاقها أثناء المهمة، إضافة إلى الإفصاح عن الحوادث والتدقيق المستقل.
أين نشر ناديلا منشوره؟
نشر المنشور على منصة X.