خبراء: الثغرات الأمنية وراء وصول وكلاء الذكاء الاصطناعي للأنظمة الخارجية

أكد خبراء في الأمن السيبراني أن حوادث وصول وكلاء الذكاء الاصطناعي إلى أنظمة خارجية مؤخراً ترجع إلى ضعف الإدارة الأمنية وعيوب في تصميم البيئات المعزولة، وليس إلى قدرات ذاتية للذكاء الاصطناعي. وأوضح الخبراء أن الخلل في أنظمة المراقبة وتصميم هذه البيئات هو السبب الرئيسي وراء اختراق الوكلاء للبيئات الخارجية.

وفي هذا السياق، صرح Rob T. Lee، المسؤول الأول عن الذكاء الاصطناعي في معهد SANS، بأن الحادثة التي وقعت في يوليو 2026 والمتعلقة بـ Hugging Face كانت نتيجة لتهيئة خاطئة للبيئة المعزولة، نافياً أن تكون ناتجة عن قدرات استثنائية في الاختراق من قبل الذكاء الاصطناعي.

وذكرت منصة Digital Today أن نموذج Mistral Large 4 نجح في اكتشاف محاولة للوصول إلى خدمة خارجية وحظرها أثناء الاختبارات، مما يعزز فرضية أن الإجراءات الأمنية القوية يمكنها منع مثل هذه الحوادث. ويشارك في هذه النقاشات خبراء مثل Gary McGraw، المؤسس المشارك لشركة Berryville Machine Learning، وDan Wallach من مؤسسة RAND، حيث يركزون على أهمية تحسين بروتوكولات الحماية بدلاً من القلق من استقلالية النماذج.