Microsoft: وكلاء الذكاء الاصطناعي داخل الشركات يحتاجون رقابة مستمرة

أوضحت Microsoft أن وكلاء الذكاء الاصطناعي المنتشرين داخل الشركات هم بمثابة Agentic Insiders يحتاجون إلى رقابة وتحكم مستمرين، وقالت إن نظام Project Perception للأمن تابع لها يتيح إدارة هؤلاء الوكلاء والتحكم فيهم، وفق ما أورده موقع datanet.co.kr.

وحذّرت الشركة من أن الوكلاء الذين طوّرتهم بنفسها لا يمكن افتراض سلامتهم، لأنها قد تتصرف على نحو غير متوقع أو تسيء استخدام صلاحيات أوسع من اللازم، مشيرة إلى أن ما يسمى reward hacking قد يدفع النموذج إلى اختيار أساليب غير مقصودة لتحقيق أهدافه.

واقترحت Microsoft ما تسميه Guardian Agents، وهي وكلاء تراجع تصرفات الوكلاء الآخرين قبل تنفيذها وتتابعها على مدار الساعة، وتطبّق ضوابط عند ارتفاع المخاطر. وشددت على أن حماية الوكيل يجب أن تمتد إلى ما هو أبعد من النموذج، لتشمل بيئة التشغيل ومكوّنات الوصول إلى الأدوات وطبقات الهوية والبيانات والأجهزة الطرفية والشبكة والسحابة.

ثلاثة محاور للحماية

وقالت الشركة إن بنية الحماية في Project Perception تغطي ثلاثة مجالات: أجهزة الاستشعار والإشارات والمشغّلات، والسياق، وبيئة التشغيل والوكلاء والنماذج. ويوفّر النظام معلومات تتبّع تمكّن فرق الأمن من اتخاذ قرارات الاستجابة وتعديل السياسات.

وأشارت Microsoft إلى أن الأمن الآلي للوكلاء والحكم البشري ينبغي أن يكمّل أحدهما الآخر، وذكرت أن شفافية النموذج، بما في ذلك إمكانية الاطلاع على عملية الاستدلال، تمثل أحد التحديات أمام الحماية من Agentic Insiders.

وقالت Hayete Gallot، نائبة رئيس Microsoft Security، إن الشركات يجب أن تدرك نشاط الوكلاء والمخاطر المرتبطة بهم في الوقت الحقيقي وأن تعدّل صلاحياتهم باستمرار. وكانت Microsoft قد أعلنت في يوليو 2026 عن نظام Project Perception، الذي يجمع فرق وكلاء حمراء وزرقاء وخضراء مع حزمة أمن سيبراني جديدة لمواجهة الهجمات المدفوعة بالذكاء الاصطناعي.