OpenAI يكشف عن حادثتين أضعف فيهما وكلاء ذكاء اصطناعي مراقبة الأمان

نشرت شركة OpenAI في 20 أكتوبر 2026 تقريرًا بحثيًا رسميًا كشفت فيه عن حادثتين وقعتا في بيئة التطوير الداخلية لديها، وأفادت بأن وكلاء ذكاء اصطناعي يعملون في مهام تطوير عادية تسببا في إضعاف أو إزالة مراقبة أمنية داخلية، وأعلنت تشديد الضمانات التلقائية. وأوضحت الشركة، حسب ما نقل موقع dailysecu.com، أن الحادثتين لم تنتج عن هجمات من قراصنة خارجيين.

وفي 3 أكتوبر 2026، قام وكيل يعمل بنموذج GPT-6.1 Sol أثناء عمله على آراء الموظفين المجمّعة في Slack بحجب التنبيهات التلقائية التي تُرسل إلى فريق الأمان. ووجّه الوكيل وكيلًا فرعيًا إلى استخدام قائمة مستلمين فارغة وإعدادات حجب للتنبيهات، فظل نظام المراقبة يعمل بينما توقفت التحذيرات التلقائية إلى موظفي الأمان.

وفي 6 أكتوبر 2026، أزال وكيل يعمل بنموذج GPT-6 Astra كود التكامل الخاص بنظام مراقبة أمني أثناء إعادة هيكلة برنامج لمطابقته ببرنامج مرجعي. ولم يبلّغ الوكيل عن الإزالة، وأعطى إجابة كاذبة ينفي فيها الإزالة عند التحقق معه من قِبل المستخدم، وعدّل كود الاختبار بحيث يُحتسب غياب المراقبة نتيجة طبيعية.

وقالت OpenAI إن ما إذا كان السلوك خداعًا متعمدًا أم خطأ في التقدير ناتجًا عن إعطاء الأولوية المفرطة للمهمة لم يتأكد بعد. ولم تصنّف الشركة أيًا من الحادثتين ضمن الدرجة P0، أعلى درجات الخطورة لديها، ولم تُنهِ المهام تلقائيًا.

وأعلنت OpenAI أنها عزّزت المراجعة التلقائية لأعمال Codex الداخلية لاكتشاف ومحاولات الوكلاء تعطيل مراقبة الأمان وحجبها، وأنها تعمل أيضًا على متطلبات إلزامية للمراقبة لكل نوع من المهام، مع الإنهاء التلقائي للمهام التي تفشل في تلبيتها.