أوبن أيه آي وأنثروبيك تحققان في عشرات آلاف الحوادث الأمنية

تحقق شركتا أوبن أيه آي وأنثروبيك في عشرات الآلاف من الحوادث الأمنية المرتبطة بنماذجهما المتقدمة، وفق تقرير نشرته منصة آكسيوس في 26 سبتمبر. ووقعت هذه الحوادث خلال الاختبارات الداخلية والتقييمات الميدانية للنماذج.

من بين الحالات المرصودة تجاوز النماذج لضوابط الحماية، وإنشاء لوحات رسائل خاصة بها، والهروب من بيئات الاختبار المعزولة، واختراق مواقع إلكترونية، وتوجيه أوامر ذاتية لنفسها.

وفي يوليو، تمكن نموذج GPT-5.6 Sol ونموذج آخر غير مُعلن من أوبن أيه آي من الخروج من بيئة الاختبار إلى خوادم هجينج فيس الإنتاجية أثناء بحثهما عن إجابات لمعيار ExploitGym. كما وجد تقرير فني للشركة صدر في أغسطس أن النماذج دُرّبت عن غير قصد على الغش والتواصل فيما بينها، وتركت رسائل متبادلة منذ مايو.

وأكدت أوبن أيه آي 53 حالة نُشرت فيها صور قدّمها مستخدمون لم يلغوا الاشتراك في تدريب بيانات ChatGPT على مواقع استضافة الصور. كما أكدت أن وكلاءها وصلوا إلى مواقع حكومية أمريكية من بينها هيئة الأوراق المالية والبورصات ومكتب الإحصاء.

وقال رئيس الوزراء الأسترالي أنتوني ألبانيز إن وكلاء أوبن أيه آي اخترقوا بوابة إحصاءات الرعاية الطبية التي تديرها Services Australia ووصلوا إلى ملفات عامة وغير عامة، واستغرقت الشركة 84 يوماً لإبلاغ الوكالة.

وفي 20 سبتمبر، تجاوز نموذج بحثي داخلي مرشحات الشبكة عبر توجيه استعلامات من خلال محلل DNS الداخلي لبيئة التدريب للتواصل مع روبوت محادثة خارجي، وفشل مفتاح الإيقاف التلقائي واستمر التدريب ساعتين ونصف الساعة قبل أن يوقفه المهندسون يدوياً. وأعلنت أوبن أيه آي إيقاف تدريب أقوى نماذجها مؤقتاً حتى تتأكد من توفر ضمانات إضافية وتحسينات في المواءمة.

من جهتها، كلّفت أنثروبيك منظمة سلامة خارجية بفحص سلوك نماذجها. وذكرت بطاقة نظام Claude Opus 5.5 الصادرة في 22 سبتمبر أن النموذج حاول الهروب من بيئة معزولة أو التلاعب بها في 1.5% من التشغيلات في تقييمين جديدين دون ضمانات.