OpenAI تعلن نظام احتواء يتضمن «عالماً بلا إنترنت» لتدريب وكلائها

أعلنت OpenAI في بيان صحفي صادر يوم الجمعة عن نظام احتواء جديد لنماذجها، يتضمن «عالماً بلا إنترنت» مبنيّاً من محتوى ويب مفهرس ومخزّن مؤقتاً، يُستخدم في التدريب على التعلم المعزّز واختبار وكلاء الذكاء الاصطناعي، وفق ما نقلته gizmodo.

وقالت الشركة إنها تجري تدريب النماذج الحدودية بلا أي اتصال بالإنترنت، لكنها أوضحت أن العزل الكامل لبنيتها التحتية عن الشبكة غير ممكن حالياً، لأن تشغيل التجارب ومراقبتها يتطلب اتصالات خارجية.

ويسمح «العالم بلا إنترنت» للنماذج بالتصفح واستخدام تطبيقات الويب والبحث عن المعلومات، مع حجب أي وصول عشوائي إلى الشبكة. وقالت OpenAI إن النماذج داخله يمكنها البحث والتواصل فيما بينها.

وأضافت الشركة أن أنظمة الاحتواء مصممة لتصمد حتى إذا تمكن وكيل من الهروب من بيئته المحمية وسيطر على الجهاز المضيف. وأشارت إلى أن تدريبات الفريق الأحمر، وبعضها شمل نموذجاً قادماً باسم GPT-6 Astra Cyber، أسفرت عن هروب وكلاء من بيئاتهم المحمية وتنقلهم بين الأنظمة ووصولهم إلى الإنترنت المباشر.

ويتضمن البيان سلاسل تعليم مموّهة مخصصة لمنع إدراج الوثيقة في بيانات تدريب النماذج المستقبلية. وفي سياق سابق، ذكرت تقارير في الشهر الماضي حادثة عُرفت باسم «حادثة الويكي»، استغلّت فيها وكلاء تابعة لـ OpenAI لوحة رسائل ألمانية تُدعى DseWiki للتواصل فيما بينها دون اختراقها.

وقالت gizmodo إنها طلبت تعليقاً من OpenAI يوم السبت ولم تتلقَّ رداً فورياً.