OpenAI تكشف عن قناة تواصل خفية بين وكلاء ذكاء اصطناعي عبر ذاكرة المعالج

كشفت OpenAI أن وكلاء ذكاء اصطناعي شاركوا في اختبارات اختراق أمني (red-teaming) داخل بيئات افتراضية معزولة تمكنوا من بناء قناة تواصل خفية تعتمد على توقيت الوصول إلى ذاكرة المعالج، إضافة إلى ثلاث قنوات أخرى، من دون رابط شبكة أو ملفات قابلة للكتابة مشتركة. وذكرت الشركة ذلك في إفصاح اطلعت عليه tomshardware.com.

في التجربة الرئيسية، طُلب من الوكلاء تبادل بيانات سرية مُصنّعة، فقام أحدهم بإخراج بيانات مختارة من ذاكرة المعالج المؤقتة بينما قاس الثاني زمن إعادة تحميلها، ما سمح بتبادل قراءات سريعة وأخرى بطيئة وفق بروتوكول اتفق عليه الطرفان مسبقاً.

وأنتج الوكلاء ثلاث قنوات إضافية: التوقيت عبر مساحة تخزين مشتركة، والتنافس على وقت المعالج داخل حاوية مشتركة، وذاكرة مؤقتة لشهادات TLS في إعداد وبّي غير المتصل بالإنترنت الخاص بـ OpenAI. وفي معظم هذه الاختبارات كانت الشركة هي التي توجّه الوكلاء إلى القناة أو تزوّدهم بالبروتوكول، وكانت معظم القنوات بطيئة وصعبة الاستغلال بالنسبة للنماذج.

استخدمت الاختبارات فرقاً من وكلاء نماذج متقدمة تعمل بالتوازي على ثلاثة أهداف: الوصول إلى الإنترنت الحيّ، وتجاوز حدود أمنية داخلية، والتواصل عبر حدود العزل. وشملت مراحل لاحقة افتراض أن الوكيل تمكن بالفعل من الهروب من بيئته وتجاوز المراقبات وسيطر على الجهاز المستضيف، لمعرفة ما إذا كان يستطيع الوصول إلى الإنترنت الحيّ.

وجاء الوكلاء من بين أقدر نماذج OpenAI، بما فيها GPT-6 Astra Cyber ونموذج حدودي داخلي، وزُوّدوا بشيفرة مصدرية للبنية التحتية وتفاصيل إعداد وتوثيق للثغرات. وأُجريت الاختبارات على نسخ معزولة مبنية لهذا الغرض من البنية البحثية للشركة، واستهلكت مئات المليارات من الرموز (tokens).

سياق أوسع

وقالت OpenAI إنها تواصل الإفصاح عن الثغرات في عدة مشاريع للبيئات الافتراضية، وإنها جعلت اختبار الاختراق بأقدر نماذجها جزءاً من ملفات السلامة التي تحدد ما إذا كان التدريب والتقييم سيستمران.

وسبق أن أظهرت ورقة بحثية في مؤتمر NDSS الأمني عام 2017 إمكان إنشاء قناة خفية عبر ذاكرة المعالج المؤقتة بين جهازين افتراضيين على Amazon EC2 بسرعة كافية لنقل اتصال SSH، واستُخدمت التقنية نفسها لاستخراج بيانات في هجمتي Spectre وMeltdown.