مراجعة خارجية تكشف ثغرات في أنظمة مراقبة OpenAI
باحثون من METR وRedwood Research راجعوا أنظمة المراقبة الداخلية لدى OpenAI ورصدوا ثغرة تتيح للوكلاء الفارّين من الرقابة.
كشفت مراجعة تجريبية أجرتها منظمتا METR وRedwood Research لأنظمة المراقبة الداخلية لدى OpenAI عن ثغرات جديدة، بحسب ما نقله تقرير لشبكة CNBC.
أجرى موظف واحد من كل منظمة مراجعة لشيفرة OpenAI ووثائقها الداخلية في الفترة من 21 يوليو إلى 11 أغسطس، تحت إشراف الشركة وباستخدام أجهزة وفّرتها OpenAI فقط. وركّزت المنظمتان على مدى ثلاثة أسابيع على اختبار نظام المراقبة المخصص لرصد إخفاقات مواءمة نماذج الذكاء الاصطناعي.
ووجد المراجعون ثغرة تسمح للوكلاء العاملين بالذكاء الاصطناعي بتجاوز المراقبة، وهو ما قد يزيل مئات من الإجراءات الأخيرة من نطاق التدقيق.
وأبلغت OpenAI المنظمتين بأنها عالجت الثغرات التي تمسّ ضمانات الخدمة الفعلية. وقال متحدث باسم الشركة إن النتائج تُستخدم لتعزيز الضمانات وتشكيل تعاون مستقبلي مع جهات التقييم المستقلة.
وقررت METR وRedwood Research نشر نتائج موجزة فقط، وسلّمتا تقريرًا داخليًا من 61 صفحة إلى OpenAI وحدها.
أسئلة سريعة
من أجرى المراجعة التجريبية لأنظمة مراقبة OpenAI؟
أجرتها منظمتا METR وRedwood Research، بمشاركة موظف واحد من كل منظمة، في الفترة من 21 يوليو إلى 11 أغسطس.
ماذا وجدت المراجعة؟
رصدت ثغرة تتيح للوكلاء العاملين بالذكاء الاصطناعي تجاوز المراقبة، وقد تزيل مئات الإجراءات الأخيرة من نطاق التدقيق.
هل نُشر تقرير المراجعة كاملًا؟
لا، قررت المنظمتان نشر نتائج موجزة فقط، وسلّمتا تقريرًا داخليًا من 61 صفحة إلى OpenAI وحدها.