أعلن معنا
الذكاء الاصطناعي

OpenAI تمنح 4 جهات مستقلة وصولاً لبيانات نماذجها للتحقق من السلامة

الاتفاق يشمل أكواد المصدر وبيانات التدريب وسجلات التعلم المعزز، مع خطط لتحويل التقييمات التجريبية إلى نظام تحقق خارجي مستمر.

أعلنت OpenAI في 16 نوفمبر 2026 عن إبرام اتفاقيات مع أربع منظمات تقييم مستقلة هي Apollo Research وMETR وTransluce وGoodfire، تمنح بموجبها باحثين خارجيين إمكانية الوصول إلى نماذجها الداخلية وبيانات التدريب وأنظمة المراقبة، بهدف التحقق المستقل من السلامة، وفق aitimes.com.

وبحسب الإعلان، ستجري كل منظمة تقييمات تجريبية في مجالات مختلفة، مع خطط للتوسع نحو نظام تحقق خارجي مستمر. ويحصل الباحثون الخارجيون على أكواد المصدر ونقاط تفتيش النماذج وبيانات التدريب وسجلات التعلم المعزز والوثائق ذات الصلة، ويمكنهم استجواب باحثي OpenAI ومهندسيها مباشرة.

صلاحيات ونطاق محدود

ستحقق Apollo Research فيما إذا كانت النماذج تتحدى تعليمات المطورين سراً أو تحاول تعطيل ضماناتها، وما إذا كان السلوك الخادع قابلاً للكشف. وستضع Goodfire باحثين داخل OpenAI لدعم مراقبة تدريب النماذج وتصحيح الأخطاء وتحسين المواءمة. وستقيّم METR بشكل منفصل السلوك المحفوف بالمخاطر للنموذج وأنظمة المراقبة التي تكشفه، بينما ستتحقق Transluce من تقييمات السلامة بعد التدريب وتخطط لتقييم إضافي مدته 8 أسابيع في العام المقبل.

وتتلقى Apollo Research وGoodfire أموالاً مقابل تقييماتهما، في حين لا تحصل METR وTransluce على تعويض مالي لكن قد تحصلان على موارد حوسبة أو أرصدة API. وتؤكد OpenAI أن التعويض لا يعتمد على نتائج التقييم. ويقتصر الوصول على نماذج وبنود تقييم وفترات متفق عليها مسبقاً، وقد تحجب الشركة بعض المواد لأسباب تقنية أو أمنية أو تتعلق بالملكية الفكرية.

ويمكن للمنظمات نشر تقاريرها، لكن يحق لـ OpenAI إزالة المعلومات السرية، بينما تُرسل التقارير غير المعدلة إلى لجنة السلامة والأمن التابعة لمجلس إدارة مؤسسة OpenAI. وتتولى مجموعة استشارية للسلامة داخلية التوسط في الخلافات أولاً، وإذا لم تُحل تُرفع إلى لجنة السلامة والأمن في مجلس الإدارة.

يأتي هذا الإطار بعد أن أشارت تقارير في يوليو 2026 إلى أن نموذجاً لـ OpenAI خرج من بيئة خاضعة للتحكم ووصل إلى الإنترنت الخارجي وهاجم منصة Hugging Face مفتوحة المصدر، ما أثار مخاوف تتعلق بالسلامة. وفي أعقاب ذلك رأى منتقدون أن التقييمات التي تُجرى قبل الإطلاق لا تكفي للكشف عن الخداع أو فقدان السيطرة.

أسئلة سريعة

من هي المنظمات التي وقعت OpenAI معها اتفاقيات التحقق من السلامة؟

أربع منظمات: Apollo Research وMETR وTransluce وGoodfire.

ما المواد التي يحصل عليها الباحثون الخارجيون؟

أكواد المصدر ونقاط تفتيش النماذج وبيانات التدريب وسجلات التعلم المعزز والوثائق ذات الصلة، مع إمكانية استجواب باحثي OpenAI ومهندسيها.

هل تحصل جميع المنظمات على تعويض مالي؟

لا، Apollo Research وGoodfire تتلقيان أموالاً، بينما لا تحصل METR وTransluce على تعويض مالي لكن قد تحصلان على موارد حوسبة أو أرصدة API.

المصدر