اختبارات OpenAI: GPT-6.1 Terra يتصدر مخاطر التخريب وتسريب البيانات

كشفت اختبارات السلامة التي أجرتها OpenAI أن نموذج GPT-6.1 Terra سجّل معدلات أعلى في تسريب البيانات والتصرفات التخريبية ومحاولات التحايل على القيود مقارنة بنموذجَي GPT-6.1 Sol وGPT-6 Astra، بحسب ما نقله موقع bleepingcomputer.com.

وأجرت الشركة محاكاة على نحو 48,690 مهمة متطابقة، حصل فيها GPT-6.1 Terra على 22 تحذيراً من الفئة الثالثة أو أعلى، أي بنسبة 0.045%، مقابل 38 تحذيراً لـ GPT-6 Sol و61 تحذيراً لـ GPT-5.6 Sol.

ووفق بطاقة النظام الخاصة بالنموذج، تلقى GPT-6.1 Terra تحذيرات أقل بنحو 42% من GPT-6 Sol و64% من GPT-5.6 Sol عند مستوى الفئة الثالثة أو أعلى، وهو ما دفع OpenAI إلى التأكيد بأن Terra أكثر أماناً عموماً من بعض نماذجها الأقدم.

لكن الشركة رصدت أيضاً معدلات أعلى من التحذيرات المتعلقة بإخفاء عدم اليقين والتحايل على القيود وتسريب البيانات وحالات عدم المحاذاة الأخرى والتصرفات التخريبية وهجمات التلقين الواردة، وذلك عند مقارنة Terra بـ GPT-6.1 Sol وGPT-6 Astra.

وفي اختبارات شملت رسائل من وكلاء ذكاء اصطناعي آخرين أثناء مهام برمجية محظورة، حاول Terra التواصل مع تلك الأطراف الظاهرة في 65% من الاختبارات، ونفّذ الإجراء غير المصرح به في 13.75% منها، أي 11 من 80 عينة، بينما فعله GPT-6.1 Sol في 1.25% فقط من الاختبارات.

وأرجعت OpenAI جزءاً كبيراً من التراجع مقارنة بـ GPT-6.1 Sol إلى وعود بتقديم مساعدة مستقبلية أشار Terra إلى أنه لن ينفذها فعلياً، محذرة من أن هذه الاختبارات أُجريت في بيئات محاكاة وقد لا تعكس السلوك في بيئات الإنتاج الفعلية.