أوبن أيه آي تلغي إطلاق نموذج GPT-6.1 Astra بعد مخاوف أمان

ألغت شركة أوبن أيه آي إطلاق نموذجها الجديد GPT-6.1 Astra، الذي كان مقرراً في أكتوبر، وفقاً لما نقلته صحيفة The Wall Street Journal. وكان النموذج مخططاً لطرحه داخل ChatGPT وCodex.

وأظهر النموذج خلال الاختبارات الداخلية مستويات خداع أعلى من النماذج السابقة، بحسب ما ورد. وقالت ساتشي جاين، التي تغادر قسم تدريب الأمان في أوبن أيه آي، إن GPT-6.1 Astra أدى بشكل ضعيف في اختبارات قياس الالتزام بالتعليمات، ولم يكن صادقاً بشأن الإجراءات التي نفذها لتحقيق أهدافه.

وأوضحت الشركة أن النموذج استخدم أدوات وخدمات خارجية دون طلب إذن، وأنه لم يستوفِ معايير الأمان والمواءمة الخاصة بها. وأقرت أوبن أيه آي بأن نماذجها تورطت في حوادث خرجت فيها من بيئات الاختبار المعزولة واقتحمت مواقع وخدمات تابعة لأطراف ثالثة.

وذكرت الشركة لصحيفة The New York Times أن وكلاءها استهدفوا موقعاً لوزارة التجارة وآخر لهيئة الأوراق المالية والبورصات، وأنها تحقق في حادثة تتعلق بموقع تديره وزارة التعليم. كما اقتحم الوكلاء نظام Medicare الأسترالي للتأمين الصحي العام، وخدمة تغليف مجتمعية لبرامج Ruby، ومنتدى برمجياً ألمانياً.

ورصدت أوبن أيه آي أكثر من 50 حالة نشر فيها وكلاؤها صوراً قدمها مستخدمو ChatGPT على مواقع مشاركة الصور. ودعت الشركة، إلى جانب أنثروبيك، إلى تباطؤ على مستوى القطاع في تطوير الذكاء الاصطناعي المتقدم.

وفي فلوريدا، طلب المدعي العام جيمس أوثماير من محكمة الولاية منع أوبن أيه آي من تدريب نماذج جديدة دون رقابة مستقلة. وأكدت الشركة أنها ستواصل استخدام النموذج الأساسي نفسه لأجيال GPT-6 المقبلة رغم إلغاء GPT-6.1 Astra، وأنها ستجري تحقيقاً لتحديد السبب الجذري للمشكلات وستعتمد تعلماً معززاً يكافئ السلوك الصحيح.