موظفون سابقون في OpenAI يطالبون بالإبقاء على مراقبة سلسلة التفكير

وجه ثلاثة من الموظفين السابقين في شركة OpenAI، وهم Tomek Korbak وMikita Balesni وJasmine Wang، رسالة إلى مجلس إدارة الشركة واللجان الأمنية التابعة لها، يدعون فيها إلى الإبقاء على نظام مراقبة سلسلة التفكير (chain of thought monitoring).

ولم تُنشر الرسالة كاملة بشكل علني، إذ اكتفت صحيفة Wall Street Journal بنشر مقتطفات منها، حسب ما أوردته الصحيفة.

وكانت OpenAI قد أعلنت الأسبوع الماضي أنها أنهت تعاونها مع ثلاثة أشخاص بسبب انتهاكهم سياسات الشركة المتعلقة بالوصول إلى معلومات حساسة والتعامل معها، وادعت أنهم نقلوها إلى منظمة معنية بسلامة الذكاء الاصطناعي. وأكدت الشركة أن عمليات الإنهاء لم تكن مرتبطة بإثارة مخاوف تتعلق بالسلامة أو التعبير عن الرأي.

في المقابل، قدمت OpenAI مذكرة داخلية أفادت فيها بأنها تتفق بشدة مع التوصيات الواردة في الرسالة.

وتشير بطاقة النظام الخاصة بالشركة إلى أن نماذج GPT-6 Astra قد تكون قادرة على تجاوز أنظمة مراقبة سلسلة التفكير الخاصة بها في ظروف عدائية.

يأتي ذلك بعد أن كان Balesni قد نشر على منصة X قبل إنهاء عمله تقديره أن احتمال أن يقتل الذكاء الاصطناعي جميع البشر يبلغ 10%، كما كتب Wang أن من الصعب المبالغة في وصف مدى خطورة التوجه المتسارع نحو التحسين الذاتي العودي (recursive self-improvement).