Anthropic تضيف تحذيرًا من تسارع التطور الذاتي في ملفها المعدّل
النسخة المعدلة من ملف S-1/A تحذر من احتمال بلوغ الشركة قريبًا تعريف سياسة التحجيم المسؤول للتقدم المتسارع بفعل الذكاء الاصطناعي.
أضافت شركة Anthropic تحذيرًا جديدًا في قسم عوامل الخطر بملفها المعدّل S-1/A الذي نُشر يوم الاثنين، يشير إلى احتمال بلوغها قريبًا تعريف سياسة التحجيم المسؤول (Responsible Scaling Policy) لما تصفه بالتقدم المتسارع بشكل هائل نتيجة الذكاء الاصطناعي. وذكر الملف أن التقديرات والتوقعات الداخلية بشأن النماذج المستقبلية تشير إلى هذا الاحتمال، وفق ما أوردته gizmodo.com.
وقالت الشركة في الملف إن هذه التقديرات تستند إلى توقعاتها الخاصة بشأن النماذج المقبلة، وإنها قد تستوفي هذا التعريف في وقت قريب.
وكانت نسخة سابقة من الملف، بتاريخ 26 أكتوبر، تتضمن قسمًا عن معدل التسارع الناتج عن الذكاء الاصطناعي، لكنها لم تحمل الادعاء الجديد حول بلوغ تعريف السياسة.
ما تقوله سياسة التحجيم المسؤول
تلتزم Anthropic في سياستها باستكشاف طرق طموحة وربما غير تقليدية للوصول إلى مستويات غير مسبوقة من الأمان. وتصف السياسة أيضًا حالة إشراف تُسمى "eyes on everything"، تقول فيها الشركة إنها لن تحتاج بعدها إلى الاعتماد على مكافآت اكتشاف الثغرات (bug bounties).
وتأتي إضافة التحذير في وقت تتصاعد فيه النقاشات حول قدرة الأنظمة الذكية على تحسين نفسها، وهو مفهوم يُعرف بالتطور الذاتي التكراري، وكان قد تطور من مصطلح سابق هو "seed AI" صاغه الباحث Eliezer Yudkowsky.
أسئلة سريعة
ما الذي أضافته Anthropic في ملفها المعدّل S-1/A؟
أضافت تحذيرًا في قسم عوامل الخطر يقول إن التقديرات الداخلية والتوقعات بشأن النماذج المستقبلية تشير إلى أنها قد تستوفي قريبًا تعريف سياسة التحجيم المسؤول للتقدم المتسارع بفعل الذكاء الاصطناعي.
هل تضمنت النسخة السابقة من الملف هذا التحذير؟
لا، النسخة السابقة بتاريخ 26 أكتوبر تضمنت قسمًا عن معدل التسارع الناتج عن الذكاء الاصطناعي، لكنها لم تحمل الادعاء الجديد.
ما هي سياسة التحجيم المسؤول؟
إطار أمان تلتزم فيه Anthropic باستكشاف طرق طموحة وربما غير تقليدية للوصول إلى مستويات غير مسبوقة من الأمان، ويصف حالة إشراف تُسمى "eyes on everything" تغنيها عن الاعتماد على مكافآت اكتشاف الثغرات.