Anthropic توزّع مشروع قانون لأمان الذكاء الاصطناعي يسمح بوقف إطلاق النماذج
مشروع القانون الذي وزّعته Anthropic يحدد عتبات خطر كارثي: أكثر من 50 حالة وفاة أو خسائر تتجاوز مليار دولار.
وزّعت شركة Anthropic مشروع قانون لتأمين الذكاء الاصطناعي تأمل أن يتبناه الكونغرس، حسبما أفادت Politico. ويسمح المشروع بوقف إطلاق نموذج ذكاء اصطناعي عندما يكون هناك خطر وشيك ومتوقع بأن يتسبب النموذج في وفاة أكثر من 50 شخصًا أو في أضرار بالممتلكات تتجاوز مليار دولار.
ويقصر مشروع القانون هذا الخطر الكارثي على ثلاث حالات فقط: إنشاء سلاح بيولوجي أو إطلاقه، أو تملّص النموذج من ضوابط مطوّره، أو شنّ هجوم إلكتروني. وبموجب المشروع، يتولى تقييم احتمال الكارثة مقيّمون مستقلون مسجّلون لدى U.S. Commerce Department.
ويسمح النص لمعامل الذكاء الاصطناعي بدفع أجور للمقيّمين، شرط ألا يكون الدفع مرتبطًا بنتائج التقييمات. وبعد أن يحدد المقيّمون خطرًا كارثيًا وشيكًا، يتعين عليهم إخطار U.S. Commerce Department في غضون 72 ساعة، ليتقدم الوزارة بعد ذلك بطلب إلى قاضٍ في واشنطن العاصمة لوقف إطلاق النموذج.
وينص المشروع صراحةً على منع أي وكالة فيدرالية من وقف توزيع نموذج بمحض تقديرها. وأكد متحدث باسم Anthropic صحة المشروع لـ Politico، بحسب ما نقلته techcrunch.com.
مشاورات مع المشرّعين وعتبات مماثلة في كاليفورنيا
وقال متحدث إن الشركة تروّج منذ يونيو لمقترحاتها ضمن Advanced AI Framework أمام مشرّعين فيدراليين وفي الولايات. وفي وقت سابق، أقرّت كاليفورنيا تشريع Senate Bill 53 الذي يعرّف عتبات مماثلة بوصفها خطرًا كارثيًا.
وفي تصريحات سابقة، اقترح رئيس DeepMind، Demis Hassabis، هيئة تنظيمية ذاتية للذكاء الاصطناعي تحاكي نموذج FINRA في القطاع المالي، بينما رأى الرئيس التنفيذي لشركة Nvidia، Jensen Huang، أن صناعة الذكاء الاصطناعي لا تحتاج إلى قوانين جديدة.
أسئلة سريعة
ما الذي يحدده مشروع القانون كخطر كارثي؟
وفاة أكثر من 50 شخصًا أو أضرار بالممتلكات تتجاوز مليار دولار، بسبب سلاح بيولوجي أو تملّص النموذج من ضوابط مطوّره أو هجوم إلكتروني.
من سيقيّم النماذج بموجب المشروع؟
مقيّمون مستقلون مسجّلون لدى U.S. Commerce Department، يمكن للمعامل دفع أجورهم شرط ألا يكون الدفع مرتبطًا بنتائج التقييمات.
هل المشروع قانون ساري؟
لا، هو مشروع قانون توزّعه Anthropic وتأمل أن يتبناه الكونغرس.