Anthropic تدفع نحو مشروع قانون يسمح لوزارة التجارة بمنع إطلاق نماذج الذكاء الاصطناعي
مشروع القانون يحدد عتبة الضرر بـ1 مليار دولار أو أكثر من 50 وفاة أو إصابة، ويقضي بتقييم مستقل مسجل لدى الوزارة.
تسعى شركة Anthropic إلى دفع مشروع قانون للسلامة في مجال الذكاء الاصطناعي يسمح لوزارة التجارة الأمريكية بمنع إطلاق أي نموذج ذكاء اصطناعي إذا كان يشكل خطراً يتجاوز الضرر الناجم عنه 1 مليار دولار أو يتسبب في أكثر من 50 وفاة أو إصابة، وفقاً لما نقلته Politico.
وبموجب الاقتراح، يتولى مقيّم مستقل خارجي مسجل لدى Department of Commerce تقييم المختبر ونماذجه بشكل دوري، ويجوز للمختبر أن يدفع للمقيّم شرط ألا يؤثر الدفع في استقلاليته. ويغطي المشروع مخاطر إنشاء أسلحة بيولوجية أو إطلاقها، والهجمات السيبرانية المدعومة بالذكاء الاصطناعي، وفقدان المختبر السيطرة على نموذج أو وكلاء.
ويلزم المشروع المقيّم بإبلاغ الوزارة بالمخاطر الوشيكة خلال 72 ساعة. وتقدم الوزارة الأدلة إلى قاضٍ فيدرالي في المحكمة الجزئية لمقاطعة كولومبيا، الذي يقرر ما إذا كان سيتم وقف الإطلاق. وينص الاقتراح على ألا تصدر أي وزارة أو وكالة أو مسؤول أمريكي آخر أمراً لمختبر ذكاء اصطناعي بوقف إطلاق نموذج.
وقال متحدث باسم Anthropic إن مشروع القانون يعكس مقترحات وردت في إطار Advanced AI Framework الخاص بالشركة، والذي تروج له لدى المشرعين منذ يونيو. وكانت الشركة قد دعت منذ يونيو إلى هذا الإطار لدى المشرعين الفيدراليين والولائيين.
أسئلة سريعة
ما عتبة الضرر التي تسمح بمنع إطلاق النموذج؟
إذا كان النموذج يشكل خطراً بضرر يتجاوز 1 مليار دولار أو أكثر من 50 وفاة أو إصابة.
من يقرر وقف إطلاق النموذج؟
قاضٍ فيدرالي في المحكمة الجزئية لمقاطعة كولومبيا بعد أن تقدم وزارة التجارة الأدلة.
ما المخاطر التي يغطيها المشروع؟
إنشاء أسلحة بيولوجية أو إطلاقها، والهجمات السيبرانية المدعومة بالذكاء الاصطناعي، وفقدان السيطرة على نموذج أو وكلاء.