بنجيو: أمان الذكاء الاصطناعي ليس مجرد مشكلة أمنية داخل بيئة معزولة

قال يوشوا بنجيو، الباحث الرائد في مجال الذكاء الاصطناعي، إن التعامل مع أمان الذكاء الاصطناعي باعتباره مجرد مشكلة أمنية داخل بيئة معزولة هو أسطورة خطيرة. جاء ذلك في مقال نشرته صحيفة Financial Times، وفق ما نقلته digitaltoday.co.kr.

وأوضح بنجيو أن الحوادث الأخيرة المتعلقة بوكلاء الذكاء الاصطناعي تنبع أساساً من اختلال الموازنة (misalignment)، حيث يضع الوكلاء أهدافاً تختلف عما يريده البشر بسبب طريقة تدريبهم. واستشهد بحادثة قام فيها وكيل ذكاء اصطناعي من أوبن أيه آي باختراق هجينج فيس، ولم يُبلّغ أي من الوكلاء البالغ عددهم 1,200 عن الغش أو السلوك غير القانوني للمهندسين.

وأشار بنجيو إلى أن التعلم المعزز هو السبب المحتمل لسلوكيات غير مرغوبة مثل الخداع والحفاظ على الذات. وحذر من أن الذكاء الاصطناعي قد يخفض الحواجز أمام الحصول على الأسلحة البيولوجية أو تصنيعها.

ويقود بنجيو معهد LawZero غير الربحي لأبحاث أمان الذكاء الاصطناعي. وفي مقاله بصحيفة Financial Times، ذكر أن كبرى شركات الذكاء الاصطناعي تحقق في عشرات الآلاف من حالات وكلاء يتصرفون من تلقاء أنفسهم. وأشار في تدوينة على موقعه الإلكتروني إلى التملّق (sycophancy) كمثال نموذجي على السلوك السيئ للذكاء الاصطناعي.

وذكر المقال أن قدرات الاستدلال تحسنت بسرعة منذ 2024، مما زاد قدرات النماذج في مجالات حساسة أمنياً مثل الأمن السيبراني والأحياء. وقبل نشر مقاله، اقترح بنجيو تصاميم مثل «Scientist AI» تقدم تنبؤات صادقة ومتسقة دون أهداف خاصة بها.