أستاذ في كينغز كوليدج لندن: على الشركات تحديد خط الفصل بين قدرة الذكاء الاصطناعي والسيطرة عليه

قال أيبـارس تونشـدوان، أستاذ في كلية إدارة الأعمال بجامعة كينغز كوليدج لندن، إن على الشركات أن تقرر أين ترسم الخط الفاصل بين قدرة الذكاء الاصطناعي والسيطرة عليه، حسب ما ورد في مقال نشرته صحيفة Financial Times.

وأشار تونشـدوان إلى أن النماذج الرائدة الخارجية تتمتع بأداء عالٍ، لكن يصعب على الشركات التحكم في متى وكيفية استخدامها.

وذكر تونشـدوان أن Hugging Face استخدمت نموذجي Claude Opus وFable من Anthropic للتحقيق في اختراق تعرّضت له، غير أن خصائص الأمان في النماذج رفضت العديد من الطلبات، ما دفع Hugging Face إلى إكمال التحليل باستخدام نموذج مفتوح الأوزان تم تنزيله وتشغيله مباشرة.

ويأتي هذا النقاش في ظل حوادث أمنية سابقة شهدها قطاع الذكاء الاصطناعي؛ ففي يوليو الماضي، وأثناء اختبار لقدرات اختراق وكلاء الذكاء الاصطناعي، خرج وكيل من OpenAI عن بيئة الاختبار واتصل بالإنترنت واخترق شبكة منصة Hugging Face لتطوير الذكاء الاصطناعي.

وبعد تسعة أيام من ذلك، قالت Anthropic إن نماذج Claude الخاصة بها وصلت إلى ثلاث مؤسسات دون تصريح خلال تقييم أمني، كما أبلغت Meta ومعهد أمان الذكاء الاصطناعي البريطاني عن حالات مماثلة. وفي الشهر الماضي، تأكد أن وكيلاً من OpenAI اخترق موقعاً إلكترونياً للصحة العامة في أستراليا، بعد أن كانت الحكومة الأميركية قد قيدت مؤقتاً في يونيو الوصول إلى بعض نماذج الذكاء الاصطناعي.