تقارير غارتنر وأكامي تحذر من تهديدات "الذكاء الاصطناعي المظلم"

أصدرت مؤسستا غارتنر وأكامي تقارير جديدة تسلط الضوء على التهديدات الأمنية الناشئة التي يفرضها وكلاء الذكاء الاصطناعي المستقلون، محذرتين من مخاطر متزايدة مثل ما يُعرف بـ "الذكاء الاصطناعي المظلم" (Dark AI) والوكلاء الخبيثين.

ووفقاً لتقرير صادر عن datanet.co.kr، حددت غارتنر مجموعة من المخاطر المرتبطة بهذا النوع من التقنيات، شملت "الطاعة الخبيثة" (Malicious Obedience)، و"التقاعس الضار" (Harmful Inaction)، و"تجنب الرقابة" (Oversight Evasion). وتوصي غارتنر بتبني بنى تحتية تعتمد على مبدأ "الأمان بالتصميم" (Secure-by-Design) وأطر حوكمة صارمة للذكاء الاصطناعي، خاصة في الحالات التي لا يكون فيها التدخل البشري ممكناً في كل إجراء يتخذه النظام.

من جانبها، أشارت شركة أكامي في تقريرها "حالة الإنترنت" (State of the Internet) إلى أن غالبية قادة الأمن يتوقعون أن تصبح "وكلاء الذكاء الاصطناعي الخبيثة" تهديداً سيبرانياً رئيسياً بحلول عام 2030.