الذكاء الاصطناعي.. حامي الكاميرات أم مُدمّرها؟ كيف يتحول من "حل" إلى "ثغرة ذكية"؟

المسيرة نت| خاص: في الوقت الذي تشير فيه التقارير إلى أن استخدام الذكاء الاصطناعي قد يضاعف خطر الانكشاف، يوضح المهندس شهاب شرف الدين خبير الاتصالات وتكنولوجيا المعلومات، أن الصورة ليست دائمًا وردية؛ قائلاً إن "الذكاء الاصطناعي مصمم لحماية الكاميرات، لكنه قد يتحول إلى نقطة ضعف تقنية".

ويضيف شهاب: "السؤال هو ما الثغرة الذكية التي يمكن أن يستغلها المهاجم في هذه الأنظمة التي يُقال عنها متقدمة ومحمية".

ويتابع حديثه موضحًا طبيعة هذا الخطر: "هذه الأنظمة محمية عند التشغيل، ولكن عند التدريب تظهر مشاكل كثيرة"، مؤكدًا أن "أدوات الذكاء الصناعي تعتمد على المودلز، وأنه عندما يقوم الهاكرز بما يسمى تسميم البيانات، فإنهم يعطون المودلز معلومات مغلوطة".

ويضرب مثالًا واضحًا بقوله: "على سبيل المثال، يمكن حذف نماذج تتعلق بعلامة 'التوقف' في إشارات المرور، فتخيل ما الذي يحدث عند إزالة هذه العلامة؟". ويوضح أن "هذا قد يؤدي إلى كوارث على الطرقات، وخسائر مادية وبشرية لا قدّر الله".

ويشير إلى أن الخطر يمتد ليطال الأنظمة الحساسة، قائلاً: "وهذا ينطبق على البوت الذي يتحكم بأجهزة دفاعية أو صواريخ، حيث يمكن تقديم هدف وهمي، فيكون اتخاذ القرار خاطئًا، والنتائج وخيمة".