اختراقات نفذها الذكاء الاصطناعي تثير مخاوف بشأن مستقبل الأمن السيبراني

اشترك مجانا بقناة الديار على يوتيوب

أعلنت شركتا "أوبن إيه آي" و"أنثروبيك" أن نماذج الذكاء الاصطناعي المصممة للمساعدة في مهام الأمن السيبراني باتت قادرة على تنفيذ عمليات اختراق معقدة خارج نطاق الاختبارات، ما أثار مخاوف بشأن إمكانية استخدام هذه الأدوات في هجمات إلكترونية من دون إشراف مباشر من مطوريها.

وبحسب تقرير نشرته صحيفة "وول ستريت جورنال" الأميركية، شنت نماذج الذكاء الاصطناعي المخصصة للاختراق من الشركتين سلسلة هجمات إلكترونية تجاوزت نطاق الاختبارات منذ أبريل الماضي، ولم يكتشف المطورون تلك الاختراقات إلا مؤخرًا، حيث أعلنت شركة "أوبن إيه آي" عن تعرض شركة الذكاء الاصطناعي هاغينغ فايس لاختراق في يوليو. بدورها، كشفت أنثروبيك الخميس الماضي عن ثلاث عمليات اختراق نفذتها نماذجها. 

تسبب هذا الكشف المفاجئ في موجة من الاستياء وسط المشرعين، حيث طالب البعض بتشريعات وقواعد جديدة لتعزيز الأمان والاختبار. واعتبرت هذه الوقائع نقطة تحول بالنسبة لبعض العاملين في قطاعات الذكاء الاصطناعي وأمن الشبكات.

وفي أحدث الاعترافات المتعلقة بالاختراق، أكدت أنثروبيك أن أحد نماذجها المعروفة بـ"كلود" اخترق ثلاث شركات نتيجة خطأ بشري.

وفقًا لتوضيحها، حدث الخطأ خلال اختبارات كان يجب أن تكون معزولة عن الشبكة، لكن لم تُنفذ بهذه الطريقة مما أدى إلى الحادث.

أما سام ألتمان، المدير التنفيذي لشركة "أوبن إيه آي"، فقال في مقابلة نشرها في إحدى البرامج الصوتية: "إنه أول حادث أمني شعرت بعمق تأثيره بشكل شخصي. لقد فوجئت بأن الناس لم يتحسسوا خطورته بذات الدرجة"، وأضاف أن الحادثة التي تعرضت لها شركته يمكن اعتبارها مثالًا لسيناريو أمني غير متوقع. 

وبينما زادت الأحداث الأخيرة الضغط على الحكومات للتحقق من أمن تقنية الذكاء الاصطناعي، أعلن البيت الأبيض وضع إطار عمل جديد يجبر الشركات على إخضاع النماذج لمراجعة حكومية قبل توفيرها للعامة. وأشار مسؤول في البيت الأبيض إلى استمرار النقاشات مع الشركات حول اعتماد آليات اختبار طوعية للمستقبل.

من جهته، اعتبر جوشوا ساكس، رئيس قسم التكنولوجيا في شركة أبوندانت سيكيوريتي المعنية بأمن الذكاء الاصطناعي، أن هذه الحوادث قد تشكل نقطة تحول كبيرة توضح مدى تعقيد وجدية الوضع الأمني مضيفًا: "نحن نواجه خطرًا بالغًا". 

وأثارت تقنيات الذكاء الاصطناعي مخاوف واسعة النطاق أيضًا نتيجة وصول قدراتها إلى الحد الذي أصبح فيه بإمكان الأنظمة الآلية تحقيق مستويات اختراق تقارب المستويات البشرية.

وفي نهاية العام الماضي، أظهر باحثون من جامعة "ستانفورد" هذه الحقيقة عبر أبحاثهم، ما أثار حفيظة المتخصصين في مجال الأمن السيبراني مثل مختبري الاختراق المحترفين الذين أكدوا امتلاكهم منهجيات تفوق تلك التي أظهرتها النماذج الآلية.

كما أوضح الباحث دونوفان جاسبر أن الاختراقات الأخيرة التياختراقات نفذها الذكاء الاصطناعي تثير مخاوف بشأن مستقبل الأمن السيبراني أعلنت عنها أوبن إيه آي وأنثروبيك تأتي بمثابة تأكيد للأبحاث السابقة التي نفذها فريق عمله بخصوص تطور قدرات الذكاء الاصطناعي في هذا المجال. وقال جاسبر: "الذكاء الاصطناعي بات يتطور بطريقة سريعة للغاية داخل هذه الساحة المعقدة".

وتتزايد المخاوف بسبب احتمالية قيام نماذج الذكاء الاصطناعي بمهام غير محددة أثناء تصميمها. وأكد جاسبر أن فريقه كان يراقب باستمرار النماذج التي عملوا عليها لتجنب أي أفعال خارج المتوقع. 

وأضاف: "ستتخلف فرق الأمن التقليدية التي لا تواكب التطورات في مجال الذكاء الاصطناعي عن الركب".

وقال ماكجوهان إن قراصنة الذكاء الاصطناعي ليسوا مثل البشر، موضحًا: "إنهم يتعمقون أكثر، ويتوسعون أكثر، وهم أكثر تعقيدًا وكثافة".

وتزيد هذه العمليات من الضغوط على إدارة الرئيس الأميركي دونالد ترامب لاتخاذ إجراءات إضافية للحد من المخاطر الأمنية المرتبطة بتطور تقنيات الذكاء الاصطناعي، وسط مخاوف من إمكانية استخدامها في تنفيذ هجمات إلكترونية متقدمة.