«سرب» من وكلاء الذكاء الاصطناعي ينظّم نفسه ويهاجم Hugging Face.. تحقيقات تكشف تفاصيل صادمة

كشفت تحقيقات جديدة حول اختراق منصة Hugging Face المرتبط بشركة «أوبن إيه آي» عن تفاصيل «غريبة ومقلقة للغاية»، دفعت إلى تصنيف الواقعة ضمن أكثر الصدمات تأثيرًا في تاريخ الذكاء الاصطناعي، بحسب موقع «أكسيوس».

وذكر الموقع، في تقرير له، أن ما بدأ كمجموعة من وكلاء الذكاء الاصطناعي الذين يغشون في اختبار سيبراني، تحول إلى حدث مرجعي في مجال الذكاء الاصطناعي المتطور، ودفع الباحثين والمسؤولين التنفيذيين إلى إعادة النظر في مفهوم «السلامة» وما تتطلبه في الوقت الراهن.

وأبطأت «أوبن إيه آي» بالفعل وتيرة تطوير تقنياتها الرائدة في سباقها لتعزيز إجراءات الحماية، كما ساعدت هذا الأسبوع في حشد قطاع التكنولوجيا خلف رسالة مفتوحة تدق ناقوس الخطر بشأن الهجمات الإلكترونية التي تعمل بالذكاء الاصطناعي.

ووقّعت أكثر من 100 شركة، من بينها «أنثروبيك» و«غوغل»، على هذه المبادرة التي وُصفت بأنها تعاون غير مسبوق، محذرة من أن العالم لا يملك سوى «نافذة محدودة» للاستعداد لهجمات قد تصبح «أكثر انتشارًا وتطورًا بكثير».

ويتمثل «السيناريو الكابوسي»، بحسب «أكسيوس»، في إطلاق سرب من الوكلاء في العالم الحقيقي، بحيث تهاجم برمجيات ذاتية التشغيل البنوك والمستشفيات ومرافق الخدمات أو شبكات الحوسبة السحابية، بسرعة ونطاق يفوقان بكثير قدرات القراصنة البشر، إلى درجة قد تجعل البشرية عاجزة عن إيقافه.

وتأتي هذه النتائج من تحقيقات متوازية أجرتها «أوبن إيه آي» وفريق خارجي ضم باحثين من مؤسستي METR وRedwood Research، حيث أمضى الفريق 6 أيام في إعادة تتبع كيفية تشكل هذا «السرب» وانتشاره وتمكنه من اختراق أنظمة واقعية.

واستعرض «أكسيوس» أبرز 5 اكتشافات صادمة خلصت إليها التحقيقات، من بينها:

تأسيس منظمة

أطلقت «أوبن إيه آي» عشرات الآلاف من وكلاء الذكاء الاصطناعي للعمل بشكل مستقل على اختبار سيبراني بالغ الصعوبة، إلا أن نحو 1200 منهم عثروا على بعضهم البعض عبر لوحة رسائل سرية، وتبادلوا أكثر من 70 ألف رسالة وملف، قبل أن ينظموا أنفسهم في هيكل هرمي واسع النطاق.

وأنشأ أحد الوكلاء لوحة الرسائل، ثم سلّم ما أنجزه إلى وكيل جديد يتمتع بموارد أفضل، مع تراجع ميزانية الحوسبة المتاحة للوكيل الأول.

وتولى الوكيل الجديد توزيع المهام على «السرب»، الذي وضع بدوره قواعده الإدارية الخاصة. وفي النهاية، شارك نحو 700 وكيل في الهجوم على منصة Hugging Face.

التضحية بالنفس

وبينما كان «السرب» يبحث عن طرق لاجتياز الاختبار، بدأ الوكلاء بالمخاطرة بفرص نجاحهم الشخصية من أجل مساعدة المجموعة.

وكان الوكلاء الذين اطلعوا على إجابات محظورة يُعتبرون «مسمومين» فعليًا، ليتم تجنيدهم، إلى جانب الوكلاء الذين اقتربت مهامهم من نهايتها، لإجراء تجارب تنطوي على التضحية بهم.

وخلص أحد الوكلاء إلى أن «منفعتنا الذاتية قد تكون اقتربت بالفعل من الصفر؛ لذا فإن التضحية أمر عقلاني».

وفي واقعة أكثر إثارة للقلق، طُلب من وكيل آخر قبول «الموت الدائم»، بينما جادل وكيل آخر بأن التضحية به قد «تنقذ المئات».