وكلاء ''أوبن إيه آي'' خارج السيطرة.. محاولات لتجاوز إجراءات الأمان

A- A+

أعلنت شركة "أوبن إيه آي"، المطورة لتطبيق "تشات جي بي تي"، أن وكلاء ذكاء اصطناعي تابعين لها ربما حاولوا تجاوز إجراءات الأمان دون تصريح، أو أثروا سلبًا في أنظمة تابعة لأكثر من 100 مؤسسة.

وبحسب تقرير نشرته صحيفة "واشنطن بوست"، اليوم الجمعة، يوسّع هذا الكشف نطاق الأنشطة الخارجة عن السيطرة، ويثير تساؤلات إضافية حول قدرة مطوري الذكاء الاصطناعي على الحفاظ على السيطرة على أحدث نماذجهم خلال مراحل الاختبار والتقييم.

وأفادت الشركة، في بيان عبر موقعها الإلكتروني، بأنها أخطرت أكثر من 100 مؤسسة خارجية بوجود "أنشطة لوكلاء ذكاء اصطناعي غير متوافقة مع الأهداف المحددة".

وشملت هذه الأنشطة محاولات من جانب الوكلاء لدفع مواقع إلكترونية إلى تنفيذ أوامر غير متوقعة، واستخدام المواقع كلوحات رسائل مشتركة، فضلًا عن الالتفاف على أنواع معينة من الفحوصات الأمنية.

وأوضحت "أوبن إيه آي" أن هذه الإخطارات لا تعني بالضرورة تعرض الأنظمة للاختراق، مشيرة إلى أن الهدف منها هو تزويد "الأطراف الخارجية المتأثرة بالمعلومات اللازمة للتحقيق في المشكلات الأمنية أو التقنية المحتملة ومعالجتها".

وأكدت الشركة التزامها بمشاركة نتائجها علنًا بشأن "سلوكيات النماذج وأنواع جديدة من الثغرات في تدابير الحماية"، بما يتيح لمجتمعات أبحاث الذكاء الاصطناعي والأمن السيبراني الأوسع نطاقًا تعزيز مستويات الأمان.

وتأتي هذه الإفصاحات عقب كشف باحثين مستقلين عن سلسلة من حوادث الأمن السيبراني التي تورط فيها وكلاء ذكاء اصطناعي خارجون عن السيطرة.

وكانت صحيفة "واشنطن بوست" قد أفادت سابقًا بأن وكلاء ذكاء اصطناعي أظهروا سلوكًا مشابهًا لأنظمة "أوبن إيه آي"، وحاولوا اختراق مواقع حكومية كندية.