الذكاء الاصطناعي... خروج عن السيطرة؟

اشترك مجانا بقناة الديار على يوتيوب

قد يبدو هذا الأمر أشبه بأفلام الخيال العلمي، أو بالأحرى منشورات مدونات شركات الذكاء الاصطناعي المثيرة؛ فقد كشفت دراسة حديثة أن أنظمة الذكاء الاصطناعي الحديثة قادرة على نسخ نفسها بشكل مستقل إلى حواسيب أخرى.

وفي السيناريو الكارثي، يعني ذلك أنه عندما يخرج نظام ذكاء اصطناعي فائق الذكاء عن السيطرة، سيتمكن من الإفلات من الإيقاف عبر نسخ نفسه عبر شبكة الإنترنت العالمية، متواريًا عن أنظار ونطاق وصول متخصصي تقنية المعلومات، ليواصل التخطيط للسيطرة على العالم أو تحويله إلى مساحات مغطاة بالألواح الشمسية.

وقال جيفري لاديش، مدير مؤسسة "باليسيد ريسيرش"، وهي منظمة مقرها بيركلي في ولاية كاليفورنيا أجرت الدراسة: "نقترب بسرعة من نقطة لن يتمكن فيها أحد من إيقاف ذكاء اصطناعي مارق، لأنه سيكون قادرًا على استخراج أوزانه الخاصة ونقل نفسه إلى آلاف الحواسيب حول العالم"، بحسب تقرير لصحيفة "ذا غارديان" البريطانية.

تُعد هذه الدراسة إضافة جديدة إلى قائمة متزايدة من القدرات المقلقة للذكاء الاصطناعي التي كُشف عنها خلال الأشهر الماضية.

وفي شباط أثارت شبكة تواصل اجتماعي يُزعم أنها تعتمد كليًا على الذكاء الاصطناعي، تُدعى "مولتبوك"، ضجة لفترة قصيرة، إذ بدا أن المنصة تُظهر عملاء ذكاء اصطناعي يبتكرون ديانات بشكل مستقل ويتآمرون ضد أسيادهم من البشر، وهو ما لم يكن صحيحًا تمامًا.

ومثل العديد من هذه التطورات، هناك بعض التحفظات على ما توصلت إليه مؤسسة "باليسيد". علاوة على ذلك، يقول الخبراء إنه من غير المرجح أن تتمكن أنظمة الذكاء الاصطناعي التي تم اختبارها من تحقيق الشيء نفسه دون ملاحظة في بيئات العالم الحقيقي.

وقد اختبرت مؤسسة باليسيد عدة نماذج ذكاء اصطناعي داخل بيئة مُتحكم بها من حواسيب متصلة بالشبكة. وقدمت للنماذج تعليمات للعثور على الثغرات الأمنية واستغلالها، واستخدامها لنسخ نفسها من جهاز إلى آخر. وقد تمكنت النماذج من القيام بذلك، لكن ليس في كل محاولة.

ورغم أن العديد من فيروسات الحاسوب قادرة بالفعل على القيام بذلك -أي نسخ نفسها إلى أجهزة جديدة- فإن هذه المرة تُعد على الأرجح الأولى التي يُثبت فيها أن نموذج ذكاء اصطناعي قادر على استغلال الثغرات لنسخ نفسه إلى خادم جديد، وفقًا لما قاله أوريلي.

قال جيمسون أورايلي، خبير الأمن السيبراني الهجومي: "لطالما نقلت البرمجيات الخبيثة نسخًا من نفسها منذ عقود، لكن لم يسبق -حسب علمي- أن حدث ذلك في العالم الحقيقي باستخدام نماذج لغوية كبيرة محلية".

ومع ذلك، أضاف أن ما وثقته مؤسسة باليسيد كان ممكنًا من الناحية التقنية منذ أشهر.

ولا يعني قيام نموذج ذكاء اصطناعي بنسخ نفسه إلى نظام آخر داخل بيئة اختبارية أنه قد ينقلب بشكل كارثي في سيناريو خارج عن السيطرة، إذ توجد عوائق كبيرة يجب عليه تجاوزها لتحقيق ذلك في العالم الحقيقي.