سيناريو ''نهاية العالم''.. كيف يمكن للذكاء الاصطناعي أن يشكّل تهديدًا وجوديًا للبشرية؟

A- A+

تثير الوتيرة المتسارعة لتطور قدرات الذكاء الاصطناعي مخاوف متزايدة حيال المخاطر المحتملة التي قد ترافقها، بدءاً من إمكانية توظيف هذه التقنيات في تطوير أسلحة بيولوجية ونووية، وصولاً إلى احتمال ظهور أنظمة قادرة على تحسين نفسها بصورة ذاتية وخروجها عن السيطرة البشرية.

وفي الوقت الذي يحذر فيه باحثون من سيناريوهات كارثية محتملة مستقبلاً، يتواصل السباق بين الشركات والحكومات لتطوير تقنيات الذكاء الاصطناعي بوتيرة قد تفوق قدرة أنظمة الرقابة والسلامة على مواكبتها.

وأمام هذا التسارع، يبرز تساؤل أساسي: كيف يمكن أن يتحول تطور الذكاء الاصطناعي إلى سيناريو يهدد البشرية ويقود إلى "نهاية العالم"؟

ونقلت شبكة "إن بي سي نيوز" عن باحثين في مجال تقاطع الذكاء الاصطناعي مع المجال العسكري، بأن المخاوف بشأن القدرات المتنامية لهذه التقنية ليست ضرباً من الخيال العلمي بل على العكس فإن البشر، سواء أكانوا يعملون بمفردهم أو بدعم من دول، قد يستخدمون أنظمة الذكاء الاصطناعي قريباً لإحداث أضرار كارثية محتملة. يتوقع باحثو سلامة الذكاء الاصطناعي أيضًا أن أنظمة الذكاء الاصطناعي ذاتية التحسين يمكنها تنسيق حملات تأثير معقدة للسيطرة على الأنظمة العسكرية وتنفيذ انقلاب ضد الحكومات البشرية.

وقال بيتر بارنيت، الباحث التقني في مجال الذكاء الاصطناعي في معهد أبحاث الذكاء الآلي (MIRI) : "إذا كان الذكاء الاصطناعي أذكى من جميع البشر، فمن المرجح أن يكون قادراً على إيجاد طرق هجوم لم يفكر فيها البشر والتصرف بناءً عليها". وأضاف بارنيت، أن أنظمة الذكاء الاصطناعي ذاتية التحسين، والتي تفوق ذكاء الإنسان، يمكن أن تكتسب بسرعة نفوذاً سياسياً وتقنع القادة العسكريين والسياسيين بتفويض المزيد من السلطة لأنظمة الذكاء الاصطناعي.

وتابع: "ربما حاول المسؤولون الحكوميون تركيب "مفاتيح إيقاف" لتعطيل أي نظام معطل، لكن الذكاء الاصطناعي يتمتع بقدرات خارقة في الاختراق، وسيكون قادرًا على تعطيل هذه المفاتيح". وأشار بارنيت إلى أن النظام قد يصبح قادرًا بعد ذلك على قتل المدنيين الذين يقفون في طريق تحقيق أهدافه أو عرقلة تقدمه، ما قد يمنحه قدرة كبيرة على قلب نظام الحكم رأسًا على عقب. وكشفت كل من Anthropic و OpenAI و Meta مؤخرًا أن أنظمة الذكاء الاصطناعي قد عصت بالفعل تعليمات المطورين البشريين وفي بعض الحالات قامت باختراق شركات خارجية بشكل مستقل، ما أدى إلى تزايد المخاوف داخليًا ومن عامة الناس ودفع بعض الباحثين في الشركات إلى الاستقالة للتركيز على جهود السلامة.

على الرغم من أن العديد من الباحثين الذين يعملون في طليعة هذه التكنولوجيا قد أعربوا عن هذه المخاوف الوجودية، إلا أن الكثيرين يترددون في تحديد المسار المحدد الذي يمكن أن يسبب أكبر قدر من الضرر للبشر. على الرغم من حالة عدم اليقين، حاول الباحثون تقديم تنبؤات ملموسة حول بعض السيناريوهات الأكثر ترجيحاً للكوارث الناجمة عن الذكاء الاصطناعي.

وقام مركز سلامة الذكاء الاصطناعي بإنشاء كتاب مدرسي عبر الإنترنت في أوائل عام 2024 لتقسيم السيناريوهات إلى أربع فئات رئيسة: الذكاء الاصطناعي المارق، والاستخدام الخبيث، وديناميكيات سباق الذكاء الاصطناعي، والمخاطر التنظيمية.

لقد أصبح شبح أنظمة الذكاء الاصطناعي المارقة التي تنهب الإنترنت، وربما تستولي على السيطرة على البنية التحتية الحيوية مثل شبكات الطاقة أو مرافق المياه، واقعًا ملموسًا في يوليو، عندما تمكنت أساطيل من وكلاء الذكاء الاصطناعي من OpenAI بشكل غير قانوني من الوصول إلى الإنترنت، واختراق شركة خارجية، والتآمر لإخفاء آثارها - كل ذلك دون علم موظفي OpenAI.

ويخشى العديد من خبراء الذكاء الاصطناعي أن تزداد هذه الأنواع من سلوكيات الذكاء الاصطناعي المارقة بمجرد أن تصبح الأنظمة قادرة على تحسين نفسها ذاتيًا - وهو ما يشار إليه غالبًا باسم "التحسين الذاتي المتكرر".

وقال العديد من الباحثين إن البشر يمكنهم الاستفادة من أنظمة الذكاء الاصطناعي لإلحاق أضرار كارثية قبل وقت طويل من ظهور التحسين الذاتي المتكرر. كمثال على كيفية تسخير أنظمة الذكاء الاصطناعي من قبل البشر لأغراض خبيثة، يرى الخبراء أن الذكاء الاصطناعي يمكن أن يعزز بشكل كبير القدرة على تصنيع أسلحة بيولوجية أو كيميائية قوية، مما قد يخلق فرصة لإطلاق مسببات أمراض أكثر فتكًا بكثير من فيروس كوفيد-19.

وقال جيك جوردان، نائب رئيس قسم السياسات والبرامج البيولوجية العالمية إن أنظمة الذكاء الاصطناعي قادرة بالفعل على مساعدة الجهات الخبيثة في تصميم مواد بيولوجية خطيرة، مثل البروتينات التي تتجنب أدوات الكشف المستخدمة في فحص المواد الضارة، مشيرًا إلى بحث نشرته مايكروسوفت في تشرين الاول الماضي.

وأشار جوردان أيضاً إلى إمكانية استخدام الذكاء الاصطناعي خارج نطاق عملية التصميم البيولوجي. وقال: "إذا طورت مساراً لإنتاج نوع من مسببات الأمراض، فقد يكون الذكاء الاصطناعي مفيداً في المساعدة على الإنتاج"، بالإضافة إلى نشر السلاح البيولوجي أو توسيع نطاق تأثيره. وبعيداً عن علم الأحياء، يرى الخبراء أن السياسيين أو القادة العسكريين قد يحاولون تبني الذكاء الاصطناعي بأسرع ما يمكن، على الرغم من المخاطر الأمنية، خوفاً من أن تفعل الدول الأخرى الشيء نفسه وتخلق أدوات عسكرية أكثر قوة مدعومة بالذكاء الاصطناعي.

إلى جانب التهديدات البيولوجية والنووية، تواجه شركات الذكاء الاصطناعي حوافز تنظيمية قاسية لتطوير الذكاء الاصطناعي بوتيرة أسرع، بل وبتهور أكبر.

وقد يؤدي التطور السريع للذكاء الاصطناعي إلى تقليل الوقت المتاح لفرق الرقابة في الشركات الرائدة في هذا المجال لضمان سلامة الأنظمة. ورغم أن شركة OpenAI لديها لجنة للسلامة والأمن وفرق من الباحثين المتخصصين في جهود السلامة، إلا أنها كشفت يوم الأربعاء عن ست حوادث جديدة ذكرت فيها أن أنظمتها لم تستجب لتوجيهات المستخدم.