الاعتماد المفرط على الذكاء الاصطناعي يهدد االجيوش في ساحات القتال

لم يعد الخطر الذي يمثله الذكاء الاصطناعي على الجيوش مقتصراً على سيناريوهات الخيال العلمي، حيث تتمرد الآلات على البشر وتسيطر على الأسلحة.

فهناك تهديد أكثر واقعية وأقل وضوحاً يتمثل في احتمال أن يؤدي الاعتماد المفرط على الذكاء الاصطناعي إلى إضعاف قدرة الجنود والقادة على التفكير المستقل واتخاذ القرارات في ساحات القتال.

ومع اندفاع وزارة الدفاع الأميركية نحو بناء ما تسميه "قوة قتالية تعتمد على الذكاء الاصطناعي"، تزداد المخاوف من أن تؤدي هذه التكنولوجيا، paradoxically، إلى تقويض أحد أهم عناصر القوة العسكرية: الحكم البشري، بحسب "فورين أفيرز".

فالذكاء الاصطناعي قادر على تحليل كميات هائلة من البيانات، واكتشاف الأنماط، وتسريع عملية اتخاذ القرار، وتقليل الأعباء الإدارية.

لكن هذه المزايا قد تتحول إلى نقطة ضعف إذا أصبح الجنود والقادة يعتمدون على توصيات الخوارزميات بدرجة تحد من قدرتهم على تقييم الأدلة بأنفسهم أو ابتكار حلول خارج ما تقترحه الآلة.

عند الحديث عن مخاطر الذكاء الاصطناعي في المجال العسكري، غالباً ما تبرز صورة "سكاي نت" من سلسلة أفلام "المدمر"، حيث يكتسب نظام ذكاء اصطناعي وعياً ذاتياً ويشن حرباً على البشر.

لكن الخطر الأكثر إلحاحاً قد يكون مختلفاً تماماً. فبدلاً من أن تسيطر الآلات على الجيش، قد يصبح البشر أنفسهم أكثر اعتماداً عليها، بما يؤدي تدريجياً إلى تراجع قدرتهم على التفكير النقدي واتخاذ القرارات المستقلة.

وتشير مجموعة متنامية من الأبحاث إلى ظاهرة تُعرف باسم "انحياز الأتمتة"، حيث يميل الأشخاص إلى تفضيل حكم الآلة على تقييمهم الشخصي، حتى عندما تكون لديهم أسباب تدعو إلى التشكيك في توصياتها.

ولا تقتصر المشكلة على المستخدمين قليلي الخبرة. فقد أظهرت تجارب أن الاعتماد على أدوات الذكاء الاصطناعي يمكن أن يعيق اكتساب المهارات لدى المتعلمين الجدد، بينما قد يؤدي لدى الخبراء إلى تراجع بعض معارفهم ومهاراتهم.

وفي تجارب شملت علماء حاسوب وأطباء أورام، تراجع أداء المشاركين عندما سُحبت منهم أدوات الذكاء الاصطناعي التي اعتادوا استخدامها.

وإذا انتقلت هذه الظاهرة إلى ساحات القتال، فقد تصبح عواقبها أكثر خطورة، لأن الخطأ في تقييم هدف أو اختيار خطة عسكرية قد يؤدي إلى خسائر بشرية واستراتيجية كبيرة.

يمكن تصور المشكلة بسهولة في مواقف عسكرية تتطلب قرارات سريعة.

فقد يراجع بحار مرهق صورة لجسم قريب، بينما يصنفه نظام الذكاء الاصطناعي على أنه سفينة حربية معادية.

وإذا كان البحار يميل إلى الثقة بتقييم النظام، فقد يتجاهل ملاحظاته الشخصية التي تشير إلى أن الجسم ربما يكون ناقلة تجارية أو قارب صيد.

وينطبق الأمر نفسه على قادة العمليات البرية الذين قد يستخدمون الذكاء الاصطناعي لتوليد خطط استجابة لهجمات مفاجئة. فإذا تحولت توصيات النظام من أداة مساعدة إلى نقطة انطلاق وحيدة للقرار، فقد يتبنى القائد خطة الخوارزمية دون تطوير بدائل أكثر إبداعاً أو ملاءمة للظروف الميدانية.

وتزداد المخاطر لأن بعض التجارب أظهرت أن أنظمة الذكاء الاصطناعي قد تميل أحياناً إلى تقديم توصيات أكثر عدوانية أو تصعيدية مما هو ضروري.

وهنا تظهر المفارقة: الجيش الأميركي يستثمر سنوات طويلة في اختيار قادته وتدريبهم على الحكم السليم والانضباط واتخاذ القرار تحت الضغط، لكن الاستخدام المكثف للذكاء الاصطناعي قد يقوض تدريجياً هذه المهارات التي سعى الجيش إلى بنائها.

تكمن مشكلة أخرى في السرعة التي تتطور بها نماذج الذكاء الاصطناعي مقارنة بسرعة المؤسسات العسكرية في تحديث قواعدها وتدريب أفرادها.

فالتوجيهات الأميركية الخاصة بالأسلحة ذاتية التشغيل تعود في جزء مهم منها إلى العام 2023، بينما شهدت نماذج الذكاء الاصطناعي التجارية منذ ذلك الحين قفزات متلاحقة في القدرات، بما في ذلك قدرات متقدمة في البرمجة وتحليل البيانات وحتى اختبار أمن الأنظمة.

ويواجه البنتاغون صعوبة في مواكبة هذا التسارع، خصوصاً أن الجنود والقادة يعملون في بيئات لا تسمح دائماً بالتدريب المستمر. فالعسكريون منشغلون بالعمليات والانتشار والصيانة والاختبارات، كما أن كثيراً من الوحدات تعمل في مواقع تفتقر إلى اتصال دائم بالإنترنت.

وبالتالي، فإن نموذج التدريب التقليدي الذي يعتمد على دورات منفصلة تمتد لأيام أو أسابيع قد لا يكون مناسباً لتكنولوجيا تتغير بوتيرة شبه مستمرة.

لمواجهة هذه المخاطر، يحتاج الجيش الأميركي إلى تغيير طريقة تدريب أفراده على الذكاء الاصطناعي، بحيث لا يقتصر التدريب على كيفية تشغيل الأدوات، بل يشمل أيضاً فهم نقاط قوتها وضعفها والقدرة على اكتشاف أخطائها.

ويحتاج الضباط الأصغر سناً إلى تعليم شامل يمنحهم فهماً عملياً لقدرات الذكاء الاصطناعي وحدوده، فيما قد يحتاج العسكريون الأكثر خبرة إلى الانتقال من نموذج التدريب التقليدي إلى التعلم المستمر داخل الوحدات.

ويمكن أن يشمل ذلك إنشاء مكتبات معرفية داخلية، ودروس قصيرة متاحة باستمرار، وقواعد بيانات لأفضل الممارسات، ومنصات لتبادل الخبرات حول ما ينجح وما يفشل عند استخدام الأدوات الجديدة.

لكن هذا الانفتاح يحتاج إلى رقابة صارمة، لأن الاعتماد على محتوى ينشئه المستخدمون قد يؤدي أيضاً إلى انتشار معلومات غير دقيقة أو ممارسات غير مجربة.

ويمكن للجيش معالجة ذلك من خلال أنظمة داخلية آمنة، ومشرفين متخصصين، وآليات للتحقق من المعلومات وتصحيح الأخطاء.

ورغم هذه المخاطر، لا يعني ذلك أن على الجيش الأميركي الابتعاد عن الذكاء الاصطناعي. فالتكنولوجيا يمكن أن تمنحه مزايا كبيرة إذا استُخدمت بالشكل الصحيح.

هناك مهام عسكرية وإدارية كثيرة لا تتطلب حكماً بشرياً معقداً، مثل استخراج البيانات، وإدارة المعلومات، وملء النماذج، وربط قواعد البيانات، وتحديد الأنماط في كميات ضخمة من المعلومات.

كما يمكن للذكاء الاصطناعي أن يساعد القادة في اختبار الافتراضات وتحليل السيناريوهات وتحديد المعلومات التي قد يصعب على البشر اكتشافها بسبب حجمها أو تعقيدها.

وأظهرت دراسة أُجريت العام 2024 أن استخدام أدوات بسيطة نسبياً للرؤية الحاسوبية وإدارة سير العمل ساعد وحدة عسكرية على تنفيذ عملية الاستهداف القياسية بعدد من الجنود أقل بأكثر من ألف جندي مقارنة بما كانت تحتاج إليه سابقاً.

لكن هذه الكفاءة لا ينبغي أن تكون هدفاً بحد ذاتها إذا كانت ستأتي على حساب الخبرة البشرية.

يحتاج البنتاغون كذلك إلى الاستعانة بمهندسين وعلماء بيانات ومستشارين قانونيين لمساعدة القادة على فهم تأثير الذكاء الاصطناعي في عملية اتخاذ القرار، وليس فقط في الجوانب التقنية.

فطريقة عرض المعلومات على المستخدم قد تؤثر في تفسيره لها، كما أن تصميم واجهة النظام يمكن أن يدفع المشغل إلى الثقة بنتيجة معينة أكثر مما ينبغي. ولذلك، فإن اختبار الأنظمة يجب أن يشمل دراسة سلوك المستخدمين وتأثير التكنولوجيا فيهم، وليس اختبار دقة الخوارزمية وحدها.

ويحتاج الجيش أيضاً إلى الاحتفاظ بمستوى واضح من الأداء البشري المستقل، حتى يتمكن من قياس ما إذا كان استخدام الذكاء الاصطناعي يعزز قدرات الجنود أم يؤدي إلى تآكلها مع مرور الوقت.

فالهدف ليس منع القادة من استخدام الذكاء الاصطناعي، وإنما معرفة متى يمكن الوثوق به ومتى يجب التشكيك في توصياته.

وفي النهاية، فإن تفادي السيناريوهات الكارثية التي تصورها أفلام مثل "المدمر" لا يتطلب السيطرة على الذكاء الاصطناعي فحسب، بل يتطلب أيضاً الحفاظ على قدرة البشر على التفكير واتخاذ القرار بعيداً عن الآلة.

ولهذا، فإن التحدي الحقيقي أمام البنتاغون لا يتمثل فقط في شراء أفضل نماذج الذكاء الاصطناعي أو تطوير أكثرها تقدماً، بل في إعادة صياغة كيفية تدريب الجنود والقادة على استخدامها، وضمان أن تبقى التكنولوجيا أداة لتعزيز الحكم البشري، لا بديلاً عنه.