تحقيق يكشف الخطر الخفي للذكاء الاصطناعي داخل البرلمان الأسترالي

تسلّمت لجان البرلمان الأسترالي، خلال الأشهر الماضية، دراسات ومراجع غير موجودة أصلًا، بعدما لجأ أفراد ومؤسسات إلى استخدام أدوات الذكاء الاصطناعي في إعداد مذكرات يفترض أن تساعد النواب في صياغة السياسات والتشريعات.

وكشف تحليل أجرته صحيفة "الغارديان أستراليا" أن ما لا يقل عن 39 مذكرة مقدمة إلى تحقيقات برلمانية تضمنت مراجع تبدو مختلقة أو مشوّهة بفعل الذكاء الاصطناعي.

وفي بعض الحالات، استشهدت اللجان بتقارير احتوت على مصادر لا وجود لها إطلاقًا.

ويحذّر خبراء من أن استمرار هذه الظاهرة قد يدفع البرلمانيين إلى اتخاذ قرارات اعتمادًا على أدلة لم توجد قط.

ومن بين أبرز الأمثلة مذكرة قُدّمت إلى تحقيق حول العنف الأسري والانتحار، تضمنت دراسة منسوبة إلى ديفنا هاسلام، أستاذة علم النفس الإكلينيكي في جامعة كوينزلاند. وبدا المرجع أكاديميًا ومتكاملًا، لكنه كان مختلقًا بالكامل، كما نُسبت إلى فريق هاسلام نتائج لا علاقة لها بأبحاثه الحقيقية.

وقالت الباحثة إن المرجع كان مخيفًا، لأنه صيغ بطريقة قد تقنع أي قارئ يمر عليه سريعًا. واعترفت الجهة التي أعدت المذكرة، وهي دريل داون ريبورتس، باستخدام الذكاء الاصطناعي في عملية البحث، مؤكدة أنها اكتشفت الأخطاء لاحقًا، لكنها لم تتمكن من تعديل النسخة الأصلية قبل انتهاء المهلة.

وفي حالة أخرى، تضمنت مذكرة عن عدم المساواة في الإسكان إحالات إلى أبحاث مزعومة لنيكول غوران من جامعة سيدني، لكنها لم تكتبها. كما ورد في مذكرة أخرى مقال منسوب إلى الصحفية والأكاديمية مارغريت سيمونز، التي قالت إنها لم تكتب المقال، رغم دقة الصياغة التي جعلتها تتساءل للحظة إن كانت قد نسيته.

ولم يعتمد تحقيق "الغارديان" على برامج كشف النصوص المولدة آليًا، تجنبًا للنتائج الخاطئة. وبنى الفريق برنامجًا يستخرج المراجع من مذكرات التحقيقات البرلمانية، ثم يبحث عنها في قاعدة CrossRef وGoogle Scholar، ويفحص معرفات الوثائق الرقمية.

وخضعت المذكرات التي تعذر العثور على 20% أو أكثر من مصادرها لمراجعة بشرية، قبل التواصل مع أصحابها للتحقق. ووجد الفريق أن 39 مذكرة تحتوي على مراجع مختلقة أو غير دقيقة، بينها وثائق لا وجود لأي مصدر مدرج فيها.

كما احتفظ أكثر من 100 ملف بعلامات تظهر عادة عند نسخ الروابط من ChatGPT، لكن التحقيق شدد على أن هذه العلامات لا تثبت وحدها استخدام المنصة مباشرة.

وتزداد خطورة المشكلة عندما تتحول المذكرة البرلمانية إلى مصدر متاح على الإنترنت. ففي حالة الدراسة المنسوبة إلى هاسلام، قدّم ملخص غوغل المدعوم بالذكاء الاصطناعي وصفًا للبحث الوهمي كما لو كان حقيقيًا، مستندًا إلى الوثيقة البرلمانية التي احتوت على المرجع المختلق.

وهكذا تتشكل حلقة تضليل: الذكاء الاصطناعي يخترع دراسة تدخل إلى وثيقة رسمية، لتعود محركات البحث وتعرضها كدليل على صحتها.

ولا يعني قبول مذكرة أو الاستشهاد بها أن البرلمان تبنى ما ورد فيها، لكن مرور المراجع من دون تدقيق قد يؤثر في التوصيات الحكومية، وتوزيع التمويل، وصياغة التشريعات.

وتحمّل إرشادات مجلس الشيوخ الأسترالي مقدمي المذكرات مسؤولية دقة المعلومات، محذرة من مخاطر الاعتماد غير المدقق على الذكاء الاصطناعي.

وقالت OpenAI للصحيفة إن على المستخدمين التعامل مع ChatGPT باعتباره "مسودة أولى لا مصدرًا نهائيًا"، والتحقق من الاقتباسات والأرقام والمراجع.

فالمشكلة لا تبدأ عندما يساعد الذكاء الاصطناعي في كتابة مذكرة، بل عندما تصل المذكرة إلى البرلمان من دون أن يراجع أحد الدراسة التي تزعم الاستناد إليها.