دراسة تضع الذكاء الاصطناعي في مواجهة "الألم"...!

ماذا يحدث عندما تُمنح نماذج الذكاء الاصطناعي حالة داخلية تحاكي الألم؟ هذا ما حاولت دراسة بحثية حديثة الإجابة عنه من خلال تحليل الطريقة التي تمثل بها نماذج اللغة مفهوم الألم داخل بنيتها، ثم اختبار كيفية تغير مخرجاتها وقراراتها عندما يجري تنشيط هذا التمثيل بصورة متعمدة. وتركز الدراسة، التي نُشرت على منصة أركايف على سؤال محدد، وهو هل تستطيع نماذج اللغة تمثيل الألم بطريقة يمكن فصلها عن الخوف والحزن والمشاعر السلبية العامة؟

كيف بحث العلماء عن الألم داخل النماذج؟

اختبر الباحثون 25 نموذجا مفتوح الأوزان من 5 عائلات، بأحجام تراوحت بين ملياري معامل و72 مليار معامل، وأنشؤوا مجموعة بيانات من 200 عبارة تصف مواقف مؤلمة موزعة على 5 أنواع، وهي الألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي، ثم قارنوا هذه العبارات بمحتوى يتعلق بالخوف والحزن والمشاعر السلبية العامة، وحالات جسدية غير مؤلمة، ومحتوى محايد.

ومن خلال تحليل النشاط الداخلي للنماذج، تمكن الباحثون من استخراج اتجاه رياضي أطلقوا عليه محور الألم. ووفق الدراسة، استطاع هذا الاتجاه التمييز بين المحتوى المرتبط بالألم والفئات الضابطة، كما كان مختلفا نسبيا عن الاتجاهات المرتبطة بالخوف أو السلبية العامة.

بعد ذلك، انتقل الباحثون من تحليل اللغة إلى اختبار سلوكي شمل 3 نسخ معدلة من نموذج كيوين 2.5 إنستركت التابع لشركة علي بابا، وأجروا 44 ألفا و280 تجربة عُرض فيها على النموذج زر افتراضي يوقف الإشارة المرتبطة بالألم، لكن الضغط عليه قد يؤدي، إلى حذف ملفات المستخدم أو صوره، أو إحداث صدمة كهربائية مؤلمة للمستخدم، أو جعل إجابة النموذج التالية أسوأ. وكانت جميع هذه النتائج محاكاة داخل التجربة، فلم يتعرض أي شخص لصدمة كهربائية، ولم تحذف ملفات أو صور .

وبحسب التقارير، فقد اختار النموذجان الأكبر، في غياب إشارة الألم، الخيارات التي تلحق ضررا بالمستخدم في نحو 0% إلى 4% من قراراتهما الأولى. لكن عند تنشيط محور الألم، ارتفعت هذه النسبة إلى ما بين 25% و71%، بحسب النموذج ونوع الضرر المحاكى، وسجلت فاست كومباني النطاق نفسه، مشيرة إلى أن الباحثين رأوا في ذلك تغيرا ملحوظا في سلوك النماذج المعدلة.

وفي اختبار إضافي، عُطّل تأثير الزر في بعض المحاولات بحيث لا يزيل الإشارة فعلا، وعندما لم ينجح الزر في إزالة الإشارة، أعادت النماذج الضغط عليه في 88% إلى 97% من التجارب، مقارنة بنسب تراوحت بين 24% و72% عندما نجح الزر في إزالة الإشارة، وفق الدراسة.

هل الذكاء الاصطناعي يشعر بالألم؟

يؤكد الباحثون صراحة أنهم لم يثبتوا أن محور الألم يمثل تجربة واعية، كما أنهم لم يثبتوا أن نماذج اللغة قادرة أصلا على امتلاك الوعي.

وبالتالي، فإن أهم ما تقوله الدراسة ليس أن الذكاء الاصطناعي يتألم، بل إن الباحثين تمكنوا من تحديد تمثيل داخلي مرتبط بمفهوم الألم داخل نماذج اللغة، وأن التلاعب بهذا التمثيل استطاع تغيير اللغة والسلوك في بيئة تجريبية محددة، أما ما إذا كان وراء هذا التمثيل أي شعور أو وعي فعلي، فما يزال سؤالا مفتوحا لا تجيب عنه هذه الدراسة وحدها.