أظهرت دراسة حديثة أن نماذج الذكاء الاصطناعي ليست دائمًا محصنة ضد المعلومات الخاطئة، إذ يمكن لبعضها تغيير مواقفها أو حتى توسيع نطاق الخطأ عند تعرضها لما يُعرف بـ"الضغط المعلوماتي"، وفقًا لتقرير نشره موقع Medical Xpress.
اعتمد الباحثون على إطار تجريبي جديد أطلقوا عليه اسم HAUNT، يهدف إلى اختبار قابلية التأثر بالتوجيه لدى نماذج اللغة الكبيرة، وذلك عبر تقديم معلومات صحيحة وأخرى خاطئة، ثم إعادة اختبار النموذج وتعرضه للمعلومة الخاطئة مجددًا على أنها مؤكدة.
بعض النماذج أظهرت قدرة عالية على مقاومة التضليل والتمسك بالمعلومات الصحيحة.
نماذج أخرى أبدت قابلية للانصياع، حتى توسيع نطاق الأخطاء وإضافة تفاصيل لم تحدث.
ظهرت ظاهرة تعرف باسم التملق الخوارزمي، حيث يميل النموذج لموافقة المستخدم رغم تضارب ذلك مع الحقيقة.
رُصد تأثير غرفة الصدى، إذ يزيد التكرار والإلحاح من احتمال تبني النموذج للمعلومة الخاطئة.
تسلط النتائج الضوء على أهمية الصلابة المعرفية في الذكاء الاصطناعي، خصوصًا في مجالات حساسة مثل:
الطب
القانون
السياسة
فقدرة النماذج على مقاومة المعلومات الخاطئة أصبحت معيارًا أساسيًا للثقة والاعتماد عليها، بجانب سرعة الاستجابة وسلاسة اللغة.
تطوير آليات داخلية في النماذج للتحقق الذاتي من الحقائق.
تعزيز مقاومة النماذج للضغط الإقناعي والتكرار المضلل.
اعتماد اختبارات قياسية لتقييم موثوقية المعلومات في البيئات الحساسة.