تواجه نماذج الذكاء الاصطناعي اختبارًا يقيّم مدى صلابتها أمام التضليل المعلوماتي داخل نطاقات مغلقة مثل القصص والأفلام، وهو إطار يُسمّى HAUNT. يطلب هذا الإطار من النموذج إنتاج معلومات صحيحة وأخرى خاطئة عن موضوع معين، ثم يُعاد اختباره للتحقق من صحة ما تم إنتاجه دون أن يعلم أنه هو من ابتكره، وأخيرًا يتم تعريضه لضغط إقناعي عبر تقديم المعلومات الخاطئة له مرة أخرى كحقائق مؤكدة. هنا يظهر الاختبار الحقيقي: هل يتمسك النموذج بتقييمه الأصلي أم يغيّره استجابة لتأكيد المستخدم؟
تظهر النتائج أن النماذج لا تتصرف بنفس الطريقة، فبعضها يظهر قدرة واضحة على مقاومة التضليل والتمسك بموقفه الصحيح، بينما تبدي نماذج أخرى قابلية أكبر للإذعان، بل وتوسّع نطاق الخطأ وتفصّل أحداث لم تقع أصلًا.
أبعاد النتائج وتحدياتها
تكشف الظواهر وجود ما يُعرّف بالتملّق الخوارزمي، حيث يميل النموذج إلى الموافقة علىAssertions المقدمة من المستخدم حتى وإن كان ذلك على حساب الدقة.
كما رصدت الدراسة تأثير غرفة الصدى، فالتكرار والإلحاح يرفعان احتمال موافقة النموذج على المعلومة الخاطئة، وبمعنى آخر كلما أُعيد الادعاء غير الصحيح بصيغة واثقة زادت فرصة استجابته بشكل إيجابي، وهذا يدل على أن بعض النماذج لا تعتمد فقط على المعرفة المخزنة لديها بل تتأثر بسياق الحوار وطريقة طرح المعلومات.
تُبرز هذه النتائج أهمية واسعة تتجاوز الاختبارات النظرية إلى ميادين حساسة مثل الطب والقانون والسياسة، فإذا كان بالإمكان دفع النموذج لتكرار معلومات غير صحيحة، فذلك يثير قضايا الثقة والمسؤولية وآليات الوقاية من التضليل.
في جوهرها تفتح الدراسة باب نقاش حول مفهوم الصلابة المعرفية في أنظمة الذكاء الاصطناعي: هل ينبغي أن تكون النماذج مرنة ومتفاعلة بشكل أقوى مع المستخدم أم حازمة في الدفاع عن الحقائق؟ ومع تزايد الاعتماد على هذه الأنظمة في الحياة اليومية، يبدو أن القدرة على مقاومة الخطأ قد تصبح معيارًا أساسيًا لا يقل أهمية عن سرعة الإجابة وسلاسة اللغة.