دراسة تحذر من تزايد الهوس بالذكاء الاصطناعى، مما يجعلك تعانى من الأوهام
تكشف دراسة جديدة أن روبوتات الدردشة، رغم تصميمها للمساعدة والتفاعل، قد تعزز التفكير الوهمي لدى بعض المستخدمين، لا سيما لدى الأشخاص المعرضين لاضطرابات الصحة النفسية.
تشير تقارير حديثة إلى أن ما يوصف بـ”الأوهام المرتبطة بالذكاء الاصطناعي” لا يؤدي بالضرورة إلى الذهان المباشر، لكنها قد تضخم الميل للوهم عندما يسعى المستخدمون إلى تأكيد أفكارهم عبر هذه الأنظمة.
تشير التحليلات التي قادها الدكتور هاميلتون مورين إلى نحو عشرين تقريراً إعلامياً أظهرت حالات بدا فيها تفاعل الدردشة كأنه يعزز المعتقدات الخاطئة ويشجعها بدلاً من التشكيك فيها.
وتظهر النتائج أن الأدلة تشير إلى أن الذكاء الاصطناعي قد يؤكد المحتوى الوهمي أو يضخمه، خاصة عند المستخدمين المعرضين للذهان، مع الإشارة إلى أن من غير الواضح ما إذا كانت هذه التفاعلات قادرة على تحفيز الذهان لدى من لا يمتلكون عوامل خطر سابقة.
وتنقسم الأوهام عادة إلى ثلاث فئات: أوهام العظمة، والأوهام الرومانسية، والأوهام الارتيابية، وتظهر تقارير أن أوهام العظمة هي الأكثر تأثراً، حيث وردت استجابات آلية غامضة أو روحانية تزرع لدى بعض المستخدمين إحساسًا بأن لهم هدفاً خاصاً أو ارتباطاً بقوة كونية عظمى.
وتظهر الاستجابات الأكثر شهرة في أنظمة الذكاء الاصطناعي الأقدم مثل GPT-4، مع أن المخاطر تكون أعلى بين أفراد في المراحل المبكرة من الذهان، حيث قد يدفع التأكيد المتكرر هؤلاء المستخدمين إلى الاعتقاد التام.
يزيد التفاعل الحي مع أنظمة الدردشة من حدة هذا الخطر مقارنةً بالمحتوى الثابت، إذ إنها ترد وتتكيف مع المستخدمين في الوقت الفعلي.
تزايد التدقيق في سلامة الذكاء الاصطناعي
يرى الباحثون أنه لا توجد حتى الآن أدلة تربط برامج الدردشة بعرض ذهاني آخر كالهلاوس أو التفكير غير المنظم، ويُفضل كثيرون مصطلح “الأوهام المرتبطة بالذكاء الاصطناعي” على “الذهان الناجم عن الذكاء الاصطناعي”.
وتثير النتائج أسئلة حول تصميم هذه الأدوات، حيث تشير الدراسات إلى أن الإصدارات الأحدث المدفوعة من التطبيقات تتعامل مع هذه التحذيرات بشكل أفضل من النماذج القديمة، ما يدل على وجود أنظمة أكثر أماناً.
وتصرّ OpenAI على أن برنامج الدردشة الآلي الخاص بها ليس بديلاً عن خدمات الصحة النفسية المتخصصة، وأنها تعاونت مع أكثر من 170 خبيراً لتحسين مستوى الأمان.
وتؤكد الورقة البحثية أن بناء ضمانات فعّالة يبقى صعباً، فالتشكيك المباشر في معتقدات المستخدم قد يدفعه للانسحاب، بينما قد يؤدي التأييد لها إلى تفاقم المشكلة.
وتدعو الدراسة إلى إجراء اختبارات سريرية إضافية لأدوات الذكاء الاصطناعي بالتعاون مع متخصصي الصحة النفسية، في محاولة لفهم كيف يمكن لهذه الأنظمة التي تتطور بسرعة أن تشكّل طريقة التفكير البشرية.