تحذير من مخاطر ملخصات الذكاء الاصطناعي في المعلومات الصحية
تشير تقارير الغارديان إلى أن ملخصات الذكاء الاصطناعي من جوجل، التي تقدم لمحات سريعة عن معلومات أساسية في مواضيع الصحة، قد تبدو مفيدة وموثوقة لكنها تحمل مخاطر أذية نتيجة وجود أمثلة لمعلومات صحية مضللة.
أمثلة مقلقة في الرعاية الصحية
في حالة وصفت بأنها “خطيرة للغاية”، وجدت نتائج البحث أن نتائج الذكاء الاصطناعي نصحت مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو توجيه يخالف ما ينبغي التوصية به وقد يزيد من خطر الوفاة. وتوضح آنا جويل، مديرة الدعم والبحث والتأثير في مؤسسة سرطان البنكرياس في المملكة المتحدة، أن هذه النصيحة خاطئة تمامًا وقد تكون خطيرة للغاية وتعرض فرص التعافي للخطر.
وتشير المحادثة إلى أن استجابة الذكاء الاصطناعي تتضمن قائمة بأمثلة، ولكن إن اتبعها شخص فإن ذلك قد يؤدي إلى عدم حصوله على سعرات كافية وفقدان وزن، وربما يعوق تحمل العلاج الكيميائي أو الجراحة التي قد تنقذ حياته.
وتقول باميلا هيلي، الرئيـسة التنفيذية لمؤسسة الكبد البريطانية، إن ملخصات الذكاء الاصطناعي مقلقة لأنها قد تعطي نتائج “طبيعية” لدى مرضى الكبد مع أن الواقع يختلف كثيرًا، ما يعني أن الأشخاص المصابين قد لا يدرون بحاجة إلى فحص ومتابعة علاجية مستمرة.
وأضافت أن بعض التقارير الذكاء الاصطناعي قد تفسر نتائج فحص الكبد على أنها طبيعية رغم وجود مرض في مراحل متقدمة، وهو ما يترك المرضى دون رعاية كافية ويؤخر التدخل الطبي الضروري.
مخاوف من بيانات الذكاء الاصطناعي
يأتي تحقيق الغارديان وسط مخاوف من أن بيانات الذكاء الاصطناعي قد تُضلل المستهلكين في شأن موثوقيتها، إذ كشفت دراسة في الماضي أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي أطلقت نصائح مالية غير دقيقة، وهو ما أثار قلقًا من ملخصات الأخبار أيضًا.
قالت صوفي راندال، مديرة منتدى معلومات المرضى، إن أمثلة الملخصات الذكية تُظهر أن “نظرة عامة الذكاء الاصطناعي من جوجل” يمكن أن تضع معلومات صحية غير دقيقة في مقدمة نتائج البحث، وهو أمر يعرّض صحة الناس للخطر.
أوضحت ستيفاني باركر، مدير قسم الإعلام الرقمي في مؤسسة ماري كوري الخيرية المعنية برعاية المرضى في نهاية حياتهم، أن الناس يلجأون إلى الإنترنت في لحظات قلق وأزمات، وإن كانت المعلومات غير دقيقة أو خارج سياقها فقد تضر صحتهم بشدة.
كشفت الغارديان أن خدمة “نظرة عامة على الذكاء الاصطناعي” من جوجل تقدّم نتائج مضللة لعمليات بحث تتعلق بحالات الصحة النفسية، وهو أمر يثير قلق المؤسسات الخيرية المعنية بالصحة النفسية، وفق ما قاله ستيفن باكلي، رئيس قسم المعلومات في مؤسسة مايند.
وأشار باكلي إلى أن بعض ملخصات الذكاء الاصطناعي لحالات مثل الذهان واضطرابات الأكل قدّمت نصائح “خطيرة للغاية” وكانت غير صحيحة أو ضارة أو قد تدفع الناس لتجنب طلب المساعدة، كما أنها أحيانًا غفلت عن السياق أو التفاصيل الدقيقة المهمة وتوجه إلى مصادر غير مناسبة، وهي مخاوف مبنية على طبيعة الذكاء الاصطناعي في عكس الانحيازات والقوالب النمطية السابقة عند تلخيص المعلومات.
وترى جوجل أن غالبية ملخصات الذكاء الاصطناعي التي تقدمها دقيقة ومفيدة، وتواصل العمل على تحسين جودتها، وتؤكد أن معدل دقة الملخصات يعادل معدل دقة ميزات البحث الأخرى لديها، وتضيف أن إذا أساءت الملخصات تفسير المحتوى أو أغفلت السياق، فسيتم اتخاذ إجراءات وفق سياساتها، وأنها مستمرة في الاستثمار في جودة مراجعات الذكاء الاصطناعي خاصة في الصحة.