التأثير والتحذير من ملخصات الصحة عبر الذكاء الاصطناعي
كشفت صحيفة الجارديان أن جوجل أزالت ملخصات الذكاء الاصطناعي الصحية التي كانت تقدم لمحات سريعة عن معلومات أساسية وتستخدم تقنيات الذكاء الاصطناعي التوليدي بهدف توفير معلومات مفيدة وموثوقة.
أعلنت جوجل أن ملخصات الذكاء الاصطناعي الخاصة بالبحث لا تعكس كل السياق، وتعمل على تحسين مراجعاتها وتطبيق سياسات عند الاقتضاء عند الحاجة إلى حذف أو تعديل نتائج البحث.
أشار التحقيق إلى أن بعض الملخصات الموضوعة في أعلى نتائج البحث قدمت معلومات صحية غير دقيقة، ما يجعل المستخدمين عرضة للضرر.
أشار الخبراء إلى حالة وصفوها بأنها خطيرة عندما قدمت ملخصات جوجل معلومات زائفة عن اختبارات وظائف الكبد الحاسمة، التي قد تقود مرضى الكبد إلى افتراض أن نتائجهم طبيعية.
وجدت الجارديان أن كتابة عبارة مثل “ما هو النطاق الطبيعي لاختبارات الدم للكبد” أدت إلى ظهور أعداد كبيرة من الأرقام بلا سياق وبلا مراعاة جنس المرضى أو أعمارهم.
أشار خبراء إلى أن ما وصفته تقارير الذكاء الاصطناعي بالنطاق الطبيعي قد يختلف جذرياً عن الواقع، ما يجعل المرضى المصابين بأمراض خطيرة يعتقدون خطأ أنهم في حالة طبيعية.
أوضحت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust، أن هذه الأخبار جيدة بإزالة الملخصات، لكنها حذرت من أن أسئلة أخرى قد تعطي نظرة مضللة وأن معلومات الذكاء الاصطناعي قد تكون غير دقيقة في مواضع أخرى.
وجدت الجارديان أن كتابة عبارات مشابهة لاستعلامات البحث قد تعطي نتائج لافتة للنظر من ملخصات الذكاء الاصطناعي وتثير قلقاً شديداً لأنها قد تقود إلى افتراضات خاطئة حول صحة الفرد.
أوضحت أن تفسير نتائج اختبارات الكبد يحتاج إلى فهم سياق شامل وليس مجرد مقارنة أرقام، لأن اختبارات الكبد تشمل عدة فحوصات دم وتتطلب معرفة المدى الطبيعي بالنسبة للمريض.
أعلنت جوجل أنها لا تعلق على حذف كل حالة فردية وتعمل على تحسينات شاملة في مراجعات الذكاء الاصطناعي وتطبيق سياسات للمراجعة عند الحاجة.
عبرت British Liver Trust عن ارتياحها لإزالة الملخصات في الحالات التي وردت فيها معلومات مضللة، لكنها أكدت أن مخاطر وجود معلومات غير دقيقة تبقى قائمة عند طرح أسئلة أخرى بطريقة مختلفة.
تشير النتائج إلى أن الاعتماد على ملخصات AI في الصحة قد يؤدي إلى اطمئنان زائف وخطر عدم متابعة الرعاية الطبية، خصوصاً عندما تكون النتائج مطابقة لأرقام دون سياق.
