الجارديان: جوجل تحذف بعض ملخصات الذكاء الاصطناعي لتقديم معلومات صحية مضللة

نتائج تحقيق الجارديان وإزالة ملخصات الذكاء الاصطناعي الصحية

كشفَت الجارديان أن شركة جوجل أزالت ملخصات الذكاء الاصطناعي الخاصة بالصحة بعد أن أظهر تحقيق الصحيفة أن بعض الملخصات التي تظهر في نتائج البحث العليا قدمت معلومات صحية غير دقيقة قد تضر المستخدمين.

وقالت الشركة إن ملخصات الذكاء الاصطناعي التي تستخدم الذكاء الاصطناعي التوليدي تهدف إلى تقديم لمحات سريعة عن موضوع ما وتكون مفيدة وموثوقة، لكن التحقيق أشار إلى أن بعض الملخصات اعتمدت بشكل يؤدي إلى تقديم أرقام وتفاصيل دون سياق كاف، مما يعرض المستخدمين للخطر ويؤدي إلى نتائج مضللة.

في إحدى الحالات التي وصفها الخبراء بأنها خطرة ومقلقة، أشارت الملخصات إلى اختبارات وظائف الكبد وأعطت أرقاماً كبيرة بلا سياق كافٍ، مع إغفال اختلافات مثل جنس المريض أو عرقه أو عمره، وهو ما قد يجعل القراءة تبدو كأنها نتائج طبيعية في حين قد تكون هناك حالات مرضية خطيرة بحاجة إلى متابعة طبية.

وجدت الجارديان أن كتابة عبارة مشابهة جداً لاستعلام المستخدم، مثل “ما هو النطاق الطبيعي لاختبارات الدم للكبد” أو “ما هو النطاق الطبيعي لاختبارات وظائف الكبد”، أدت إلى ظهور ملخصات الذكاء الاصطناعي ضمن نتائج البحث، ما يثير القلق من أن الاستفسار نفسه قد يؤدي إلى عرض معلومات مضللة أو غير دقيقة.

بعد التحقيق، قامت جوجل بإزالة ملخصات الذكاء الاصطناعي التي كانت تُظهر العبارات “ما هو النطاق الطبيعي لاختبارات الدم للكبد” و”ما هو النطاق الطبيعي لاختبارات وظائف الكبد” من نتائج البحث.

قال متحدث باسم جوجل إنه لا يعلق على عمليات الحذف الفردية داخل البحث، وفي الحالات التي تفتقر فيها مراجعات الذكاء الاصطناعي للسياق الكافي، يعملون على تحسينات شاملة، كما يتخذون إجراءات بموجب سياساتهم عند الاقتضاء.

رحبت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust الخيرية المعنية بصحة الكبد، بقرار إزالة Google AI Overviews في هذه الحالات، لكنها أضافت أن تفسير السؤال بطريقة مختلفة قد يؤدي إلى تقديم نظرة عامة مضللة، وأن معلومات صحية أخرى ينتجها الذكاء الاصطناعي قد تكون غير دقيقة ومربكة للقراء.

وجدت الجارديان أن كتابة عبارات مشابهة قليلاً لاستعلامات أصلية مثل “نطاق مرجعي لاختبار LFT” أو “نطاق مرجعي لاختبار LFT” يؤدي إلى ظهور نتائج ملخصات الذكاء الاصطناعي، وهو ما أشار إليه هيبديتش بأنه يثير قلقاً شديداً لأن اختبارات وظائف الكبد هي مجموعة من تحاليل الدم المختلفة، وتفسير النتائج يعتمد على سياق كثير وعوامل كثيرة قد تكون مرتبطة بمرضى بعينهم.

وأضافت أن خدمة نظرة عامة الذكاء الاصطناعي تعرض قائمة بالاختبارات بخط عريض، ما يجعل من السهل تجاهل أن هذه الأرقام قد لا تكون أرقام الاختبار الصحيحة للمريض المعني، كما أن الملخصات لا تحذر من احتمال أن تكون النتائج طبيعية رغم وجود مرض كبدي خطير يتطلب متابعة ورعاية طبية مستمرة، وهذا التطمين قد يكون ضاراً للغاية.

أكد التحقيق أن وجود عبارات بحث مشابهة يظل يطرح مخاطر، وأن إزالة ملخصات بعينها لا يزيل الخطر تماماً، لأن فهم النتائج وما يجب فعله بعد ذلك معقد ومرتبط بسياق طبي أوسع من مجرد مقارنة أرقام.