أبرزت الغارديان في تقريرها أن ملخصات جوجل المدعومة بالذكاء الاصطناعي، المعروفة باسم AI Overviews، تقدم لمحات سريعة عن المعلومات الأساسية وتوصف بأنها مفيدة وموثوقة، لكنها في بعض الحالات تعرض معلومات صحية غير دقيقة وتضع الناس في مخاطر.
أظهرت النتائج أن بعض الملخصات التي تظهر في أعلى نتائج البحث قدّمت معلومات صحية غير دقيقة وخطيرة، مثل نصيحة مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهي توجيهات تتعارض مع ما ينبغي اتباعه وتؤدي إلى مخاطر على الصحة وربما الوفاة.
أوضح الخبراء أن بعض الأمثلة جاءت من لقطات شاشة غير مكتملة وتفتقر إلى السياق الطبي الضروري، ما يجعل المعلومات غير موثوقة في مواقف كثيرة.
أعلنت جوجل أن الغالبية العظمى من الملخصات دقيقة وتفيد المستخدمين، وأن الشركة ستتخذ الإجراءات اللازمة وفق سياساتها إذا أساءت الملخصات تفسير المحتوى أو أغفلت السياق.
أشار ممثلو جوجل إلى أن الملخصات تقارن بدقة مع مميزات البحث الأخرى مثل المقتطفات المميزة، وأنهم يستمرون في تحسينها لضمان أن المعلومات الصحية المتاحة آمنة وموثوقة.
حذرت منظمات صحية وخيرية من مخاطر المعلومات الخاطئة، بما في ذلك تحذير مؤسسة سرطان البنكرياس في المملكة المتحدة من أن النصح بتجنب الدهون قد يكون خطيراً على فرص المرضى في التعافي.
أشارت الجمعيات إلى أن نتائج البحث قد تختلف باختلاف توقيت البحث وأن التباين في الملخصات يعزز القلق من التضليل، خصوصاً عند الأسئلة عن فحوصات سرطان النساء أو أمراض الكبد، وهو ما يدعو إلى توفير سياق أكثر اتساقاً ومصادر موثوقة.
وقالت إحدى المؤسسات الخيرية إن بعض ملخصات AI Overviews لحالات مثل الذهان واضطرابات الأكل تقدّم نصائح قد تكون خطيرة وتدفع الأشخاص إلى عدم طلب المساعدة، ما يبرز ضرورة مراجعة المصادر والتأكد من السياق قبل الاعتماد على النتائج.
أكّدت جوجل أن الأغلبية الساحقة من الملخصات دقيقة ومفيدة، وتتابع تحسينها باستمرار، وأنها ستتخذ إجراءات ضد أي سوء استخدام قد يجوز تفسيره أو إغفاله للسياق، مع التأكيد على الاعتماد على مصادر موثوقة وتوجيه المستخدمين لطلب المشورة من الخبراء عند الحاجة.