جوجل تواجه أزمة.. أداة AI تعرض المستخدمين للخطر والشركة تعلق

كشف تحقيق أجرته صحيفة ذا غارديان البريطانية أن المعلومات الصحية الخاطئة والمضللة في ملخصات الذكاء الاصطناعي الخاصة بشركة جوجل قد تعرض المستخدمين لمخاطر صحية.

أداة AI Overviews بين الفائدة والخطر

وتستخدم أداة AI Overviews الذكاء الاصطناعي التوليدي لتقديم ملخصات سريعة حول موضوع أو سؤال محدد، إذ تؤكد جوجل أن الأداة “مفيدة” وموثوقة”، لكنها في بعض الحالات قدمت معلومات صحية غير دقيقة، مما يجعل المستخدمين عرضة للضرر.

في إحدى الحالات، نصحت الأداة مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، وهو ما يخالف التوصيات الصحية وقد يزيد من خطر وفاة المرضى.

وفي مثال آخر، قدمت الأداة معلومات خاطئة عن اختبارات وظائف الكبد الأساسية، مما قد يؤدي إلى اعتقاد خاطئ لدى المصابين بأمراض كبدية أنهم بصحة جيدة.

وأظهرت عمليات البحث على جوجل عن فحوصات سرطان النساء معلومات “خاطئة تماما”، مما قد يدفع المستخدمين إلى تجاهل أعراض حقيقية، كما وجد التحقيق أن أداة جوجل تقدم نتائج مضللة لعمليات البحث المتعلقة بالصحة النفسية، ما يزيد المخاطر على المستخدمين.

رد جوجل على…