خطأ بسيط في نموذج Med-Gemini من جوجل، حيث دمج اسمين لمنطقتين في الدماغ، يكشف عن المخاطر الكبيرة للذكاء الاصطناعي في الطب. يسميه الخبراء “خطيراً للغاية” ويحذرون من “التحيز الآلي”، وهو ميل البشر إلى الثقة المفرطة في الأنظمة الآلية.
محتويات المقالة:
- خطأ «العقد القاعدية»: عندما يخترع الذكاء الاصطناعي علم التشريح
- استجابة جوجل: «خطأ إملائي» أم هلوسة خطيرة؟
- لماذا يعتبر هذا الخطأ «خطيراً للغاية»؟
- التحيز الآلي: الخطر الأكبر ليس في خطأ الآلة بل في ثقة الإنسان
- أخطاء مستمرة: ليست الحادثة الأولى
- ماذا يقول الخبراء؟
- الخاتمة: دعوة للتشكك الحذر في عصر الطب الذكي
- أسئلة شائعة
خطأ «العقد القاعدية»: عندما يخترع الذكاء الاصطناعي علم التشريح
تخيل أن طبيبك يستخدم نموذج ذكاء اصطناعي لقراءة فحص دماغك. يقول النموذج إن لديك مشكلة في «العقد القاعدية» (basilar ganglia)، وهو مصطلح يدمج بين منطقتين مختلفتين تماماً في الدماغ: «العقد القاعدية» (basal ganglia) و«الشريان القاعدي» (basilar artery). هذا ليس مجرد خطأ بسيط، بل هو اختراع لجزء من الدماغ غير موجود. هذا هو بالضبط الخطأ الحقيقي الذي ارتكبه نموذج الذكاء الاصطناعي للرعاية الصحية من جوجل، Med-Gemini، في ورقة بحثية خاصة به.
استجابة جوجل: «خطأ إملائي» أم هلوسة خطيرة؟
الأسوأ من الخطأ نفسه هو طريقة تعامل جوجل معه. عندما أشار طبيب الأعصاب براين مور إلى الخطأ، قامت الشركة بتعديل منشور المدونة بهدوء لتصحيح الخطأ دون أي إقرار علني، بينما ظلت الورقة البحثية الأصلية دون تغيير. وصفت جوجل الحادث بأنه مجرد «خطأ إملائي». لكن بعد ضغط علني، أعادت الشركة النتيجة الخاطئة مع تعليق توضيحي، قائلة إن «basilar» هو «نسخ خاطئ شائع» لكلمة «basal» تعلمه النموذج من بيانات التدريب. يرى العديد من المهنيين الطبيين أن هذا التقليل من شأن الخطأ أمر خطير.
لماذا يعتبر هذا الخطأ «خطيراً للغاية»؟
يقول الدكتور مولين شاه، كبير مسؤولي المعلومات الطبية في بروفيدنس: «ما تتحدثون عنه خطير للغاية. حرفان، لكنها صفقة كبيرة». فالسكتة الدماغية أو أي خلل في العقد القاعدية يتم علاجه بطريقة مختلفة تماماً عن مشكلة في الشريان القاعدي. الخلط بينهما يمكن أن يؤدي إلى تشخيص خاطئ وخطة علاج خاطئة، مع عواقب قد تكون وخيمة على المريض.
التحيز الآلي: الخطر الأكبر ليس في خطأ الآلة بل في ثقة الإنسان
ربما يكون الخطر الأكبر ليس في أن الأنظمة تخطئ أحياناً، بل في مدى مصداقيتها وجدارتها بالثقة عندما تخبرك بشيء خاطئ. يثير هذا ظاهرة موثقة جيداً تعرف باسم «التحيز الآلي»، حيث يؤدي الرضا عن الذات إلى جعل الناس يفوتون الأخطاء في نظام يكون صحيحاً في معظم الأوقات. يقول الدكتور شاه: «المشكلة في هذه الأخطاء الإملائية أو الهلوسات الأخرى هي أنني لا أثق في بشرنا لمراجعتها». إذا اعتاد الأطباء على دقة الذكاء الاصطناعي، فقد يتوقفون عن التدقيق في مخرجاته، وعندما يرتكب الذكاء الاصطناعي خطأً، قد يمر دون أن يلاحظه أحد.
أخطاء مستمرة: ليست الحادثة الأولى
لم تكن هذه هي المرة الأولى. ففي نماذج أحدث مثل MedGemma، وجد المهنيون الطبيون أنه إذا قاموا بصياغة الأسئلة بشكل مختلف عند سؤال الذكاء الاصطناعي، فإن الإجابات تختلف ويمكن أن تؤدي إلى مخرجات غير دقيقة. في أحد الأمثلة، شخص النموذج مشكلة في الأشعة السينية بشكل صحيح عند طرح سؤال مفصل، ولكنه قال إن الأشعة السينية «طبيعية» عند طرح سؤال أبسط.
ماذا يقول الخبراء؟
يقول الدكتور جوناثان تشين، الأستاذ المساعد في كلية الطب بجامعة ستانفورد: «إنها لحظة عتبة غريبة جداً حيث يتم تبني الكثير من هذه الأشياء بسرعة كبيرة في الرعاية السريرية. إنها حقاً ليست ناضجة». وتضيف الدكتورة جودي غيشويا من جامعة إيموري: «طبيعتها هي أنها تميل إلى اختلاق الأشياء، ولا تقول ‹لا أعرف›، وهي مشكلة كبيرة جداً في المجالات عالية المخاطر مثل الطب».
الخاتمة: دعوة للتشكك الحذر في عصر الطب الذكي
في حين أن بعض أجزاء صناعة الرعاية الصحية في حاجة ماسة إلى المساعدة من أدوات الذكاء الاصطناعي، إلا أن الصناعة بحاجة إلى تبني شكوك مناسبة قبل اعتمادها. القضية ليست فقط في أن الذكاء الاصطناعي يرتكب الأخطاء – فالبشر يرتكبونها أيضاً – بل في أن أخطاء الذكاء الاصطناعي يمكن أن تنتشر وتتفاقم بسرعة، وأن ثقتنا المفرطة في التكنولوجيا يمكن أن تجعلنا نتجاهل هذه الأخطاء. يقول الدكتور شاه: «في رأيي، يجب أن يكون لدى الذكاء الاصطناعي معيار خطأ أعلى بكثير من الإنسان. وإلا، سأبقي فقط على بشري للقيام بالعمل».
أسئلة شائعة
ما هو نموذج Med-Gemini؟
هو مجموعة من نماذج الذكاء الاصطناعي من جوجل مصممة لقطاع الرعاية الصحية. يمكنها تلخيص البيانات الصحية، وإنشاء تقارير الأشعة، وتحليل السجلات الصحية الإلكترونية، والمزيد.
ما هو «التحيز الآلي»؟
هو ميل البشر إلى الاعتماد المفرط على الأنظمة الآلية والثقة في مخرجاتها، مما قد يؤدي إلى عدم ملاحظة الأخطاء عندما ترتكبها هذه الأنظمة.
هل الذكاء الاصطناعي جاهز للاستخدام في المستشفيات؟
يرى العديد من الخبراء أن التكنولوجيا لا تزال غير ناضجة بما يكفي للاستخدام في الحالات السريرية عالية المخاطر دون إشراف بشري صارم وتدقيق دقيق. يمكن أن يكون مفيداً كأداة مساعدة، ولكن ليس كصانع قرار مستقل.
