محتويات المقالة:
- مقدمة: أزمة ثقة في التقارير الاستشارية
- تفاصيل التقرير الكندي والأخطاء المكتشفة
- «هلوسات» الذكاء الاصطناعي وتلفيق المراجع
- ردود الفعل ومخاوف الخبراء
- دفاع ديلويت وتكرار الحوادث
- تداعيات استخدام الذكاء الاصطناعي في الأبحاث الرسمية
- أسئلة شائعة
مقدمة: أزمة ثقة في التقارير الاستشارية
في حادثة تسلط الضوء على مخاطر الاعتماد غير المدقق على الذكاء الاصطناعي التوليدي، يواجه فرع شركة الاستشارات العالمية «ديلويت» في كندا اتهامات خطيرة. يُزعم أن تقريراً استشارياً في مجال الرعاية الصحية، كلف إحدى المقاطعات الكندية ما يقرب من 1.6 مليون دولار، يحتوي على أخطاء يُحتمل أنها ناتجة عن الذكاء الاصطناعي، بما في ذلك استشهادات بأبحاث وهمية.
هذه الحادثة تجعل كندا الدولة الثانية هذا العام التي تزعم وجود أوجه قصور في تدقيق الحقائق لدى ديلويت، مما يثير تساؤلات جدية حول موثوقية التقارير التي تعتمد عليها الحكومات في اتخاذ قرارات حاسمة.
تفاصيل التقرير الكندي والأخطاء المكتشفة
الأخطاء المكتشفة ظهرت في تحقيق نشرته صحيفة «الإندبندنت»، وهي منفذ إخباري كندي يغطي مقاطعة نيوفاوندلاند ولابرادور. التقرير المعني، الذي يقع في 526 صفحة وتم نشره من قبل حكومة المقاطعة في مايو، كان يهدف إلى تقديم المشورة لوزارة الصحة والخدمات المجتمعية حول مواضيع حيوية مثل الرعاية الافتراضية، وحوافز الاحتفاظ بالموظفين، وتأثير جائحة كوفيد-19 على العاملين في مجال الرعاية الصحية، في وقت يواجه فيه قطاع الصحة في المقاطعة نقصاً في عدد الممرضين والأطباء.
وفقاً للمعلومات التي تم الكشف عنها، أنفقت الحكومة ما يقل قليلاً عن 1.6 مليون دولار على هذا التقرير، دفعتها على ثمانية أقساط. وحتى الآن، لا يزال التقرير متاحاً على موقع الحكومة الكندية.
«هلوسات» الذكاء الاصطناعي وتلفيق المراجع
وجد التحقيق أن تقرير ديلويت احتوى على استشهادات خاطئة، مأخوذة من أوراق أكاديمية ملفقة تماماً، لاستخلاص استنتاجات لتحليلات فعالية التكلفة. كما استشهد التقرير بباحثين حقيقيين في أوراق لم يعملوا عليها مطلقاً، وشمل أوراقاً وهمية شارك في تأليفها باحثون أكدوا أنهم لم يعملوا معاً قط.
على سبيل المثال، استشهد التقرير المطول بورقة أكاديمية من «المجلة الكندية للعلاج التنفسي»، والتي لم يتم العثور عليها عند البحث في قاعدة بيانات المجلة. هذه الظاهرة، المعروفة في مجال الذكاء الاصطناعي بـ «الهلوسة»، تحدث عندما تقوم النماذج التوليدية باختراع معلومات تبدو مقنعة ولكنها غير صحيحة على الإطلاق.
ردود الفعل ومخاوف الخبراء
أثارت هذه الاكتشافات قلق الخبراء الأكاديميين. جيل تومبلين ميرفي، الأستاذة المساعدة في كلية التمريض بجامعة دالهوزي في نوفا سكوشا، والتي تم الاستشهاد بها في التقرير في ورقة أكاديمية «غير موجودة»، علقت قائلة: «يبدو أنه إذا كنت تتوصل إلى أشياء كهذه، فقد يكونون يستخدمون الذكاء الاصطناعي بكثافة لتوليد العمل».
وأضافت ميرفي أنها عملت فقط مع ثلاثة من المؤلفين الستة الآخرين المذكورين في الاستشهاد الخاطئ، وشددت على المخاطر المرتبطة بذلك: «علينا أن نكون حريصين جداً للتأكد من أن الأدلة التي تستند إليها التقارير هي أفضل الأدلة، وأنها أدلة تم التحقق منها. وفي نهاية المطاف، يجب أن تكون هذه التقارير دقيقة ومستنيرة بالأدلة ومفيدة للمضي قدماً، ليس فقط لأنها تكلف الحكومات والجمهور أموالاً».
دفاع ديلويت وتكرار الحوادث
في ردها على هذه الاتهامات، دافعت ديلويت كندا عن تقريرها. صرح متحدث باسم الشركة: «ديلويت كندا تدعم بقوة التوصيات المقدمة في تقريرنا. نحن نقوم بمراجعة التقرير لإجراء عدد صغير من تصحيحات الاستشهادات، والتي لا تؤثر على نتائج التقرير». وأضاف المتحدث أن «الذكاء الاصطناعي لم يُستخدم لكتابة التقرير؛ بل تم استخدامه بشكل انتقائي لدعم عدد صغير من الاستشهادات البحثية».
ومع ذلك، فإن هذه الحادثة ليست الأولى من نوعها لديلويت هذا العام. فقد جاء هذا الكشف في أعقاب أنباء الشهر الماضي عن أن ديلويت استخدمت الذكاء الاصطناعي في تقرير بقيمة 290 ألف دولار نُشر في يوليو لمساعدة الحكومة الأسترالية. وقد أشار أحد الباحثين إلى وجود هلوسات في الدراسة المكونة من 237 صفحة، والتي تضمنت إشارات إلى أوراق بحثية أكاديمية غير موجودة واقتباساً ملفقاً من حكم محكمة فيدرالية.
في الدراسة المنقحة التي تم تحميلها بهدوء على موقع الحكومة الأسترالية، اعترفت الشركة بأنها استخدمت نظام الذكاء الاصطناعي التوليدي Azure OpenAI للمساعدة في إعداد التقرير. واضطرت ديلويت في أستراليا إلى دفع استرداد جزئي للحكومة مقابل التقرير.
تداعيات استخدام الذكاء الاصطناعي في الأبحاث الرسمية
تسلط هذه الحوادث الضوء على التحديات الكبيرة التي تواجه دمج الذكاء الاصطناعي في العمليات البحثية والاستشارية المهنية. بينما يمكن للذكاء الاصطناعي تسريع جمع المعلومات وتحليلها، فإنه لا يزال يفتقر إلى القدرة على التمييز بين الحقيقة والخيال بشكل موثوق. الاعتماد على هذه الأدوات دون إشراف بشري صارم وتدقيق دقيق للحقائق يمكن أن يؤدي إلى نتائج كارثية، خاصة عندما تُستخدم هذه التقارير كأساس للسياسات العامة والقرارات الحكومية التي تؤثر على حياة الملايين.
أسئلة شائعة
1. ما هي «هلوسات» الذكاء الاصطناعي؟
هي ظاهرة يقوم فيها نموذج الذكاء الاصطناعي التوليدي باختراع معلومات تبدو صحيحة ومقنعة، ولكنها في الواقع خاطئة تماماً أو لا أساس لها من الصحة.
2. هل اعترفت ديلويت باستخدام الذكاء الاصطناعي في التقرير الكندي؟
اعترفت الشركة باستخدامه بشكل انتقائي لدعم بعض الاستشهادات البحثية، لكنها نفت استخدامه لكتابة التقرير بالكامل.
3. ما هي العواقب التي واجهتها ديلويت حتى الآن؟
في حادثة مماثلة في أستراليا، اضطرت الشركة إلى دفع استرداد جزئي للحكومة. لم يتم الإعلان عن أي معلومات حتى الآن بخصوص استرداد محتمل للتقرير الكندي.
