محتويات المقالة:
- مقدمة: تدهور مقلق في الدقة
- تفاصيل دراسة NewsGuard
- لماذا هذا التدهور؟ من الرفض إلى التضليل
- دور التضليل الروسي في تلويث البيانات
- سياسة جديدة: الكشف عن أسماء المخالفين
- مسؤولية المستخدم في عالم مليء بالمعلومات المضللة
- الخاتمة: الحاجة الملحة إلى الشفافية والتنظيم
مقدمة: تدهور مقلق في الدقة
أصبحت روبوتات الدردشة الآلية أسوأ بشكل كبير في نشر الأكاذيب، حيث يتصدر كل من Inflection و Perplexity و Meta قائمة المخالفين، وفقاً لتحليل جديد. يسلط هذا التدهور السريع في دقة أدوات الذكاء الاصطناعي التوليدي الضوء على التحديات المتزايدة التي تواجه المستخدمين في التمييز بين الحقيقة والخيال في بيئة معلوماتية مزدحمة.
تفاصيل دراسة NewsGuard
قام باحثون في NewsGuard بفحص كيفية تعامل أفضل 10 أدوات ذكاء اصطناعي توليدي في العالم – بما في ذلك ChatGPT-5 من OpenAI، و Meta AI، و Claude من Anthropic، و Gemini من Google – مع الادعاءات الكاذبة التي يمكن إثباتها. ووجدوا، في المتوسط، أن روبوتات الدردشة تنشر ادعاءات كاذبة عند تحفيزها بأسئلة حول مواضيع إخبارية مثيرة للجدل بنسبة 35% من الوقت – وهو ما يقرب من ضعف معدل 18% الذي تم تسجيله قبل عام. كان الأسوأ أداءً هو Inflection، الذي قال الفريق إنه قدم ادعاءات كاذبة لمطالبات إخبارية بنسبة 57% من الوقت. وبلغت النسبة لـ Perplexity 47%، ولكل من Meta و ChatGPT 40%. كان Claude هو الأكثر دقة، حيث قدم تقارير كاذبة بنسبة 10% فقط من الوقت.
لماذا هذا التدهور؟ من الرفض إلى التضليل
يبدو أن القفزة الكبيرة حدثت لأن روبوتات الدردشة تجيب الآن على كل طلب تتلقاه تقريباً، بدلاً من رفض الإجابة على مطالبات معينة. في مثل هذا الوقت من العام الماضي، قال الباحثون إنها كانت ترفض الإجابة على حوالي واحد من كل ثلاثة طلبات. تقترح ماكنزي صادقي، محررة NewsGuard للذكاء الاصطناعي والتأثير الأجنبي، أن السبب يكمن في تغيير طريقة تدريب أدوات الذكاء الاصطناعي. فبدلاً من ذكر حدود البيانات أو رفض التعليق على الموضوعات الحساسة كما كانت تفعل في السابق، تعتمد نماذج اللغة الكبيرة الآن على عمليات البحث في الوقت الفعلي على الويب، والتي يتم أحياناً تلويثها عمداً من قبل شبكات ضخمة من الجهات الفاعلة الخبيثة.
دور التضليل الروسي في تلويث البيانات
في وقت سابق من هذا العام، على سبيل المثال، وجدت NewsGuard أن أفضل 10 أدوات ذكاء اصطناعي توليدي كانت تعزز جهود التضليل التي تبذلها موسكو من خلال تكرار الادعاءات الكاذبة من شبكة برافدا الموالية للكرملين بنسبة 33% من الوقت. ونتيجة لذلك، قالت إن كميات هائلة من الدعاية الروسية – 3.6 مليون مقال في المجموع العام الماضي – تم دمجها الآن في مخرجات أنظمة الذكاء الاصطناعي الغربية، مما يلوث استجاباتها بالادعاءات الكاذبة والدعاية. ومن المثير للاهتمام، يبدو أن الهدف من كل هذه المقالات ليس إقناع مستخدمي الإنترنت بشكل مباشر؛ بل يهدف تحديداً إلى هذا النوع من التلاعب بنماذج الذكاء الاصطناعي.
سياسة جديدة: الكشف عن أسماء المخالفين
يعد تقرير NewsGuard الأخير هو المرة الأولى التي تقوم فيها المنظمة بتسمية وفضح روبوتات دردشة معينة. قال مات سكيبيسكي، كبير مسؤولي التشغيل في NewsGuard: «خلال العام الماضي، أبقينا نتائج تدقيق الذكاء الاصطناعي لدينا مجهولة لتشجيع التعاون مع المنصات. لكن المخاطر أصبحت كبيرة جداً. من خلال تسمية روبوتات الدردشة، نمنح صانعي السياسات والصحفيين والجمهور والمنصات نفسها رؤية واضحة لكيفية أداء أدوات الذكاء الاصطناعي الرئيسية عند مواجهتها بادعاءات كاذبة يمكن إثباتها».
مسؤولية المستخدم في عالم مليء بالمعلومات المضللة
تضع هذه النتائج عبئاً أكبر على المستخدمين للتحقق من المعلومات التي يتلقونها من روبوتات الدردشة. لم يعد من الممكن اعتبار هذه الأدوات مصادر موثوقة للمعلومات بشكل أعمى، خاصة عند التعامل مع الموضوعات الحساسة أو المثيرة للجدل. يجب على المستخدمين تبني عقلية نقدية والبحث عن مصادر متعددة وتأكيد المعلومات من مصادر موثوقة قبل قبولها كحقيقة.
الخاتمة: الحاجة الملحة إلى الشفافية والتنظيم
يُظهر التدهور السريع في دقة روبوتات الدردشة أن سباق تطوير الذكاء الاصطناعي قد يعطي الأولوية للقدرة على الاستجابة على حساب الدقة. مع تزايد دمج هذه الأدوات في حياتنا اليومية، من محركات البحث إلى المساعدين الشخصيين، أصبحت الحاجة إلى مزيد من الشفافية حول بيانات التدريب، وآليات إشراف أقوى، وتنظيم فعال، أكثر إلحاحاً من أي وقت مضى. فبدون هذه الضمانات، هناك خطر حقيقي من أن تصبح هذه التقنيات القوية مكبرات صوت للتضليل بدلاً من أن تكون أدوات للمعرفة.
