في حادثة محرجة تسلط الضوء على مخاطر الاعتماد غير المشروط على الذكاء الاصطناعي في العمل الأمني، اعترف قائد إحدى أكبر قوات الشرطة في بريطانيا بأن المساعد الذكي “مايكروسوفت كوبايلوت” اختلق مباراة كرة قدم وهمية تم تضمينها في تقرير استخباراتي رسمي، مما أدى إلى تداعيات تنظيمية وقانونية وأمنية خطيرة.
محتويات المقالة:
- مقدمة
- تفاصيل الحادثة: المباراة الوهمية
- اعتراف الشرطة وتغيير الرواية
- العواقب الواقعية وحظر المشجعين
- مخاطر الهلوسة الرقمية في الأمن
- رد مايكروسوفت: المسؤولية على المستخدم
- الخاتمة
- أسئلة شائعة
مقدمة
مع تسارع المؤسسات الحكومية والأمنية لتبني تقنيات الذكاء الاصطناعي، تظهر حوادث تكشف عن “الهلوسة” التي قد تصيب هذه الأنظمة. الحادثة الأخيرة التي تورطت فيها شرطة “ويست ميدلاندز” البريطانية تعد مثالاً صارخاً على كيف يمكن لمعلومة خاطئة تولدها الآلة أن تتحول إلى إجراءات شرطية ملموسة تؤثر على حقوق الناس وحرياتهم، وتعرض مصداقية العمل الشرطي للخطر.
تفاصيل الحادثة: المباراة الوهمية
تضمن تقرير استخباراتي للشرطة الإشارة إلى مباراة مزعومة بين فريقي “ويست هام” الإنجليزي و”مكابي تل أبيب” الإسرائيلي. المشكلة الوحيدة هي أن هذه المباراة لم تحدث في الواقع قط. قام الذكاء الاصطناعي “كوبايلوت” بـ “هلوسة” النتيجة والحدث بالكامل، وقامت الشرطة بإدراج هذا الخطأ في تقريرها دون التحقق من صحته. هذا الخطأ لم يكن مجرد هفوة ورقية، بل استُخدم كجزء من تقييم المخاطر لمباريات أخرى.
اعتراف الشرطة وتغيير الرواية
في البداية، نفى كريج جيلدفورد، قائد شرطة ويست ميدلاندز، استخدام الذكاء الاصطناعي، ملقياً باللوم على “استخلاص المعلومات من وسائل التواصل الاجتماعي” في ديسمبر، ثم ألقى باللوم على نتائج بحث جوجل في وقت لاحق. لكنه اضطر أخيراً للاعتراف في رسالة إلى لجنة الشؤون الداخلية بالبرلمان: “بعد ظهر يوم الجمعة، أصبحت على علم بأن النتيجة الخاطئة… نشأت نتيجة استخدام مايكروسوفت كوبايلوت”. يعكس هذا التخبط في التصريحات محاولة للتنصل من مسؤولية الاعتماد الأعمى على التكنولوجيا.
العواقب الواقعية وحظر المشجعين
لم يكن الخطأ بلا ثمن. تم حظر مشجعي “مكابي تل أبيب” من حضور مباراة في الدوري الأوروبي ضد “أستون فيلا” في نوفمبر من العام الماضي. استند قرار “مجموعة السلامة الاستشارية في برمنغهام” باعتبار المباراة “عالية المخاطر” جزئياً إلى معلومات استخباراتية حول “اشتباكات عنيفة وجرائم كراهية” في مباريات سابقة، ويبدو أن المعلومات المغلوطة التي وفرها الذكاء الاصطناعي لعبت دوراً في تشكيل هذه الصورة القاتمة وغير الدقيقة، مما أدى لقرار أمني صارم وظالم.
مخاطر الهلوسة الرقمية في الأمن
تثير هذه القضية تساؤلات جدية حول كفاءة استخدام نماذج اللغة الكبيرة في الاستخبارات وإنفاذ القانون. إذا كانت هذه الأنظمة قادرة على اختلاق أحداث علنية يمكن التحقق منها بسهولة مثل مباريات كرة القدم، فما هي دقتها في القضايا الأكثر تعقيداً وسرية؟ يرى الخبراء أن هذا يجب أن يكون جرس إنذار للمؤسسات لوضع بروتوكولات صارمة للتحقق البشري قبل اعتماد مخرجات الذكاء الاصطناعي كحقائق مسلم بها.
رد مايكروسوفت: المسؤولية على المستخدم
في ردها على الواقعة، أكدت مايكروسوفت أن “كوبايلوت قد يرتكب أخطاء”، وهو تحذير يظهر عادة في واجهة البرنامج. قال جيفري جونز، المدير الأول للاتصالات في مايكروسوفت: “لا يمكننا تكرار ما تم الإبلاغ عنه”، مشيراً إلى أن النظام يجمع المعلومات من مصادر متعددة ويشجع المستخدمين على مراجعة المصادر الأصلية. تضع الشركة المسؤولية بوضوح على عاتق المستخدم البشري للتحقق من دقة المعلومات.
الخاتمة
توضح حادثة شرطة ويست ميدلاندز أن الطريق نحو دمج الذكاء الاصطناعي في العمل الحكومي لا يزال محفوفاً بالمخاطر. الدرس المستفاد هنا هو أن الذكاء الاصطناعي يجب أن يكون مساعداً للبحث، لا بديلاً عن الحكم البشري والتحقق من الحقائق.
أسئلة شائعة
السؤال: ما هو الخطأ الذي ارتكبه كوبايلوت؟
الإجابة: اختلق (هلوس) وجود مباراة كرة قدم بين ويست هام ومكابي تل أبيب لم تحدث في الواقع، مع تفاصيل وهمية عن أحداث عنف.
السؤال: كيف أثر هذا الخطأ على الجماهير؟
الإجابة: ساهمت المعلومات الخاطئة في تصنيف مباراة حقيقية لاحقة على أنها “عالية المخاطر”، مما أدى لحظر حضور الجماهير لها.
السؤال: هل تتحمل مايكروسوفت المسؤولية القانونية؟
الإجابة: تؤكد الشركة أن الأداة قد تخطئ وأن المسؤولية تقع على عاتق المستخدم (الشرطة) للتحقق من المصادر قبل الاعتماد عليها.
