في حادثة تسلط الضوء على الجانب الطريف (والمقلق) للأتمتة، أصدر نظام ذكاء اصطناعي مخصص لكتابة تقارير الشرطة وثيقة تدعي أن أحد الضباط تحول إلى ضفدع. الواقعة تكشف عن “فشل السياق” لدى الخوارزميات وحاجتها الماسة للإشراف البشري.
محتويات المقالة:
تفاصيل الواقعة
كانت شرطة مدينة هيبر سيتي تختبر برنامج “Draft One” لأتمتة التقارير. فوجئ المراجعون بأن النص يصف تحول الضابط إلى حيوان برمائي أثناء تأدية واجبه، في سيناريو خيالي تماماً.
السبب: الأميرة والضفدع
تبين أن كاميرا الجسم الخاصة بالضابط التقطت صوت فيلم ديزني “الأميرة والضفدع” الذي كان يعمل في الخلفية. تعاملت الخوارزمية مع الحوار كجزء من الحقائق، عاجزة عن التمييز بين الواقع والخيال، ودمجت قصة الفيلم في التقرير الرسمي.
الدرس المستفاد
أكدت الشرطة أن الحادثة درس قيم في عدم الثقة العمياء بالتكنولوجيا. ورغم أن الأدوات توفر الوقت، إلا أن المراجعة البشرية تظل صمام الأمان الوحيد لمنع أخطاء قد تكون كارثية أو محرجة.
أسئلة شائعة
لماذا حدث الخطأ؟
الإجابة: التقط الذكاء الاصطناعي صوت فيلم في الخلفية وكتبه كحقيقة.
هل توقفت الشرطة عن استخدامه؟
الإجابة: لا، لكن شددت على المراجعة البشرية.
