تواجه شركة ميتا انتقادات حادة بسبب البطء في حذف الحسابات التي تنشر مقاطع مولدة بالذكاء الاصطناعي لأطفال في مشاهد استجداء وإساءة قاسية.
- تحقيقات استقصائية وتأخر استجابة منصة فيسبوك
- مقاطع مروعة تتضمن مشاهد تعذيب وعنف بحق أطفال
- ظاهرة الاستجداء الرقمي وخداع المتابعين بالمحتوى المزيف
- سجل متكرر من الانتقادات وتحركات برلمانية مرتقبة
- أسئلة شائعة
تحقيقات استقصائية وتأخر استجابة منصة فيسبوك
استغرقت شركة «ميتا بلاتفورمز» أكثر من 48 ساعة كاملة لاتخاذ إجراءات عملية بحق 19 حساباً على منصة «فيسبوك» كانت تنشر بصورة منهجية مقاطع مرئية شديدة القسوة والعنف تم توليدها بالكامل عبر أدوات الذكاء الاصطناعي، وتصور أشكالاً متعددة من الانتهاكات والإساءات الفادحة بحق أطفال رضع وقاصرين، وفقاً لتحقيق صحفي نشرته منصة «فيوتشريسم» المتخصصة، والتي كانت قد أبلغت الشركة بالحسابات المشبوهة رسمياً.
ولم تتوقف الأزمة عند هذا الحد؛ إذ كشف تقرير استقصائي ثانٍ نشرته المنصة ذاتها يوم الجمعة عن انتشار واسع لحسابات متخصصة في بث مقاطع اصطناعية لأطفال يبكون بحرقة ويستجدون المستخدمين للتفاعل وإبداء الإعجاب والمتابعة. ورغم أن «ميتا» بادرت إلى إغلاق حسابين من أصل ثلاثة حسابات وثقها التحقيق الثاني، إلا أن مسؤوليها امتنعوا تماماً عن الإجابة على استفسارات واضحة بشأن ما إذا كانت هذه الفيديوهات التلاعبية تخالف القواعد والسياسات الرسمية للمنصة أم لا.
مقاطع مروعة تتضمن مشاهد تعذيب وعنف بحق أطفال
أوضحت منصة «فيوتشريسم» أنها قامت برصد وإبلاغ إدارة «ميتا» بتلك الحسابات الـ 19 لاختبار مدى سرعة استجابة المنظمة التكنولوجية، لا سيما بعد تقارير سابقة وثقت انتشار مقاطع مشابهة. وكشف التقرير أن الفيديوهات التي بقيت متاحة للمشاهدة لأيام تضمنت مشاهد صادمة تُظهر أطفالاً يتعرضون للضرب المبرح، والحرق، والحبس في أقفاص حديدية، بل إن أحد المقاطع أظهر مشهداً بشعاً لرضيع داخل فرن ساخن، بينما أظهرت مقاطع أخرى طفلاً صغيراً يُدفع من أعلى الدرج وأطفالاً يُجلدون بالأحزمة، فضلاً عن مقاطع تصور معلمين يعتدون بالضرب على تلاميذ من أصحاب البشرة السمراء داخل الفصول الدراسية.
وظلت هذه الحسابات تعمل بصورة طبيعية على «فيسبوك» لعدة أيام حتى بعد نشر القصة الصحفية في 7 أكتوبر، قبل أن تتدخل الشركة لحذفها مكتفية بالبيان المقتضب المعتاد: «لقد قمنا بإزالة هذا المحتوى لمخالفته لسياساتنا». وأشارت المنصة الاستقصائية إلى واقعة سابقة قامت فيها الشركة بحذف حساب مخالف أثناء إعداد التحقيق، ثم أعادت تنشيط الحساب ذاته وسمحت بإعادة نشر مقاطعه المسيئة فور نشر المقال الصحفي.
ظاهرة الاستجداء الرقمي وخداع المتابعين بالمحتوى المزيف
رصد التقرير الاستقصائي الثاني تفشي حسابات تحمل أسماء عاطفية مثل «إيموشنال توتس» و«تايني ميراكل»، تركز على نشر مقاطع قصيرة مولدة عبر الذكاء الاصطناعي يظهر فيها طفل صغير يحاول أخذ قطعة طعام أو رغيف خبز لسد جوعه، قبل أن يوقفه رجل أمن أو شرطي صارم. وفي أحد المقاطع التي حصدت ملايين المشاهدات، يظهر الشرطي وهو يقول لطفل ينتحب: «أنت لا تملك ما يكفي من المتابعين والمشاركات لمقاطعك؛ وإذا قام الشخص الذي يشاهد هذا الفيديو بالضغط على زر المتابعة والمشاركة الآن، فسيتم إخلاء سبيلك فوراً».
وأظهرت مراجعة التعليقات أن شريحة واسعة من جمهور المستخدمين العاديين لم يدركوا على الإطلاق أن تلك المقاطع مصطنعة ومولدة عبر خوارزميات الذكاء الاصطناعي، بل تعاملوا معها كحالات إنسانية حقيقية ومؤلمة. واكتفى متحدث باسم «ميتا» بالقول: «نحن نعمل على إزالة أي محتوى يخالف سياساتنا بصرف النظر عما إذا كان قد صُنع بواسطة الذكاء الاصطناعي أو بواسطة إنسان حقيقي»، متجاهلاً الرد المباشر حول ما إذا كانت مقاطع استجداء الأطفال تخضع للحظر المباشر.
سجل متكرر من الانتقادات وتحركات برلمانية مرتقبة
تأتي هذه الفضائح الرقمية لتضاف إلى سجل طويل من الاتهامات الموجهة لشركة «ميتا» بشأن التراخي في حماية الأطفال والقصّر على تطبيقاتها. ففي شهر سبتمبر الماضي، وثق «مشروع الشفافية التقنية» قيام الشركة ببث 332 إعلاناً ممولاً تروج لمواد استغلال جنسي للأطفال مولدة بالذكاء الاصطناعي عبر منصتي «فيسبوك» و«إنستغرام»، واستغل بعضها صوراً حقيقية لأطفال معروفين.
وكان آندي ستون، المتحدث الرسمي باسم «ميتا»، قد صرح لوكالة «بلومبرغ» مؤخراً قائلاً: «إننا لا نتسامح مطلقاً مع تطبيقات العري أو أي شكل من أشكال استغلال الأطفال، سواء كان ذلك المحتوى حقيقياً أو مولداً بالذكاء الاصطناعي». ومع ذلك، فإن بطء آليات المراقبة واستمرار تدفق هذه المشاهد دفع نواباً في الكونغرس الأمريكي إلى إعلان عزمهم فتح تحقيقات برلمانية معمقة لمساءلة مسؤولي الشركة وإلزامهم باتخاذ إجراءات تقنية صارمة لوقف هذه التجاوزات.
أسئلة شائعة
السؤال: ما هي الفيديوهات المسيئة التي كشفت عنها تقارير منصة فيوتشريسم؟
الإجابة: كشفت التقارير عن حسابات تنشر فيديوهات مولدة بالذكاء الاصطناعي تظهر أطفالاً يتعرضون للتعذيب والحبس أو يستجدون المشاهدين طلباً للمتابعات.
السؤال: كم استغرقت شركة ميتا لإزالة الحسابات التي تنشر مقاطع العنف؟
الإجابة: استغرقت الشركة أكثر من 48 ساعة بعد الإخطار الرسمي لحذف الحسابات، وظلت بعض المقاطع متاحة لعدة أيام بعد النشر الصحفي.
السؤال: ما هي ظاهرة مقاطع الاستجداء الرقمي المنتشرة على المنصة؟
الإجابة: هي مقاطع خيالية تظهر أطفالاً يبكون ويزعم فيها المقطع أن إطلاق سراحهم مرتبط بقيام المشاهد بالضغط على أزرار المتابعة والمشاركة.
السؤال: هل وضحت ميتا موقفها القانوني من فيديوهات استجداء الأطفال؟
الإجابة: رفضت الشركة الإفصاح عما إذا كانت هذه المقاطع التلاعبية تخالف سياساتها، مكتفية بتأكيد إزالة المحتوى المخالف بشكل عام.
