تحقيق يكشف كيف تُستخدم أداة Veo 3 من جوجل لإنشاء ونشر محتوى عنصري يستهدف السود والمهاجرين على منصات التواصل الاجتماعي، محققًا ملايين المشاهدات رغم سياسات الحظر.
مقدمة: عندما يتحول الإبداع إلى كراهية
في الوقت الذي تتباهى فيه شركات التكنولوجيا بقدرة أدوات الذكاء الاصطناعي على إطلاق العنان للإبداع، يظهر وجه مظلم وقبيح لهذه التقنية. كشفت منظمة «ميديا ماترز» الإعلامية غير الربحية عن اكتشاف مقلق: فيديوهات عنصرية، يبدو أنها أُنشئت باستخدام أداة توليد الفيديو Veo 3 من جوجل، تنتشر كالنار في الهشيم على منصة تيك توك، محققة ملايين المشاهدات. هذه الفيديوهات المليئة بالصور النمطية العنصرية، والتي يستهدف الكثير منها السود، تثير تساؤلات جدية حول قدرة شركات التكنولوجيا على التحكم في أدواتها ومنع استخدامها لنشر الكراهية.
كيف تم الكشف عن المشكلة؟
لاحظ باحثو «ميديا ماترز» انتشار مقاطع فيديو قصيرة تحمل علامة «Veo» المائية في زاويتها، وهي العلامة التي تضعها أداة جوجل الجديدة. أحد هذه المقاطع حصد وحده 14.2 مليون مشاهدة. بالإضافة إلى العلامة المائية، استخدم بعض المستخدمين وسومًا (هاشتاجات) أو تعليقات تشير صراحة إلى Veo 3 أو الذكاء الاصطناعي. كما أن طول المقاطع، التي لا تتجاوز 8 ثوانٍ أو تتكون من عدة مقاطع قصيرة، يتوافق مع الحد الأقصى لطول الفيديو الذي يمكن لأداة Veo 3 إنشاؤه حاليًا.
فشل سياسات الأمان
المفارقة الصارخة تكمن في أن هذا المحتوى ينتشر على منصات تدعي أن لديها سياسات صارمة ضده. على موقعها الإلكتروني، تقول جوجل إنها «ستحظر الطلبات والنتائج الضارة». وبالمثل، تنص قواعد تيك توك على أن «خطاب الكراهية والسلوك البغيض لا مكان لهما على تيك توك». ومع ذلك، نجح هذا المحتوى في تجاوز فلاتر الأمان والوصول إلى ملايين المستخدمين.
في ردها على التقرير، قالت أريان دي سيليير، المتحدثة باسم تيك توك: «نحن نطبق بشكل استباقي قواعد صارمة ضد خطاب الكراهية والسلوك البغيض، وقد أزلنا الحسابات التي حددناها في التقرير، والتي تم حظر العديد منها بالفعل قبل نشر التقرير». ورغم هذا الرد، فإن حقيقة وصول هذه الفيديوهات إلى هذا العدد الهائل من المشاهدات قبل حظرها تظهر وجود ثغرات خطيرة في أنظمة الإشراف.
مشكلة لا تقتصر على تيك توك
لم تكن تيك توك هي المنصة الوحيدة التي تعاني من هذه المشكلة. وجد تقرير «ذا فيرج» بعض الفيديوهات نفسها على يوتيوب، وإن كان بعدد مشاهدات أقل. كما اكتشفت مجلة «وايرد» فيديوهات عنصرية مماثلة تم إنشاؤها بالذكاء الاصطناعي على إنستغرام. بالإضافة إلى المحتوى الذي يستهدف السود، وجدت «ميديا ماترز» مقاطع أخرى تحتوي على محتوى معادٍ للسامية وتصوير عنصري للمهاجرين والآسيويين، مما يؤكد أن المشكلة واسعة النطاق.
التحدي الأكبر: سباق بين الإنشاء والإشراف
تسلط هذه الحادثة الضوء على التحدي الهائل الذي يواجه المنصات في عصر المحتوى المُنشأ بالذكاء الاصطناعي. فبينما تسهل هذه الأدوات على أي شخص إنشاء محتوى جذاب بصريًا، فإنها تسهل أيضًا على الجهات الخبيثة إنتاج كميات هائلة من المحتوى الضار بوتيرة تفوق قدرة المشرفين البشريين والخوارزميات على المراجعة والحذف. إنها معركة مستمرة بين سرعة الإنشاء وفعالية الإشراف.
الخاتمة: مسؤولية تقع على عاتق الجميع
إن انتشار الفيديوهات العنصرية التي تم إنشاؤها باستخدام Veo 3 هو تذكير مؤلم بأن أدوات الذكاء الاصطناعي هي سلاح ذو حدين. فبينما تعد بالابتكار، فإنها تحمل معها خطر تضخيم أسوأ التحيزات الموجودة في مجتمعاتنا. تقع المسؤولية الآن على عاتق شركات التكنولوجيا مثل جوجل وتيك توك لتطوير أنظمة أمان أكثر قوة وفعالية، ليس فقط لحذف المحتوى الضار بعد انتشاره، بل لمنع إنشائه وتوزيعه في المقام الأول. مستقبل الفضاء الرقمي الصحي والآمن يعتمد على نجاحهم في هذا المسعى.
