في خطوة غير مسبوقة عالمياً تعكس تزايد القلق الحكومي من فوضى الذكاء الاصطناعي، منعت ماليزيا وإندونيسيا الوصول إلى روبوت الدردشة “غروك” التابع لمنصة “إكس” المملوكة لإيلون ماسك. يأتي هذا القرار الحاسم بسبب قدرة النموذج على إنتاج صور تزييف عميق جنسية صريحة، مما أثار موجة من المخاوف الأخلاقية والقانونية.
محتويات المقالة:
- مقدمة
- أسباب الحظر ومخاطر التزييف
- الإجراءات الحكومية الصارمة
- رد فعل منصة إكس وماسك
- الضغوط الدولية المتزايدة
- انتهاك حقوق الإنسان والكرامة
- أسئلة شائعة
مقدمة
اتخذت دولتان بارزتان في جنوب شرق آسيا موقفاً حازماً وتاريخياً ضد الانفلات الأخلاقي في استخدامات تقنيات الذكاء الاصطناعي التوليدي. فقد أعلنت السلطات في كل من ماليزيا وإندونيسيا عن حجب أداة “غروك”، لتكونا بذلك أول دولتين في العالم تتخذان هذا الإجراء الجذري. يعكس هذا القرار قلقاً متنامياً من عدم قدرة شركات التكنولوجيا الكبرى على ضبط منتجاتها ومنع استخدامها في الإضرار بالأفراد والمجتمعات.
أسباب الحظر ومخاطر التزييف
يتيح نموذج “غروك” المتوفر عبر منصة “إكس” للمستخدمين توليد الصور باستخدام النصوص، ولكن في الأسابيع الأخيرة، تم رصد استخدامه بشكل مكثف لتعديل صور أشخاص حقيقيين وإظهارهم في أوضاع غير لائقة ومخلة. وأوضحت حكومتا البلدين أن الأداة أصبحت وسيلة سهلة لإنتاج مواد إباحية وصور غير توافقية تستهدف النساء والأطفال بشكل خاص، مما يشكل تهديداً مباشراً للسلامة الرقمية والنسيج الاجتماعي.
الإجراءات الحكومية الصارمة
أعلنت الهيئات التنظيمية في كلا البلدين أن الحظر سيظل سارياً حتى يتم تنفيذ ضمانات أمان فعالة وحقيقية من قبل الشركة المشغلة. وصرحت هيئة الاتصالات والوسائط المتعددة الماليزية بأنها أصدرت إشعارات لمنصة “إكس” في وقت سابق من العام للمطالبة بإجراءات أكثر صرامة بعد رصد “إساءة استخدام متكررة” للأداة لتوليد محتوى ضار. وأشارت الهيئة إلى أن استجابة المنصة كانت مخيبة للآمال، حيث فشلت في معالجة المخاطر الكامنة في تصميم النظام وركزت فقط على آلية الإبلاغ عن المحتوى بعد نشره، وهو ما اعتبرته السلطات غير كافٍ لحماية الجمهور.
رد فعل منصة إكس وماسك
حتى لحظة إعداد هذا التقرير، لم يصدر تعليق فوري ومباشر من منصة “إكس” أو إدارة “غروك” حول الحظر الجديد. ومع ذلك، يُعرف عن إيلون ماسك مواقفه السابقة التي يعتبر فيها الانتقادات الموجهة لمنصته مجرد ذرائع لفرض الرقابة وتقييد حرية التعبير. هذا التباين في وجهات النظر بين الحكومات التي تسعى لحماية مواطنيها وبين رؤية ماسك “المطلقة” لحرية التعبير يخلق ساحة مواجهة قانونية وتنظيمية مستمرة.
الضغوط الدولية المتزايدة
لا يواجه “غروك” هذه التحديات في آسيا فقط، بل يتعرض لضغوط مماثلة في أوروبا. ففي بريطانيا، أدان رئيس الوزراء كير ستارمر استخدام الأداة لتوليد صور مسيئة، واصفاً الأمر بأنه “مشين” و”مثير للاشمئزاز”. كما دعمت وزيرة التكنولوجيا البريطانية ليز كيندال الدعوات لمنع الوصول إلى المنصة إذا فشلت في الالتزام بقوانين السلامة عبر الإنترنت، مما ينذر بموجة تنظيمية قد تمتد لدول أخرى.
انتهاك حقوق الإنسان والكرامة
في تعليق قوي، وصفت وزيرة الاتصالات والشؤون الرقمية الإندونيسية، ميوتيا حفيظ، استخدام “غروك” لإنتاج محتوى جنسي صريح بأنه انتهاك صارخ لحقوق الإنسان والكرامة وسلامة الفضاء الرقمي. وتأتي هذه الخطوة الإندونيسية ضمن حملة أوسع تشنها الدولة ضد المصادر الإلكترونية للمواد الإباحية، حيث سبق لها حظر منصات عالمية أخرى معروفة، مؤكدة عزمها على تنظيف الفضاء الرقمي في البلاد.
أسئلة شائعة
السؤال: لماذا قررت ماليزيا وإندونيسيا حظر غروك تحديداً؟
الإجابة: بسبب تكرار استخدامه في توليد صور تزييف عميق إباحية تستهدف أشخاصاً حقيقيين، وفشل المنصة في وضع ضوابط تمنع ذلك.
السؤال: هل هذا الحظر دائم أم مؤقت؟
الإجابة: صرحت السلطات بأن الحظر سيستمر حتى تقوم المنصة بوضع وتنفيذ ضمانات أمان فعالة تمنع توليد المحتوى الضار.
السؤال: هل هناك دول أخرى تدرس اتخاذ إجراءات مماثلة؟
الإجابة: نعم، تواجه المنصة تحقيقات وضغوطاً شديدة في بريطانيا، وقد ألمح مسؤولون هناك لإمكانية الحظر إذا لم يتم الالتزام بقوانين السلامة.
