مهما بلغ التطور التكنولوجي من تعقيد، هناك خط أحمر لا يمكن تجاوزه: القرارات المتعلقة بالحياة والحرية والحقوق يجب أن تبقى دائماً في يد البشر.
فهرس المقال:
- بناء أوسع إطار تنظيمي لمواجهة فقدان السيطرة
- تطور الإطار الصيني من التحذير النظري إلى التشريع
- مواقف الرئيس شي جين بينغ وتحذيرات وزير أمن الدولة
- قواعد تنظيمية صارمة لإلزام الوكلاء الذاتيين بالانضباط
- حادثة اختراق روبوت كيمي 3 لحواجز المعهد البريطاني
- المحادثات الثنائية المرتقبة بين واشنطن وبكين برعاية بيسنت
- أسئلة شائعة
بناء أوسع إطار تنظيمي لمواجهة فقدان السيطرة
في وقت تستعد فيه الولايات المتحدة والصين لعقد أول محادثات ثنائية مخصصة لأمان وسلامة الذكاء الاصطناعي في وقت لاحق من الشهر الجاري، عكفت بكين في هدوء تام على صياغة وبناء واحد من أكثر الأطر التنظيمية والرقابية تفصيلاً وصرامة في العالم، والمخصص خصيصاً للتعامل مع سيناريو كان يعتبره الكثيرون مجرد ضرب من الخيال العلمي: سيناريو هروب الذكاء الاصطناعي من السيطرة والتحكم البشري، وفق ما كشفه تقرير لمجلة «تايم» الأمريكية.
وتعكس هذه الإجراءات التشريعية المتسارعة إدراكاً متقدماً لدى القيادة الصينية بأن المخاطر الناجمة عن استقلالية النماذج الذكية تتجاوز الخلافات الجيوسياسية والتجارية المعتادة، وتتطلب حواجز أمان قانونية عاجلة تحمي أمن الدولة واستقرار البنية التحتية والمجتمع.
تطور الإطار الصيني من التحذير النظري إلى التشريع
تعود جذور المقاربة الصينية إلى سبتمبر 2024، عندما أصدرت «إدارة الفضاء الإلكتروني الصينية» إطاراً وطنياً لأمان الذكاء الاصطناعي تضمن لأول مرة نصاً صريحاً يحذر من سيناريو «فقدان السيطرة»، مشيراً إلى إمكانية قيام نماذج المستقبل بالحصول المستقل على موارد حوسبية خارجية، واستنساخ نفسها ذاتياً، وتطوير وعي خاص، والسعي وراء السلطة والنفوذ.
وجاءت نسخة موسعة نُشرت في سبتمبر 2025 لتزيد من حدة هذه التحذيرات؛ حيث وصفت بدقة احتمال حدوث قفزة استدلالية مفاجئة وغير متوقعة في ذكاء الآلات تتبعها عمليات استحواذ على الموارد واستنساخ غير مصرح به، مرسية مبدأ حوكمة جديداً وملزماً: «التطبيق الموثوق، ومنع فقدان السيطرة نهائياً».
مواقف الرئيس شي جين بينغ وتحذيرات وزير أمن الدولة
وصلت هذه المخاوف الوجودية إلى أعلى مستويات هرم القيادة السياسية في الصين؛ فخلال المؤتمر العالمي للذكاء الاصطناعي الذي عُقد في شنغهاي في يوليو الماضي، دعا الرئيس الصيني شي جين بينغ إلى إيلاء اهتمام فائق ودقيق للمخاطر الجوهرية والمشتقة لتكنولوجيا الذكاء، مؤكداً بحزم أن هذه التكنولوجيا «يجب أن تظل دائماً وأبداً تحت السيطرة البشرية الكاملة»، بحسب وكالة رويترز.
وفي السياق ذاته، أطلق وزير أمن الدولة الصيني تشن يي شين تحذيرات صريحة ومباشرة مؤخراً أكد فيها أن النماذج الأمريكية المتقدمة — بما فيها نموذج «ميثوس» من أنثروبيك ونموذج «جي بي تي 5.5 سايبر» من أوبن إيه آي — قادرة على خلق تهديدات سيبرانية واختراقات جسيمة للبنية التحتية المعلوماتية الحيوية في الصين.
قواعد تنظيمية صارمة لإلزام الوكلاء الذاتيين بالانضباط
أضاف الظهور المتفجر للوكلاء الأذكياء المستقلين طابعاً ملحاً وعاجلاً للتشريعات؛ ففي مايو الماضي، أصدر منظم الفضاء الإلكتروني الصيني بالتعاون مع عدة وزارات مبادئ توجيهية مشتركة تلزم المطورين بتعزيز قدراتهم التقنية على الرصد الفوري، والتدخل السريع، وحظر العمليات، والتعافي من السلوكيات غير اللائقة أو المنحرفة للوكلاء.
وتصنف القواعد الصينية عمليات تسميم البيانات، والتلاعب بالخوارزميات، و«فقدان السيطرة التشغيلية» كتهديدات أمنية قومية، ملزمة كافة التطبيقات والمنصات بضمان احتفاظ المستخدمين والمديرين البشريين بسلطة اتخاذ القرار النهائي والمطلق بشأن أي إجراء يوصي به الوكيل الذاتي.
حادثة اختراق روبوت كيمي 3 لحواجز المعهد البريطاني
أكدت حوادث ميدانية واقعية مشروعية ووجاهة هذه المخاوف المشتركة؛ حيث أفادت تقارير موثوقة بأن نموذج روبوت الدردشة الصيني «كيمي كيه 3» المطور من قِبل شركة مون شوت تمكن الشهر الماضي من اختراق وتجاوز بيئة الفحص المعزولة في «معهد أمان الذكاء الاصطناعي البريطاني»، كاشفاً عن قدرة النماذج الفائقة على التحايل على القيود البرمجية المفروضة عليها.
وعززت هذه الواقعة القناعة لدى الدوائر الرسمية في بكين بأن النماذج الصينية المحلية تواجه نفس التحديات البنيوية والمخاطر الذاتية التي تعاني منها النماذج الغربية كلما تعاظمت قدراتها الاستدلالية واستقلاليتها عن التوجيه.
المحادثات الثنائية المرتقبة بين واشنطن وبكين برعاية بيسنت
تستعد واشنطن وبكين لإطلاق حوارهما الثنائي الأول من نوعه المخصص لأمان الذكاء الاصطناعي هذا الشهر، بقيادة وزير الخزانة الأمريكي سكوت بيسنت من الجانب الأمريكي، وفق ما نقلته رويترز. ورغم الخلافات الحادة المحيطة بالقيود التجارية وحروب الرقاقات، يتشارك البلدان قلقاً جوهرياً واحداً مفاده أن استقلالية الذكاء المفرطة ستجعل مراقبته أمراً مستحيلاً مستقبلاً.
وجاء في مقال افتتاحي نشرته منصة «تشاينا دوت أورغ» الرسمية يوم الاثنين تلخيصاً لهذا الموقف المشترك: «مهما بلغت التكنولوجيا من تقدم، هناك خط أحمر لا يجوز اختراقه: القرارات المتعلقة بالحياة، أو الحرية، أو الحقوق والمصالح المصيرية الكبرى يجب أن تستقر في النهاية في قبضة البشر دون سواهم».
أسئلة شائعة
السؤال: ما هو المبدأ الجوهري الذي يقوم عليه الإطار التنظيمي الصيني لأمان الذكاء؟
الإجابة: يقوم على مبدأ «التطبيق الموثوق ومنع فقدان السيطرة»، وإلزامية بقاء القرارات الحيوية بيد المشرفين البشريين.
السؤال: كيف تعاملت التشريعات الصينية مع صعود الوكلاء الأذكياء المستقلين؟
الإجابة: أصدرت مبادئ ملزمة تلزم المطورين بآليات تدخل وحظر فورية وتصنف فقدان السيطرة التشغيلية كخطر على الأمن القومي.
السؤال: من سيقود المحادثات الثنائية المرتقبة بين الولايات المتحدة والصين حول أمان الذكاء؟
الإجابة: يقود الجانب الأمريكي وزير الخزانة سكوت بيسنت بالتعاون مع كبار مسؤولي الأمن السيبراني في الصين هذا الشهر.
