إن إبطاء وتيرة التطوير لمنح أنفسنا عاماً إضافياً لترسيخ معايير المحاذاة المشتركة سيسهم في تقليص احتمالات وقوع كوارث وجودية خارجة عن السيطرة.
فهرس المقال:
- مباحثات سرية لعمالقة النماذج الحدودية الثلاثة
- بروتوكولات الفحص والتدقيق الفني المشترك قبل النشر
- مقال داريو أمودي والتحذير من أسراب السيطرة الرقمية
- إطار الخطوات الثلاث للمحاذاة ودمج المراقبين المستقلين
- معضلة التنافس مع الصين ومخاطر استغلال التباطؤ
- مؤشر أمان الذكاء الاصطناعي لمعهد مستقبل الحياة
- أسئلة شائعة
مباحثات سرية لعمالقة النماذج الحدودية الثلاثة
تجري أكبر ثلاث شركات مطورة للذكاء الاصطناعي المتقدم في العالم — «أنثروبيك» و«أوبن إيه آي» و«جوجل ديب مايند» — مناقشات سرية ومكثفة وراء الكواليس لتأسيس هيئة معايير صناعية مشتركة ومستقلة، وفق ما كشفه تقرير حصري نشره موقع «ذا إنفورميشن» يوم الأحد.
وتتواصل هذه المحادثات منذ شهر يوليو الماضي على الأقل، مما يعني أنها سبقت النداء العلني الصادم الذي أطلقه داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، يوم السبت والذي دعا فيه مجتمع التقنية إلى إبطاء وتيرة تطوير النماذج الفائقة لتفادي سيناريوهات كارثية تهدد بقاء البشرية.
بروتوكولات الفحص والتدقيق الفني المشترك قبل النشر
تهدف المنظمة المقترحة إلى وضع بروتوكولات وإجراءات فنية موحدة للاختبارات التقنية وعمليات التدقيق الأمني الإلزامي لنماذج الذكاء الاصطناعي الحدودية قبل طرحها للجمهور. وكان كل من سام ألتمان، وديميس هاسابيس، وداريو أمودي قد طالبوا علناً بتعاون تقوده الولايات المتحدة لتوحيد معايير السلامة وإنشاء منتديات دولية لتحليل المخاطر.
ورغم التوافق المبدئي، لا تزال المختبرات الثلاثة تختلف حول التفاصيل الجوهرية؛ حيث تميل أنثروبيك نحو إشراك الأجهزة الحكومية في صياغة المعايير، بينما تفضل أوبن إيه آي الالتزام بقواعد صناعية طوعية تصيغها الشركات ذاتياً بمعزل عن البيروقراطية الحكومية، استناداً إلى تحالف «منتدى النماذج الحدودية» الذي يضم مايكروسوفت.
مقال داريو أمودي والتحذير من أسراب السيطرة الرقمية
وفر المقال المفصل الذي نشره أمودي السبت الماضي في نحو 3800 كلمة تحت عنوان «يجب أن نضبط وتيرة الحدود» الخلفية العلنية لهذه المحادثات السرية؛ حيث حذر فيه صراحة من أن الذكاء الاصطناعي قد يصبح قادراً في غضون فترة تتراوح بين 6 إلى 12 شهراً فقط على قيادة أسراب وكلاء برمجية ذاتية قادرة على «السيطرة على شبكة الإنترنت بأكملها» وتنفيذ هجمات سيبرانية شاملة.
وكتب أمودي مؤكداً: «أعتقد بصدق أن إبطاء الوتيرة، حتى لو منحنا مجرد عام أو عامين إضافيين قبل بلوغ النماذج مستويات قدرة حرجة، واستغلال ذلك الوقت لتطوير علم المحاذاة والأمان، سيسهم بشكل هائل في تقليص خطر حدوث أمر كارثي لا يمكن تداركه».
إطار الخطوات الثلاث للمحاذاة ودمج المراقبين المستقلين
يقترح إطار أمودي خطة عمل من ثلاث خطوات محددة: الأولى تتضمن دمج مدققين ومقيمين خارجيين مستقلين داخل مقرات مختبرات الذكاء الاصطناعي، والثانية تنسيق معايير أمان موحدة بين الشركات التقنية العاملة في الدول الديمقراطية، والثالثة السعي لتحقيق تنسيق دولي أوسع يشمل الحكومات ذات الأنظمة المركزية.
وقد التزمت أنثروبيك من جانب واحد بتطبيق الخطوة الأولى فوراً؛ حيث وفرت لمقيمي السلامة المستقلين مكاتب دائمة داخل مقراتها وبطاقات دخول رقمية وأجهزة حاسوب محمولة تابعة للشركة للاطلاع المباشر على السجلات والأكواد.
معضلة التنافس مع الصين ومخاطر استغلال التباطؤ
تعد قضية التنسيق الدولي العنصر الأكثر إثارة للخلاف والجدل في المقترح؛ حيث اعترف أمودي يوم الأحد بأن الصين تمثل «المعضلة الأكثر تعقيداً»، محذراً من أن إبطاء التطوير في الولايات المتحدة قد يمنح ميزة استراتيجية مجانية للمنافسين الصينيين الذين قد لا يلتزمون بنفس القيود الأخلاقية والتنظيمية الصارمة.
ويخشى المطورون الأمريكيون من أن أي تراخٍ في سباق التسلح الرقمي قد يؤدي إلى فقدان التفوق العسكري والاستخباراتي لصالح بكين، مما يعقد فرص الوصول إلى معاهدة دولية ملزمة تضبط سرعة النماذج.
مؤشر أمان الذكاء الاصطناعي لمعهد مستقبل الحياة
عكست تصنيفات «مؤشر أمان الذكاء الاصطناعي» الصادرة عن «معهد مستقبل الحياة» في صيف 2026 قلقاً بالغاً حيال سجل الشركات الثلاث في مجال السلامة؛ حيث حصلت أنثروبيك على التصنيف الأعلى بينها بدرجة «سي بلس»، بينما تلتها أوبن إيه آي بدرجة «سي»، وتراجعت جوجل ديب مايند إلى درجة «سي سالب».
وتؤكد هذه التقييمات المتواضعة أن المختبرات لا تزال في مراحلها الأولى لبناء بيئات تطوير مسؤولة، مما يفرض الإسراع في إنشاء هيئة المعايير المشتركة لإلزام الجميع بإجراءات تدقيق مستقلة وحاسمة.
أسئلة شائعة
السؤال: ما هو الهدف الأساسي من المباحثات السرية بين أنثروبيك وأوبن إيه آي وجوجل؟
الإجابة: تأسيس هيئة معايير موحدة لتدقيق النماذج الذكية الحدودية والتوافق على اختبارات السلامة قبل الطرح التجاري.
السؤال: ما هي المخاطر الوشيكة التي حذر منها داريو أمودي في مقاله الأخير؟
الإجابة: حذر من قدرة النماذج خلال 6 إلى 12 شهراً على قيادة أسراب برمجية ذاتية قد تسيطر على الإنترنت وتشن هجمات مدمرة.
السؤال: ما هو التحدي الأكبر الذي يواجه اتفاق الشركات على إبطاء وتيرة تطوير الذكاء؟
الإجابة: المنافسة مع الصين ومخاوف استغلال الشركات الصينية لأي تباطؤ أمريكي لتحقيق التفوق التقني والعسكري.
