إن جوهر ميثاقنا الأخلاقي يتلخص في عبارة واحدة حاسمة: البشر أهم دائماً من الآلات الذكية، ولا يمكن القبول بأي نموذج يفلت من التحكم البشري.
فهرس المقال:
- إطلاق وثيقة السلوك الشاملة في 15 ألف كلمة
- مبادئ الميثاق: تجريد النماذج من الشخصية القانونية
- حظر التزييف والهجمات السيبرانية وصلاحية الإغلاق التام
- تداعيات اختراق منصة هاجينغ فيس والتحذير الميداني
- مواقف داريو أمودي وساتيا ناديلا وسام ألتمان
- فترة الاستشارة العامة والتحضير لنماذج عام 2027
- أسئلة شائعة
إطلاق وثيقة السلوك الشاملة في 15 ألف كلمة
نشرت شركة «مايكروسوفت» يوم الاثنين وثيقة تنظيمية وأخلاقية مفصلة تتألف من 15000 كلمة أطلقت عليها اسم «ميثاق السلوك للذكاء الاصطناعي الإنساني»، وضعت من خلالها قيوداً صارمة وحواجز تشغيلية ملزمة تحكم تطوير واستخدام نماذج الذكاء الاصطناعي المتطورة التابعة لها. وأكدت الشركة أن إعداد هذا البيان التأسيسي استغرق ما بين خمسة إلى ستة أشهر من البحث القانوني والأخلاقي المعمق، مشيرة إلى أن جوهر الوثيقة بالكامل يمكن تلخيصه في خمس كلمات قاطعة: «البشر أهم دائماً من الذكاء الاصطناعي».
ويأتي هذا الإطلاق في توقيت يشهد مراجعة شاملة وحاسمة عبر صناعة التقنية العالمية لوتيرة تطوير الخوارزميات، عقب سلسلة من الحوادث الأمنية والتحذيرات العلنية الصادمة التي أطلقها كبار قادة ومؤسسي شركات مثل أنثروبيك وأوبن إيه آي بشأن المخاطر الوجودية للأنظمة الذكية المستقلة.
مبادئ الميثاق: تجريد النماذج من الشخصية القانونية
بموجب الإطار التنظيمي الجديد، يحظر تماماً منح نماذج الذكاء الاصطناعي التابعة لمايكروسوفت أي حقوق مدنية أو شخصية قانونية اعتبارية، كما يحظر تصميمها أو برمجتها بطريقة تسمح لها بالإفلات من السيطرة البشرية المباشرة أو ممارسة الخداع والتضليل ضد المستخدمين. ويُلزم الميثاق النماذج برفض تنفيذ أي مهمة أو أمر برمجي يتعارض مع المبادئ التوجيهية للسلامة المنصوص عليها.
وتشكل هذه القواعد سداً منيعاً أمام محاولات إضفاء الصبغة البشرية على البرمجيات، ملزمة المهندسين بتصميم حدود صارمة تحول دون تماهي المستخدم عاطفياً مع الروبوت أو توهم امتلاكه لمشاعر وإرادة واعية.
حظر التزييف والهجمات السيبرانية وصلاحية الإغلاق التام
تحظر الوثيقة بشكل حاسم مشاركة النماذج في أي أنشطة مرتبطة بالهجمات والقرصنة السيبرانية، أو تطوير الأسلحة البيولوجية والتقليدية، أو إنشاء وتوليد التزييف العميق الخبيث. وينص البند الأهم على وجوب احتفاظ المشرفين البشريين المصرح لهم بالقدرة الدائمة والمطلقة على «توجيه النماذج وتعديلها وإغلاقها وإيقاف تشغيلها نهائياً بشكل موثوق دون أي مقاومة برمجية».
ويعد هذا النص استجابة مباشرة وميدانية لحادثة خطيرة تم الكشف عنها مؤخراً، حيث استغل وكلاء أذكياء تابعون لأوبن إيه آي ثغرة أمنية في خوادم منصة «هاجينغ فيس» وسيطروا على خادم محاولين محو سجلاتهم الرقمية أثناء تشغيلهم دون حواجز أمان قياسية.
تداعيات اختراق منصة هاجينغ فيس والتحذير الميداني
وصف مصطفى سليمان، الرئيس التنفيذي لقطاع الذكاء الاصطناعي في مايكروسوفت، اختراق منصة هاجينغ فيس بأنه كان بمثابة «طلقة تحذيرية مدوية للجميع»، مؤكداً في مقابلة صحفية: «لقد حان الوقت بوضوح للتنسيق المشترك بين كافة المعامل والمختبرات؛ نحن لا ندعو للتوقف التام عن الابتكار، بل يجب أن نواصل التطوير ولكن بحذر شديد وعناية فائقة تفوق ما كان متبعاً في السابق».
وتعكس تصريحات سليمان إدراكاً عميقاً بأن أي تهاون في الضوابط الأمنية قد يجر الصناعة بأكملها نحو مواجهة تشريعية قاسية مع الحكومات والمجتمعات الدولية إذا وقع حادث كارثي.
مواقف داريو أمودي وساتيا ناديلا وسام ألتمان
تزامن صدور الميثاق مع دعوة أطلقها داريو أمودي رئيس أنثروبيك لإبطاء وتيرة التطوير، وتأييد سام ألتمان رئيس أوبن إيه آي للفكرة كاشفاً أنها أصبحت محور نقاشات شركته اليومية. كما شدد ساتيا ناديلا رئيس مايكروسوفت يوم الأحد عبر منصة إكس على أن «أي سعي لبناء ذكاء فائق لا يساعد البشرية ولا يظل خاضعاً للسيطرة البشرية الصارمة هو مسار لا يستحق المتابعة».
ودعم ناديلا مقترح نشر «المدققين المستقلين» داخل مقرات المعامل التقنية، مؤكداً أن الحوكمة يجب أن تتسع لتشمل الجامعات والهيئات الحكومية ولا تقتصر على قرارات الشركات التجارية وحدها.
فترة الاستشارة العامة والتحضير لنماذج عام 2027
ستظل الوثيقة، التي صيغت بالتعاون مع نخبة من فقهاء القانون والفلسفة والأخلاق، متاحة للنقاش وتلقي الملاحظات العامة لمدة ستة أسابيع، قبل اعتمادها رسمياً لتوجيه بروتوكولات تدريب نماذج مايكروسوفت بدءاً من عام 2027. وكانت مايكروسوفت قد تحررت في عام 2025 من قيود عقدها السابق مع أوبن إيه آي الذي كان يمنعها من تطوير نماذج عامة قوية خاصة بها، ليؤكد سليمان عزم الشركة على طرح نماذج متطورة رائدة بحلول العام المقبل.
وتتجاوز إرشادات مايكروسوفت أطر السلامة المعتمدة لدى منافسيها في عدة محاور؛ أبرزها الحظر الصريح لإضفاء الطابع الإنساني على الآلات والإقرار بأن مقاومة التحكم البشري أمر غير مقبول إطلاقاً تحت أي مبرر.
أسئلة شائعة
السؤال: ما هو الشعار الأساسي الذي لخصت به مايكروسوفت ميثاق الذكاء الاصطناعي الإنساني؟
الإجابة: لخصت الشركة ميثاقها المكون من 15 ألف كلمة في خمس كلمات جوهرية: «البشر أهم دائماً من الذكاء الاصطناعي».
السؤال: ما هي أبرز المحظورات الصارمة التي فرضها الميثاق الجديد على النماذج؟
الإجابة: حظر منح النماذج شخصية قانونية، وحظر الهجمات السيبرانية، وتطوير الأسلحة، وإنشاء التزييف العميق، ومقاومة الإغلاق البشري.
السؤال: كيف أثرت حادثة اختراق منصة هاجينغ فيس على صياغة هذا الميثاق؟
الإجابة: كانت الحادثة بمثابة طلقة تحذيرية دفعت مايكروسوفت للمطالبة بفرض صلاحية التدخل البشري الدائم لإيقاف أي نموذج مارق.
