مقدمة
نشر معهد أمن الذكاء الاصطناعي في المملكة المتحدة يوم 30 أبريل تقييما رسميا وبالغ الأهمية، وجد فيه وكشف بكل وضوح أن الإصدار الحديث من نموذج «جي بي تي 5.5» التابع لشركة أوبن أي آي يؤدي مهاما متعلقة بالأمن السيبراني بكفاءة وقدرة تضاهي تماما أداء نموذج «كلود ميثوس بريفيو» التابع لشركة أنثروبيك. وتشير هذه النتائج الدقيقة والمثيرة للقلق إلى أن القدرات الأمنية والهجومية المقلقة للغاية والتي تميز بها نموذج ميثوس ليست في واقع الأمر حكرا على نموذج واحد فحسب، بل هي بالأحرى جزء أصيل من اتجاه تصاعدي وأوسع يشمل تطوير كافة النماذج اللغوية الرائدة عالميا في مجال الذكاء الاصطناعي.
- نتائج متقاربة في مهام الخبراء المعقدة
- اتجاه عام وليس مجرد اختراق معزول
- تباين حاد في استراتيجيات الوصول للنماذج
- أسئلة شائعة
نتائج متقاربة في مهام الخبراء المعقدة
شملت التحديات السيبرانية المعقدة والمتقدمة التي وضعها معهد أمن الذكاء الاصطناعي والتي تتطلب بلا شك مستوى متقدما من الخبرة البشرية مهاما صعبة مثل استغلال الثغرات المتعلقة بتلف الذاكرة، وكسر الخوارزميات المخصصة للتشفير المعقد، بالإضافة إلى ممارسة الهندسة العكسية للبرامج والثنائيات. وفي خضم هذه الاختبارات، حقق نموذج جي بي تي 5.5 معدل نجاح متوسط ومثيرا للإعجاب وصل إلى 71.4 بالمائة، مقارنة بمعدل 68.6 بالمائة لنموذج ميثوس، في حين حقق الإصدار الأقدم جي بي تي 5.4 نسبة 52.4 بالمائة ونموذج أوبوس 4.7 نسبة 48.6 بالمائة. وبما أن هذه النتائج تقع ضمن هوامش الخطأ المعمول بها إحصائيا، فإن النموذجين يعتبران متكافئين وقابلين للمقارنة في الأداء بشكل ملحوظ.
علاوة على ذلك، أصبح نموذج جي بي تي 5.5 النموذج الذكي الثاني فقط في تاريخ الاختبارات الذي يتمكن من إكمال محاكاة هجوم سيبراني معقد يتكون من 32 خطوة متتالية على شبكة شركة، ونجح في محاولتين كاملتين من أصل 10 محاولات. وقد شملت هذه المحاكاة المتقدمة مهام الاستطلاع الأولي، وسرقة بيانات الاعتماد، والتحرك الجانبي داخل الشبكات، وتنفيذ هجوم المحور في سلسلة التوريد الخاصة بعمليات الدمج والتسليم المستمر، وصولا إلى مرحلة استخراج البيانات النهائية. وبحسب التقديرات الدقيقة لمعهد أمن الذكاء الاصطناعي، فإن هذه السلسلة المتواصلة من العمليات قد تستغرق من خبير بشري محترف ما يقرب من 20 ساعة لإنجازها بالكامل. وفي إحدى المهام الخاصة، تمكن نموذج جي بي تي 5.5 من إنهاء تحدٍ استغرق خبيرا بشريا نحو 12 ساعة في أقل من 11 دقيقة فقط وبتكلفة بلغت 1.73 دولار أمريكي فقط.
اتجاه عام وليس مجرد اختراق معزول
عندما أعلنت شركة أنثروبيك رسميا عن نموذج ميثوس في 7 أبريل وقررت في نفس الوقت حجبه تماما عن الإصدار والاستخدام العام بسبب قدرته الهائلة والمستقلة على اكتشاف واستغلال ثغرات يوم الصفر غير المكتشفة سابقا، أثار هذا الإجراء موجة عارمة من القلق البالغ في أوساط صناعة الأمن السيبراني بأكملها. أطلقت أنثروبيك بعد ذلك برنامجا محكما لتقييد الوصول أطلقت عليه اسم «مشروع غلاسوينغ»، واقتصرت صلاحيات استخدامه على حوالي 40 منظمة وشركة فقط تم فحصها والموافقة عليها بعناية، من بينها غوغل، ومايكروسوفت، وآبل، وأمازون، وبنك جي بي مورغان تشيس. ولكن التقييم الأخير الذي أجراه المعهد البريطاني غير هذه الصورة كليا، حيث كتب المعهد في تقريره: «لقد كان السؤال الرئيسي والمحوري يدور حول ما إذا كان هذا يعكس إنجازا علميا فريدا يقتصر على نموذج بعينه، أم أنه يمثل جزءا من توجه عام في القطاع التكنولوجي. والنتائج التي حصلنا عليها من نقطة فحص مبكرة لنموذج جي بي تي 5.5 تدعم الاحتمال الثاني بقوة».
تباين حاد في استراتيجيات الوصول للنماذج
تزيد هذه النتائج والمكتشفات المستخلصة من حدة التوتر في السياسات المتبعة بين الشركتين المتنافستين. ففي حين فرضت أنثروبيك قيودا صارمة وبشكل كامل على استخدام نموذج ميثوس، اختارت شركة أوبن أي آي مسارا مختلفا وأتاحت إصدار جي بي تي 5.5 للجمهور في 23 أبريل، معتمدة بشكل أساسي في ذلك على حزمة الأمان الخاصة بها لمنع الطلبات السيبرانية الخطيرة والمشبوهة الصادرة عن المستخدمين العاديين. ومن جانبه، أعلن الرئيس التنفيذي سام ألتمان في 30 أبريل أن نسخة مخصصة من النموذج ذات قدرات سيبرانية محسنة سيتم تقديمها لمجموعة مختارة بعناية من «المدافعين الموثوقين» في الأيام المقبلة لتعزيز قدرات الدفاع. وحذر المعهد البريطاني بقوة من أنه إذا كانت القدرات الهجومية السيبرانية تظهر ببساطة كمنتج ثانوي طبيعي للتحسينات العامة في الاستدلال والاستقلالية، «فيجب أن نتوقع بلا شك المزيد من الزيادات المضطردة في القدرات السيبرانية من النماذج في المستقبل القريب، وربما بتعاقب سريع ومفاجئ».
أسئلة شائعة
السؤال: ما هي النتيجة الرئيسية لتقييم المعهد البريطاني لأمن الذكاء الاصطناعي؟
الإجابة: توصل التقييم إلى أن نموذج الذكاء الاصطناعي التابع لشركة أوبن أي آي يمتلك قدرات متقدمة في الاختراق والأمن السيبراني تعادل تلك التي يمتلكها نموذج ميثوس المحظور من شركة أنثروبيك.
السؤال: كيف كانت سرعة النموذج في تنفيذ المهام السيبرانية مقارنة بالبشر؟
الإجابة: أظهرت الاختبارات أن النموذج تمكن من إنجاز محاكاة هجوم سيبراني كامل ومهمة معقدة في 11 دقيقة فقط، وهو عمل يستغرق من خبير بشري محترف حوالي 12 إلى 20 ساعة.
السؤال: كيف اختلفت سياسات الشركات في إتاحة هذه النماذج للجمهور؟
الإجابة: في حين أن أنثروبيك قررت حجب نموذجها بالكامل عن العامة وقصره على مؤسسات محددة لدواعي أمنية، قامت أوبن أي آي بإتاحة نموذجها للجمهور معتمدة على مرشحات الأمان لمنع الطلبات الخبيثة.
السؤال: ما هي المخاوف المستقبلية المتعلقة بتطور هذه النماذج؟
الإجابة: يحذر الخبراء من أن القدرات الهجومية السيبرانية قد تتطور بشكل متسارع ومقلق كمنتج ثانوي طبيعي لزيادة ذكاء النماذج وتطور قدرتها على التفكير المنطقي.
