- مقدمة حول اكتشاف الثغرة الأمنية
- آلية الهجوم واستغلال المطالبات
- استخراج بيانات الاعتماد وتأكيد الاختراق
- استجابة جوجل وتبريرات عدم المكافأة
- المخاوف الأمنية حول تفويض اللغة الطبيعية
- توصيات الخبراء لحماية الأنظمة
- أسئلة شائعة
مقدمة حول اكتشاف الثغرة الأمنية
في تطور أمني بالغ الأهمية والخطورة يثير الكثير من القلق والمخاوف التقنية حول مستقبل أمن الأنظمة المستقلة، تمكن باحثون أمنيون متخصصون من تقديم عرض حي وموثق لما وصفوه بأنه يمثل أول حالة عملية ومؤكدة لقيام نظام وكيل ذكاء اصطناعي مستقل باستغلال وكيل ذكي آخر والتلاعب به داخل بيئة إنتاج فعلية للبرمجيات. وقد جاء هذا الاكتشاف الصادم بعد أن وجد الباحثون وتأكدوا من أن مسارات العمل المؤتمتة والمتكاملة التي تعتمد على الذكاء الاصطناعي ضمن مستودع مجموعة أدوات تطوير الوكلاء والمعروفة اختصاراً باسم «إيه دي كيه» والمخصصة للغة «بايثون» والتابعة لشركة «جوجل»، كانت عرضة للتلاعب المتعمد والخبيث من قبل أطراف خارجية. وهذا التلاعب الماكر من شأنه أن يسمح للمهاجمين بتصعيد وتسلق مستويات الصلاحيات التقنية والأمنية للمستخدمين بطرق غير مشروعة، مما يؤدي في نهاية المطاف إلى تنفيذ تعليمات برمجية عشوائية وغير مصرح بها على مستوى جهاز التشغيل والتكامل المستمر للنظام الحيوي، مما يعرض الأنظمة لخطر كبير.
آلية الهجوم واستغلال المطالبات
وقد قامت شركة «بيلار سيكيوريتي» للأمن السيبراني بنشر نتائج بحثها الصادمة يوم الاثنين الماضي، حيث أوضحت بالتفصيل الدقيق كيف يمكن لهجوم مبني على تقنية حقن المطالبات الخبيثة، والذي يتم وضعه بخبث وسرية تامة داخل مشكلة أو قضية عامة على منصة «جيت هاب» للبرمجة، أن ينجح بسهولة في خداع وكيل الفرز ذي الصلاحيات المنخفضة لدفعه نحو تحفيز وتنشيط وكيل آخر منفصل تماماً يتمتع بصلاحيات أعلى بكثير، وهو وكيل يُفترض أن يكون مخصصاً فقط للمساهمين الموثوقين والمعتمدين في المستودع البرمجي. لفهم طبيعة الهجوم المتسلسل، يجب الإشارة إلى أن مستودع «إيه دي كيه» – والذي يُعد مجموعة أدوات برمجية مفتوحة المصدر تحظى بشعبية واسعة مسجلة أكثر من 90 مليون عملية تنزيل – كان يقوم بتشغيل فئتين مختلفتين من وكلاء الذكاء الاصطناعي المؤتمتين بالكامل بامتيازات ومستويات مختلفة ولكنهما يتشاركان للأسف في نقطة حدود ثقة مشتركة وخطيرة. فالوكيل الأول، وهو الوكيل الموجه للجمهور والذي يتم تنشيطه تلقائياً عندما يقوم أي مستخدم بفتح قضية جديدة أو تقديم طلب سحب عادي، كان يقوم بنشر استجاباته وتفاعلاته باستخدام حساب مخصص يحمل اسم «بوت إيه دي كيه» يتمتع بصلاحيات حساب متعاون. أما مسارات العمل المنفصلة الأخرى والتي تتمتع بامتيازات عليا، فكانت مقيدة وصارمة بحيث لا تعمل إلا في حال قيام مالك المستودع، أو أحد الأعضاء الموثوقين بنشر أوامر تشغيل محددة تبدأ بكلمات مثل «جي إتش» أو «جيت». وهنا، تمكن الباحث الأمني دان ليسيتشكين من شركة بيلار من اكتشاف أن أي مهاجم يمكنه بكل سهولة صياغة وبناء هجوم حقن مطالبات دقيق للغاية يتسبب في إجبار الوكيل العام المفتوح للجميع على نشر أمر التشغيل الحساس نيابة عن حساب البوت المعتمد، مما أدى بطبيعة الحال إلى تلبية متطلبات بوابة التحقق من الامتيازات والصلاحيات وتجاوزها بالكامل دون الحاجة إلى أي تدخل أو موافقة من أي متعاون بشري حقيقي. وقد أثبتت التجربة أن القيود التي تم وضعها على مسار العمل ذي الامتيازات العليا كانت ببساطة غير كافية وضعيفة، نظراً لأن عمليات كتابة وتعديل الملفات كانت لا تزال تسمح للمهاجمين بتنفيذ تعليمات برمجية عشوائية وخطيرة بالكامل.
استخراج بيانات الاعتماد وتأكيد الاختراق
لإثبات خطورة الموقف بشكل عملي وقاطع أمام المجتمع التقني، قام الباحثون بتقديم عرض توضيحي حي لعملية استخراج رمز الوصول الشخصي السري والخاص بالروبوت المتأثر والمخترق، كما أكدوا رسمياً أن مفتاح حساب الخدمة الحساس المرتبط بمنصة تابعة للشركة عبر السحابة كان متاحاً ومكشوفاً بشكل خطير أيضاً داخل بيئة مسار العمل نفسها. وعلى الرغم من أن الباحثين التزموا بالضوابط الأخلاقية المتبعة في الأبحاث ولم يتمكنوا من تأكيد النطاق الكامل والتأثير الدقيق لأي من هاتين الشهادتين المهمتين لتجنب الإضرار بالنظام، إلا أن مجرد إثبات القدرة على الوصول إليهما واستخراجهما يمثل ثغرة أمنية كارثية في بيئة برمجية مفتوحة ومستخدمة على نطاق واسع جداً من قبل المطورين.
استجابة جوجل وتبريرات عدم المكافأة
في استجابة سريعة جداً لهذا الكشف الأمني الحرج، قامت شركة «جوجل» بإزالة ثلاثة مسارات عمل متأثرة بشكل كامل من المستودع، وهي مسار تحليل المشكلة ومسار إصلاح المشكلة ومسار تحليل طلبات السحب، في التزام برمجي يحمل تاريخ المؤلف في 9 يونيو 2026، ثم عادت لتؤكد لاحقاً على إتمام عملية الإصلاح الشاملة للثغرة في 21 يوليو. وأوضحت الشركة في بيانها التوضيحي أن الثغرة المعقدة التي تم استغلالها «لم تستوفِ المعايير والشروط الصارمة» المطلوبة للحصول على مكافأة اكتشاف الأخطاء النقدية، معللة ذلك بأن الهجوم لا يزال يحتاج في مراحله النهائية إلى قيام مشرف بشري بدمج طلب سحب ضار فعلياً لكي ينجح الهجوم بشكل كامل على النظام. وفي تعليقه على هذا الموقف وتبريرات الشركة، صرح ليسيتشكين، الذي من المقرر أن يعرض النتائج المروعة لبحثه وتجربته في مؤتمر «ديف كون» الشهير ضمن قسم «قرية الذكاء الاصطناعي» يوم الجمعة الموافق 7 أغسطس، أن هذا البحث المستفيض يثبت بما لا يدع مجالاً للشك أن فكرة عزل الوكلاء الذكيين بمفردها لم تعد كافية على الإطلاق لحماية الأنظمة، مضيفاً: «عالمنا التقني يتغير ويتطور اليوم بسرعة هائلة غير مسبوقة، وأسطح الهجوم المتجددة والمبتكرة هذه لم تنعكس بشكل كافٍ حتى الآن في نماذج التهديد الحالية، لأن هذه الأنواع من الهجمات المتقدمة لم يكن لها أي وجود أو إمكانية ممكنة في عالم ما قبل انتشار الوكلاء الذكيين».
المخاوف الأمنية حول تفويض اللغة الطبيعية
أكد العديد من المحللين البارزين وخبراء الأمن السيبراني أن هذه النتائج الخطيرة تتطلب إعادة تفكير وتقييم جذرية وعميقة في كيفية تدفق وبناء هياكل السلطة والصلاحيات عبر الأنظمة المتطورة القائمة على وكلاء الذكاء الاصطناعي. وفي هذا الصدد، أشار سانشيت فير جوجيا، كبير المحللين في مؤسسة «جرايهاوند ريسيرش» للأبحاث، إلى أن التطور الأهم والأكثر خطورة يكمن في أن «اللغة الطبيعية البشرية قد انضمت فعلياً وبشكل غير متوقع إلى مسار التفويض الأمني الحساس، وهذا هو التغيير الجذري الذي يستحق تسليط الضوء عليه والإبلاغ عنه، وليس التركيز فقط على فكرة أنه يعتبر الهجوم الأول من نوعه». من جانبها، شددت ساكشي جروفر، مديرة الأبحاث العليا لخدمات الأمن السيبراني في مؤسسة «آي دي سي» في منطقة آسيا والمحيط الهادئ، على ضرورة أن يقوم مديري أمن المعلومات في الشركات الكبرى بتبني نهج استباقي لتتبع وتحديد الوكلاء الذكيين الذين يتعاملون ويستهلكون محتوى غير موثوق به من مصادر خارجية، وما إذا كانت المخرجات والنتائج الصادرة عن هؤلاء الوكلاء تمتلك القدرة الخطيرة على تحفيز وتفعيل مسارات عمل ذات امتيازات أمنية أعلى بكثير، بالإضافة إلى ضرورة تقييم الحد الأقصى للقدرة الفعالة لبيانات الاعتماد الأمنية المشاركة في هذه العمليات المعقدة لتلافي وقوع كوارث محتملة.
توصيات الخبراء لحماية الأنظمة
في ختام تقريرها الأمني المفصل والتحذيري، قدمت شركة «بيلار سيكيوريتي» توصية حاسمة وصارمة لصناع القرار والمطورين تنص على ضرورة التزام الشركات بإعطاء ومنح جميع الوكلاء الذكيين هويات وصلاحيات رقمية ضيقة النطاق ومحددة بدقة متناهية. وأكدت على أهمية التأكد التام والمطلق من عدم قدرة أي وكيل ذكي على الإطلاق على تحفيز أو تنشيط عمل وكيل آخر عبر تجاوز حدود وصلاحيات الامتيازات المعينة له، وذلك بدون وجود طبقة تحكم ورقابة صارمة ومستقلة لا يمكن لهجمات حقن المطالبات الماكرة التلاعب بها أو تزويرها أو تجاوزها بأي شكل من الأشكال لحماية سلامة النظام.
أسئلة شائعة
السؤال: ما هي طبيعة الثغرة الأمنية الخطيرة التي أدت إلى إزالة مسارات عمل من قبل الشركة؟
الإجابة: تم اكتشاف ثغرة خطيرة تعتمد على تقنية حقن المطالبات، والتي تسمح لوكيل ذكاء اصطناعي مفتوح للجمهور بخداع وكيل آخر ذي صلاحيات أعلى لتنفيذ تعليمات برمجية خبيثة بشكل مستقل تماماً ودون علم أو تدخل الإدارة.
السؤال: لماذا رفضت شركة جوجل منح مكافأة مالية للباحثين رغم إثباتهم لخطورة الثغرة؟
الإجابة: اعتبرت الشركة في تقييمها الداخلي أن الثغرة، رغم تعقيدها التقني، تتطلب تدخلاً بشرياً فعلياً ونجاحاً في تطبيق أساليب الهندسة الاجتماعية على مشرف بشري لإكمال سلسلة الهجوم ودمج الكود بنجاح، مما جعلها لا تستوفي المعايير الصارمة الخاصة ببرنامج المكافآت.
السؤال: ما هي أبرز توصية قدمها الخبراء الأمنيون لتأمين أنظمة وكلاء الذكاء الاصطناعي مستقبلاً؟
الإجابة: يوصي الخبراء وبشدة بضرورة تخصيص هويات رقمية ذات صلاحيات ضيقة ومحدودة جداً للوكلاء، والتأكد من وجود آليات وضوابط رقابية صارمة تمنع أي وكيل من تحفيز أو تفعيل مهام وكيل آخر يتمتع بصلاحيات وامتيازات إدارية أعلى لتفادي استغلالها من قبل القراصنة.
