أثار تحذير مايكروسوفت من أن ميزة الذكاء الاصطناعي التجريبية الجديدة «Copilot Actions» يمكن أن تؤدي إلى إصابة الأجهزة وسرقة البيانات الحساسة، موجة من الانتقادات من خبراء الأمن، الذين يشككون في جدوى دفع التكنولوجيا الجديدة قبل تأمينها بالكامل.
محتويات المقالة:
- تحذير غير مسبوق من عملاق التكنولوجيا
- ما هي ميزة «Copilot Actions»؟
- نقاط الضعف الكامنة: الهلوسة وحقن الأوامر
- التهديد الجديد: حقن الأوامر عبر الواجهات (XPIA)
- ردود فعل الخبراء: مقارنات بـ «الماكرو» الخطير
- هل تحاول مايكروسوفت التنصل من المسؤولية؟
- أهداف أمنية طموحة ولكنها تعتمد على المستخدم
- الأسئلة الشائعة
تحذير غير مسبوق من عملاق التكنولوجيا
في سباق التسلح التكنولوجي، غالباً ما تكون السرعة في إطلاق الميزات الجديدة لها الأولوية على التأمين الشامل. هذا النهج ظهر بوضوح في الإعلان الأخير من مايكروسوفت حول ميزة «Copilot Actions» التجريبية المدمجة في نظام التشغيل ويندوز. فبينما احتفت الشركة بقدرات الميزة الجديدة، أرفقت معها تحذيراً أمنياً كبيراً، مما أثار استجابة مألوفة من النقاد المهتمين بالأمن: لماذا تصر شركات التكنولوجيا الكبرى على إطلاق ميزات جديدة قبل فهم سلوكياتها الخطرة واحتوائها بالكامل؟
ما هي ميزة «Copilot Actions»؟
قدمت مايكروسوفت «Copilot Actions»، وهي مجموعة جديدة من «الميزات الوكيلة التجريبية». عند تفعيلها، يمكن لهذه الميزات أداء مهام يومية مثل تنظيم الملفات، أو جدولة الاجتماعات، أو إرسال رسائل البريد الإلكتروني. تصفها مايكروسوفت بأنها «متعاون رقمي نشط يمكنه تنفيذ مهام معقدة لتعزيز الكفاءة والإنتاجية».
ومع ذلك، جاء هذا الإعلان مع تحذير كبير. أوصت مايكروسوفت المستخدمين بتفعيل «Copilot Actions» فقط «إذا فهموا الآثار الأمنية الموضحة»، مشيرة إلى أن الميزة متاحة حالياً فقط في الإصدارات التجريبية من ويندوز وهي معطلة افتراضياً.
نقاط الضعف الكامنة: الهلوسة وحقن الأوامر
يستند التحذير إلى عيوب معروفة ومتأصلة في معظم نماذج اللغة الكبيرة (LLMs)، بما في ذلك «Copilot». أحد العيوب الشائعة هو «الهلوسة» (Hallucinations)، حيث تقدم النماذج إجابات خاطئة وغير منطقية، مما يعني أنه لا يمكن الوثوق بمخرجاتها دون تحقق مستقل.
الخطر الأكبر هو «حقن الأوامر» (Prompt Injection). هذه ثغرة تسمح للمهاجمين بزرع تعليمات خبيثة في مواقع الويب أو السير الذاتية أو رسائل البريد الإلكتروني. نظراً لأن نماذج اللغة الكبيرة مبرمجة لاتباع التوجيهات بحماس شديد، فإنها لا تستطيع التمييز بين أوامر المستخدم الصالحة وتلك الموجودة في محتوى خارجي غير موثوق به، مما يمنح المهاجمين نفس مستوى الثقة الذي يتمتع به المستخدم.
التهديد الجديد: حقن الأوامر عبر الواجهات (XPIA)
يمكن استغلال كلا العيبين في هجمات تؤدي إلى تسريب البيانات الحساسة، وتشغيل تعليمات برمجية ضارة، وسرقة العملات المشفرة. وقد ثبت حتى الآن أنه من المستحيل على المطورين منع هذه الثغرات بشكل كامل.
أقرت مايكروسوفت بهذا الخطر في إفصاحها: «تطبيقات الذكاء الاصطناعي الوكيلة تقدم مخاطر أمنية جديدة، مثل حقن الأوامر المتقاطعة (XPIA)، حيث يمكن للمحتوى الخبيث المضمن في عناصر واجهة المستخدم أو المستندات تجاوز تعليمات الوكيل، مما يؤدي إلى إجراءات غير مقصودة مثل تسريب البيانات أو تثبيت البرامج الضارة».
ردود فعل الخبراء: مقارنات بـ «الماكرو» الخطير
شكك بعض خبراء الأمن في قيمة هذه التحذيرات، وقارنوها بالتحذيرات التي قدمتها مايكروسوفت لعقود حول خطر استخدام وحدات «الماكرو» (Macros) في تطبيقات أوفيس. على الرغم من النصائح المستمرة، ظلت وحدات الماكرو من أسهل الطرق للمتسللين لتثبيت البرامج الضارة على أجهزة ويندوز، لأنها أصبحت مركزية للإنتاجية لدرجة أن العديد من المستخدمين لا يستطيعون الاستغناء عنها.
قال الباحث الأمني المستقل كيفن بومونت: «قول مايكروسوفت ’لا تفعلوا وحدات الماكرو، إنها خطيرة‘… لم ينجح أبداً بشكل جيد». ووصف «Copilot Actions» بأنها «وحدات ماكرو معززة بقوة خارقة»، مشيراً إلى الخطر المتزايد الذي تمثله.
هل تحاول مايكروسوفت التنصل من المسؤولية؟
أشارت مايكروسوفت إلى أن المستخدمين ذوي الخبرة فقط هم من يجب أن يمكنوا «Copilot Actions». ومع ذلك، لم تصف الشركة نوع التدريب أو الخبرة التي يجب أن يتمتع بها هؤلاء المستخدمون، أو الإجراءات التي يجب عليهم اتخاذها لمنع تعرض أجهزتهم للاختراق.
يرى النقاد أن هذا التحذير هو مجرد مناورة قانونية لمحاولة حماية الشركة من المسؤولية، وتحويل العبء إلى المستخدم. قال الناقد ريد ميديكي: «مايكروسوفت (مثل بقية الصناعة) ليس لديها أي فكرة عن كيفية إيقاف حقن الأوامر أو الهلوسة، مما يجعلها غير صالحة بشكل أساسي لأي شيء جاد. الحل؟ نقل المسؤولية إلى المستخدم».
أهداف أمنية طموحة ولكنها تعتمد على المستخدم
ركز جزء كبير من إعلان مايكروسوفت على استراتيجيتها الشاملة لتأمين الميزات الوكيلة في ويندوز. تشمل الأهداف ضمان أن تكون جميع الإجراءات قابلة للملاحظة وطلب موافقة المستخدم عند الوصول إلى البيانات أو اتخاذ إجراءات.
هذه الأهداف سليمة، لكنها تعتمد في النهاية على قراءة المستخدمين لنوافذ الحوار التي تحذر من المخاطر وتتطلب موافقة دقيقة. هذا يقلل من قيمة الحماية للعديد من المستخدمين الذين قد يعتادون على النقر فوق «نعم» طوال الوقت، أو الذين يمكن خداعهم لاتباع تعليمات خطيرة بسبب الإرهاق أو نقص المعرفة. كما يلاحظ الخبراء أن الميزات التجريبية غالباً ما تصبح افتراضية بمرور الوقت، مما يزيد من المخاطر على المدى الطويل.
الأسئلة الشائعة
ما هي ميزة «Copilot Actions» التي تحذر منها مايكروسوفت؟
هي مجموعة من ميزات الذكاء الاصطناعي التجريبية في ويندوز يمكنها أداء مهام مثل تنظيم الملفات وإرسال رسائل البريد الإلكتروني تلقائياً.
ما هي المخاطر الأمنية الرئيسية المرتبطة بهذه الميزة؟
الخطر الرئيسي هو «حقن الأوامر»، حيث يمكن للمحتوى الخبيث خداع الذكاء الاصطناعي لتنفيذ إجراءات غير مقصودة، مثل سرقة البيانات أو تثبيت برامج ضارة.
هل هذه الميزة مفعلة افتراضياً؟
لا، الميزة معطلة افتراضياً ومتاحة حالياً فقط في الإصدارات التجريبية من ويندوز. توصي مايكروسوفت بتفعيلها فقط من قبل المستخدمين ذوي الخبرة.
لماذا ينتقد خبراء الأمن مايكروسوفت؟
ينتقدونها لإطلاق تكنولوجيا جديدة قبل تأمينها بالكامل، ويشعرون بالقلق من أن التحذيرات تنقل عبء الأمان إلى المستخدمين بدلاً من حل المشكلات الأساسية في نماذج الذكاء الاصطناعي.
