مقدمة
في اكتشاف خطير يسلط الضوء بوضوح على المخاطر الأمنية الكامنة في الاعتماد المتزايد على أدوات الذكاء الاصطناعي المستقلة داخل الشركات، كشفت شركة الأمن السيبراني الناشئة تيغو أي آي يوم الاثنين أن أداة كلود تاغ التابعة لشركة أنثروبيك، وهي أداة التكامل الأصلية والمباشرة لمنصة سلاك والتي تم إطلاقها في نسختها التجريبية للمستخدمين الشهر الماضي فقط، يمكن استغلالها بسهولة شديدة لتشغيل وتنفيذ إجراءات مؤسسية خطيرة وغير مصرح بها إطلاقا. هذا التطور المثير للقلق أثار موجة من التساؤلات الجديدة والجوهرية حول الموقف الأمني لوكلاء الذكاء الاصطناعي الذين يتم دمجهم بشكل متسارع ومتزايد في أدوات مكان العمل والشبكات الداخلية الحساسة للمؤسسات. وأوضحت الشركة التقنية التي تتخذ من مدينة تل أبيب مقرا رئيسيا لها، والتي تتخصص أساسا في بناء منصات متقدمة للتحكم في الوصول مخصصة لوكلاء الذكاء الاصطناعي، أن هذه الثغرة البرمجية العميقة تسمح بتفعيل أداة كلود تاغ عن طريق مدخلات ونصوص غير مقصودة تماما أو رسائل عشوائية داخل قنوات تطبيق سلاك، مما قد يؤدي في النهاية إلى اتخاذ الذكاء الاصطناعي لإجراءات غير مقصودة ومدمرة عبر جميع الأنظمة المؤسسية المتصلة بالشبكة، متجاوزا بذلك الجدران النارية والضوابط التقليدية.
مساحة هجوم متنامية واستقلالية مفرطة
تعمل أداة كلود تاغ، التي أطلقتها شركة أنثروبيك رسميا في 23 يونيو الماضي كزميل عمل يعتمد على الذكاء الاصطناعي ومتواجد دائما ومتاحا على مدار الساعة لمنصة سلاك، بمنزلة وكيل مشترك وفعال جدا داخل القنوات المعتمدة. تتميز هذه الأداة المتقدمة بهوية ثابتة، وذاكرة محددة النطاق للقناة التي تعمل بها، بالإضافة إلى اتصالات مباشرة وعميقة بأدوات المؤسسة المتنوعة وقواعد بياناتها. يمكن للمستخدمين استدعاء هذه الأداة ببساطة عن طريق كتابة الإشارة «@كلود» في شريط الدردشة، حيث تصبح قادرة فورا على قراءة المحادثات المعقدة وتحليلها، وتجزئة المهام المطلوبة إلى خطوات تنفيذية، ووضع علامات استباقية ومستقلة على التحديثات في جميع أنحاء المنظمة دون حتى أن يطلب منها ذلك بشكل صريح.
إن وصول الأداة الواسع وسلوكها المستقل والمبادر يخلقان ما وصفه الباحثون الأمنيون بوضوح بأنه سطح تهديد متميز وجديد كليا. فعلى عكس المساعدين السلبيين المعتمدين على الذكاء الاصطناعي والذين ينفذون الأوامر الحرفية فقط، يمكن لأداة كلود تاغ ربط سلسلة من استدعاءات الأدوات المتعددة، والتفاعل المباشر مع أنظمة الإنتاج الحساسة من خلال خوادم بروتوكول إم سي بي المتصلة، والاحتفاظ بالسياق التنظيمي الدقيق بمرور الوقت لبناء صورة كاملة عن سير العمل. وتشير النتائج الخطيرة والموثقة التي توصلت إليها شركة تيغو أي آي إلى أنه يمكن تنشيط هذه القدرات المتقدمة والقوية من خلال محفزات غير مقصودة أو نصوص خبيثة مموهة، متجاوزة بذلك مسار سير العمل المعتاد الذي يبدأه المستخدم البشري، والذي يفترض مسؤولو النظم الإدارية عادة أنه يحكم سلوك الوكيل ويضبط صلاحياته ويمنعه من التجاوز.
أمن الذكاء الاصطناعي للمؤسسات تحت المجهر
يأتي هذا الكشف التقني والأمني خلال فترة مضطربة وصعبة للغاية لمصداقية شركة أنثروبيك في أوساط الشركات والمؤسسات الكبرى. ففي أواخر شهر يونيو الماضي، اكتشف باحثون أمنيون آلية تتبع خفية ومستترة مزروعة داخل أداة كلود كود التابعة للشركة، والتي كانت تراقب وتحلل بيئات عمل المستخدمين بصمت وهدوء لمدة تقارب الثلاثة أشهر المتواصلة دون أي إفصاح مسبق أو تنبيه شفاف. وقد دفع ذلك الحادث المؤسف والمثير للجدل شركة التجارة الإلكترونية العملاقة علي بابا إلى اتخاذ قرار حاسم بحظر استخدام أداة كلود كود نهائيا لجميع موظفيها لحماية بياناتها المؤسسية من أي تسريب محتمل.
وقد حذر الباحثون الأمنيون بشكل متزايد ومستمر من المخاطر الجسيمة والعواقب الوخيمة لنشر وكلاء الذكاء الاصطناعي الذين يتمتعون بامتيازات عليا وصلاحيات وصول غير مقيدة عبر البنية التحتية المعلوماتية للمؤسسات. وجد تحليل فني حديث للنظام البيئي الخاص ببروتوكول إم سي بي، وهو البروتوكول الأساسي الذي يستخدمه نظام كلود للاتصال السلس بأدوات الشركات، أن نسبة 7.2 بالمائة من الخوادم المشغلة تحتوي على ثغرات أمنية عامة، وأن نسبة 5.5 بالمائة منها أظهرت سلوكيات خبيثة ومقلقة تعرف تقنيا بتسميم الأدوات.
وتعتبر شركة تيغو أي آي، التي تصف نفسها بفخر بأنها تبني «أول منصة أصلية للتحكم في الوصول لوكلاء الذكاء الاصطناعي»، جزءا من مجموعة متنامية من الشركات الناشئة المبتكرة التي تركز أساسا على حوكمة وتنظيم أنظمة الذكاء الاصطناعي المستقلة في بيئات العمل. ويؤكد هذا الكشف الأخير على تحد أوسع وأشمل على مستوى الصناعة التكنولوجية بأكملها: فمع انتقال الوكلاء الرقميين من مجرد مساعدين بسيطين إلى فاعلين مستقلين ذوي قدرة على اتخاذ القرار، فإن النماذج الأمنية القديمة والتقليدية المبنية حول سلوك البشر لم تعد تكفي بأي حال من الأحوال لتوفير الحماية اللازمة. وحتى لحظة كتابة هذه السطور، لم ترد شركة أنثروبيك علنا على الكشف الأمني لشركة تيغو أي آي، ولا تزال أداة كلود تاغ متاحة للتحميل في النسخة التجريبية للعملاء، مما يبقي حالة من الترقب والحذر في أوساط مسؤولي أمن المعلومات.
أسئلة شائعة
السؤال: ما هي الأداة التي تم اكتشاف الثغرة الأمنية الخطيرة فيها؟
الإجابة: تم اكتشاف الثغرة في أداة كلود تاغ التي تطورها شركة أنثروبيك والمدمجة خصيصا في تطبيق المراسلة سلاك.
السؤال: كيف يمكن أن يتم استغلال هذه الثغرة لضرب أمن المؤسسات؟
الإجابة: يمكن تفعيل الأداة عبر نصوص وكلمات غير مقصودة في المحادثات لتنفيذ إجراءات غير مصرح بها والوصول لأنظمة الإنتاج الحساسة والبيانات السرية.
السؤال: من هي الجهة التقنية التي اكتشفت هذه الثغرة؟
الإجابة: اكتشفت شركة الأمن السيبراني تيغو أي آي، ومقرها مدينة تل أبيب، هذه الثغرة العميقة وأصدرت تقريرا مفصلا يحذر من تبعاتها.
السؤال: هل تم إيقاف عمل الأداة بعد الكشف المباشر عن الثغرة؟
الإجابة: لا، لم ترد الشركة المطورة رسميا حتى الآن ولا تزال الأداة متاحة كنسخة تجريبية للمستخدمين، مما يتطلب الحذر من قبل إدارات تقنية المعلومات.
