أعلن صياد الثغرات المدعوم بالذكاء الاصطناعي من جوجل عن أول دفعة من اكتشافاته: 20 ثغرة أمنية في برامج مفتوحة المصدر شائعة. هذا الإنجاز يظهر أن هذه الأدوات بدأت تحقق نتائج حقيقية، حتى لو كانت لا تزال بحاجة إلى إشراف بشري.
محتويات المقالة:
- «بيغ سليب» يحقق أول صيد له
- البشر لا يزالون في الحلقة
- جبهة جديدة في اكتشاف الثغرات
- الوعد والخطر: هلوسات الذكاء الاصطناعي
- مشروع «شرعي»
- الخاتمة: بداية عصر جديد لصيد الثغرات
- أسئلة شائعة
«بيغ سليب» يحقق أول صيد له
أعلنت هيذر أدكنز، نائبة رئيس الأمن في جوجل، يوم الاثنين أن باحث الثغرات الأمنية القائم على نموذج اللغة الكبير، «بيغ سليب» (Big Sleep)، قد وجد وأبلغ عن 20 عيباً في برامج مفتوحة المصدر شائعة. وقالت أدكنز إن «بيغ سليب»، الذي تم تطويره من قبل قسم الذكاء الاصطناعي في الشركة «ديب مايند» وفريقها من نخبة المتسللين «بروجيكت زيرو»، أبلغ عن أولى ثغراته على الإطلاق، معظمها في برامج مفتوحة المصدر مثل مكتبة الصوت والفيديو FFmpeg ومجموعة تحرير الصور ImageMagick.
البشر لا يزالون في الحلقة
نظراً لأن الثغرات لم يتم إصلاحها بعد، لم تقدم جوجل تفاصيل حول تأثيرها أو خطورتها. لكن حقيقة أن «بيغ سليب» وجد هذه الثغرات أمر مهم، لأنه يظهر أن هذه الأدوات بدأت تحقق نتائج حقيقية. ومع ذلك، لا يزال هناك إنسان يشارك في العملية. قال متحدث باسم جوجل: «لضمان تقارير عالية الجودة وقابلة للتنفيذ، لدينا خبير بشري في الحلقة قبل الإبلاغ، ولكن تم العثور على كل ثغرة وإعادة إنتاجها من قبل وكيل الذكاء الاصطناعي دون تدخل بشري».
جبهة جديدة في اكتشاف الثغرات
كتب رويال هانسن، نائب رئيس الهندسة في جوجل، على منصة X أن النتائج تظهر «جبهة جديدة في اكتشاف الثغرات الآلي». أصبحت الأدوات التي تعمل بنماذج اللغة الكبيرة والتي يمكنها البحث عن الثغرات وإيجادها حقيقة واقعة. بخلاف «بيغ سليب»، هناك أدوات أخرى مثل RunSybil وXBOW.
الوعد والخطر: هلوسات الذكاء الاصطناعي
هناك بالطبع الكثير من الوعود مع هذه الأدوات، ولكن هناك أيضاً عيوب كبيرة. اشتكى العديد من الأشخاص الذين يشرفون على مشاريع برمجية مختلفة من تقارير ثغرات هي في الواقع هلوسات، حيث وصفها البعض بأنها «هراء الذكاء الاصطناعي». قال فلاد إيونيسكو، المؤسس المشارك لشركة RunSybil: «هذه هي المشكلة التي يواجهها الناس، وهي أننا نحصل على الكثير من الأشياء التي تبدو كالذهب، لكنها في الواقع مجرد قمامة».
مشروع «شرعي»
على الرغم من التحديات، يرى إيونيسكو أن مشروع «بيغ سليب» من جوجل هو مشروع «شرعي»، نظراً لأنه يتمتع «بتصميم جيد، والأشخاص الذين يقفون وراءه يعرفون ما يفعلونه، حيث يمتلك بروجيكت زيرو خبرة في العثور على الأخطاء وديب مايند لديها القوة الحاسوبية اللازمة». هذا المزيج من الخبرة البشرية والقوة الحاسوبية هو ما قد يميز جهود جوجل عن غيرها.
الخاتمة: بداية عصر جديد لصيد الثغرات
يمثل إنجاز «بيغ سليب» خطوة مهمة إلى الأمام في مجال الأمن السيبراني. إنه يظهر أنه يمكن تسخير قوة الذكاء الاصطناعي لأغراض دفاعية، والمساعدة في تأمين البرامج التي نعتمد عليها جميعاً. بينما لا تزال هناك حاجة إلى الإشراف البشري لتصفية الضوضاء والتحقق من النتائج، فإن القدرة على أتمتة الجزء الأكثر استهلاكاً للوقت في اكتشاف الثغرات تعد بإنترنت أكثر أماناً للجميع.
أسئلة شائعة
ما هو «بيغ سليب»؟
هو نظام ذكاء اصطناعي (وكيل) تم تطويره بواسطة جوجل ديب مايند وبروجيكت زيرو، وهو مصمم للبحث عن الثغرات الأمنية في البرامج والإبلاغ عنها بشكل آلي.
هل يعمل الذكاء الاصطناعي بمفرده؟
يجد الذكاء الاصطناعي الثغرات ويعيد إنتاجها بنفسه، ولكن لا يزال هناك خبير بشري يراجع النتائج قبل الإبلاغ عنها رسمياً لضمان جودة التقارير ودقتها.
ما هي مشكلة «هلوسات» الذكاء الاصطناعي في هذا المجال؟
المشكلة هي أن أدوات الذكاء الاصطناعي قد تبلغ عن ثغرات غير موجودة (هلوسات)، مما يضيع وقت المشرفين على المشاريع الذين يتعين عليهم التحقق من هذه التقارير الكاذبة.
