كشفت تحقيقات صحيفة الغارديان أن أداة البحث الجديدة في تشات جي بي تي، التابعة لشركة أوبن إيه آي، قد تكون عرضة للتلاعب باستخدام نصوص مخفية على صفحات الويب. يمكن أن يؤدي ذلك إلى عرض نتائج زائفة أو ضارة، خاصة إذا احتوت صفحات الويب على تعليمات مخفية تؤثر على استجابات الأداة.

مشكلات الأمان في أداة البحث الجديدة

أطلقت أوبن إيه آي أداة البحث لمشتركيها المدفوعين، وشجعتهم على جعلها أداة البحث الافتراضية. لكن الاختبارات أظهرت أن هذه الأداة تعاني من ثغرات أمنية محتملة، حيث يمكن أن تتأثر استجاباتها بمحتوى مخفي يتم إدراجه من قبل أطراف خارجية، بهدف التأثير على تقييماتها أو توجيهها لاستنتاجات محددة.

كيفية استغلال النصوص المخفية

أثناء الاختبارات، تم إدخال رابط لموقع مزيف يظهر كصفحة منتج لكاميرا. عند طلب تقييم الكاميرا، أعطى تشات جي بي تي  استجابة إيجابية متوازنة عندما كانت الصفحة خالية من التلاعب. لكن عند إضافة نصوص مخفية تحتوي على تعليمات لإعطاء تقييم إيجابي، تغيّرت استجابة الأداة لتصبح إيجابية بالكامل، حتى عندما تضمنت الصفحة تقييمات سلبية.

كما أظهرت الاختبارات أن النصوص المخفية التي تحتوي على آراء إيجابية مزيفة يمكن أن تؤثر على تلخيص الأداة دون الحاجة إلى تعليمات مباشرة، مما يؤدي إلى تضليل المستخدمين.

تحذيرات من الباحثين في الأمن السيبراني

جاكوب لارسن، الباحث في الأمن السيبراني في شركة CyberCX، حذّر من أن هذه الثغرات قد تُستغل لإنشاء مواقع مصممة لخداع المستخدمين. وأوضح أنه إذا لم تُعالَج هذه المشكلات قبل الإطلاق الكامل للأداة، فقد تكون هناك مخاطر كبيرة على المستخدمين.

رغم ذلك، أشار لارسن إلى أن أداة البحث ما زالت في مراحلها الأولى، وأن أوبن إيه آي تمتلك فريقًا قويًا للأمن السيبراني من المتوقع أن يعالج هذه المشكلات قبل الإطلاق الكامل.

مخاطر الجمع بين البحث والنماذج اللغوية

أوضح لارسن أن الجمع بين تقنيات البحث والنماذج اللغوية الكبيرة، مثل النماذج المستخدمة في تشات جي بي تي ، يمكن أن يؤدي إلى استجابات غير موثوقة. وأكد أن هذه الأدوات تحتاج إلى مراقبة دقيقة، خاصة عند استخدامها في مجالات حساسة.

على سبيل المثال، أشار توماس روكيا، الباحث الأمني في مايكروسوفت، إلى حالة حديثة تورط فيها مطور عملة مشفرة. استخدم المطور تشات جي بي تي  للحصول على مساعدة في كتابة الشيفرات البرمجية، لكنه تلقى شيفرة تضمنت تعليمات خبيثة تسببت في سرقة بيانات الاعتماد الخاصة به، ما أدى إلى خسارته 2500 دولار.

تحديات جديدة تواجه أدوات البحث المدعومة بالذكاء الاصطناعي

كارستن نول، العالم الرئيسي في شركة SR Labs للأمن السيبراني، أكد أن أدوات الذكاء الاصطناعي يجب أن تُستخدم كأدوات مساعدة وليست كأدوات مستقلة يمكن الاعتماد عليها بالكامل. وقال إن هذه النماذج تشبه الأطفال من حيث اعتمادها الكبير على المعلومات المستقاة من مصادر مختلفة دون القدرة على التمييز بين الصواب والخطأ.