بينما يقدم الذكاء الاصطناعي فوائد هائلة في مجالات مثل الطيران، يحذر الخبراء من أنه قد يؤدي إلى «غباء بشري» إذا اعتمدنا عليه دون تفكير. الدعوة إلى مبدأ «ثق ولكن تحقق» أصبحت أكثر إلحاحاً من أي وقت مضى في مواجهة الهلوسات والمحتوى المضلل.
محتويات المقالة:
- التوازن الدقيق بين الفائدة والخطر
- الذكاء الاصطناعي في خدمة سلامة الطيران
- تحذير خبير: لا تفترض أبداً صحة الذكاء الاصطناعي
- أنواع الذكاء الاصطناعي: ليس كل شيء متشابهاً
- خطر الهلوسات و«قذارة الذكاء الاصطناعي»
- الخلاصة: لا تدع الذكاء الاصطناعي يفكر بدلاً عنك
- أسئلة شائعة
التوازن الدقيق بين الفائدة والخطر
يعد الذكاء الاصطناعي أداة قوية تحدث تحولاً في حياتنا اليومية وتقدم فوائد هائلة للمجتمع. ومع ذلك، يجب استخدام أدوات الذكاء الاصطناعي بفهم واضح للمزالق المحتملة. الاعتماد المفرط على هذه التقنيات دون تفكير نقدي يمكن أن يؤدي إلى ما يصفه البعض بـ «الغباء البشري»، حيث يتوقف المستخدمون عن تشغيل عقولهم ويسلمون بقرارات الآلة.
في قمة قيادة الطيران الأمريكية لعام 2025 التي استضافتها شركة هانيويل إيروسبيس، ناقش القادة الرئيسيون مزايا ومخاطر استخدام الذكاء الاصطناعي في الطيران، وكذلك في الاستخدام اليومي، مسلطين الضوء على الحاجة الماسة للحذر.
الذكاء الاصطناعي في خدمة سلامة الطيران
في مجالات مثل الطيران، أثبت الذكاء الاصطناعي قدرته على إنقاذ الأرواح. افتتح وزير النقل شون دافي القمة، مسلطاً الضوء على التقدم المحرز في تحسين سلامة الطيران وكفاءته. وأشار إلى أن إدارة الطيران الفيدرالية الأمريكية (FAA) تستخدم الآن الذكاء الاصطناعي للبحث في نظام المجال الجوي الوطني وتحديد المطارات التي توجد بها نقاط ساخنة لعمليات الطيران غير الآمنة المحتملة.
قال دافي: «العين البشرية تفوت هذه الأشياء. إذا كنت تراجع البيانات، أو كان العديد من الأشخاص يراجعون البيانات، فإنهم لا يرون خطوط الاتجاه. يقوم الذكاء الاصطناعي بعمل رائع في مساعدتنا على تحديد خطوط الاتجاه هذه وتقديم تحذير لاتخاذ إجراء». هذا يوضح كيف يمكن للذكاء الاصطناعي أن يكون نظام إنذار مبكر حاسم.
تحذير خبير: لا تفترض أبداً صحة الذكاء الاصطناعي
اختتم عضو الكونغرس جاي أوبرنولتي، وهو العضو الوحيد في الكونغرس الذي يحمل درجة علمية متقدمة في الذكاء الاصطناعي، الحدث بتحذير صارم. أوضح أوبرنولتي أن الذكاء الاصطناعي يشمل «الأشياء التي تقوم بها الآلة والتي تبدو شبيهة بالإنسان للناس»، مما يغير طريقة تفاعلنا مع الأتمتة إلى مستوى إنساني بدلاً من مستوى تقني.
ولكنه شدد على قاعدة أساسية: «لا تفترض أبداً، أبداً، أبداً أن الذكاء الاصطناعي صحيح. دائماً اتبع مبدأ “ثق ولكن تحقق”. الذكاء الاصطناعي قوي بشكل لا يصدق. لكنه ليس معصوماً من الخطأ. ولن يكون كذلك أبداً، لأنه… يتم تدريبه على اتساع نطاق المعلومات البشرية بأكمله. والمعلومات البشرية قابلة للخطأ».
أنواع الذكاء الاصطناعي: ليس كل شيء متشابهاً
من المهم فهم أن هناك أنواعاً مختلفة من الذكاء الاصطناعي. يسعى الطيران إلى استخدام الذكاء الاصطناعي الحتمي (Deterministic AI)، حيث يؤدي إدخال معين إلى نفس المخرجات المتوقعة دائماً، وهو أمر ضروري للسلامة. في المقابل، يمكن للذكاء الاصطناعي الاحتمالي (Probabilistic AI) تحليل المعلومات غير الكاملة للتنبؤ بالاتجاهات.
أما الذكاء الاصطناعي التوليدي (Generative AI)، مثل ChatGPT، فيستخدم الأنماط لإنشاء محتوى جديد. ومع ذلك، قد لا تكون النتيجة كما هو متوقع، مما ينتج عنه أخطاء أو «هلوسات» كاملة. أوضح أوبرنولتي أننا لا يجب أن نفترض أبداً أن ناتج الذكاء الاصطناعي التوليدي صحيح بنسبة 100%، بل يجب دائماً التحقق منه.
خطر الهلوسات و«قذارة الذكاء الاصطناعي»
يصبح الذكاء الاصطناعي التوليدي مشكلة عندما يُفترض أن مخرجاته صحيحة. وقد ظهرت أمثلة عديدة على ذلك. أشار أوبرنولتي إلى «حالات حظيت بتغطية إعلامية واسعة لمحامين يقدمون مذكرات قضائية تم إنشاؤها بواسطة الذكاء الاصطناعي والتي [احتوت على] تاريخ قضائي ملفق تماماً».
وفي مثال آخر، نشرت لجنة صحية تقريراً يحتوي على مئات الإشارات إلى دراسات علمية، تبين أن العديد منها غير موجود أو يحتوي على معلومات غير صحيحة – كانت مجرد هلوسات للذكاء الاصطناعي.
هناك أيضاً كمية متزايدة مما يسمى بـ «قذارة الذكاء الاصطناعي» (AI slop) يتم نشرها عبر الإنترنت. يتم نشر المقالات والصور التي يولدها الذكاء الاصطناعي كأخبار أو تحليل، وغالباً ما تكون مليئة بالأخطاء والسخافات التي قد تبدو معقولة. حتى المنشورات ذات السمعة الطيبة وقعت في فخ نشر مقالات بمساعدة الذكاء الاصطناعي دون تدقيق كافٍ من قبل المحررين.
الخلاصة: لا تدع الذكاء الاصطناعي يفكر بدلاً عنك
الذكاء الاصطناعي يولد الغباء البشري إذا شجع المستخدمين على عدم تشغيل أدمغتهم. الاعتماد المفرط على الذكاء الاصطناعي دون تفكير نقدي يمكن أن يكشف الجهل البشري ويعرضنا للخطر. في مجال الطيران، تعتمد الأرواح على ذلك.
حذر أوبرنولتي قائلاً: «الأمر متروك لنا دائماً للتحقق مما يخرج من الطرف الآخر، لأننا لا نعرف أبداً ما إذا كان سيكون دقيقاً بنسبة 100%، أو إذا كان سيكون هلوسة أو شيئاً بينهما. الخطأ الذي نرتكبه هو عندما نسمح للذكاء الاصطناعي بالقيام بتفكيرنا نيابة عنا».
أسئلة شائعة
س: كيف يمكن للذكاء الاصطناعي أن يولد «الغباء البشري»؟
ج: يحدث ذلك عندما يعتمد الناس بشكل أعمى على مخرجات الذكاء الاصطناعي دون التشكيك فيها أو التحقق منها، مما يؤدي إلى تراجع مهارات التفكير النقدي وقبول المعلومات الخاطئة أو الملفقة (الهلوسات) كحقائق.
س: ما هو مبدأ «ثق ولكن تحقق» في سياق الذكاء الاصطناعي؟
ج: يعني استخدام الذكاء الاصطناعي كأداة قوية للمساعدة في التحليل أو إنشاء المحتوى، ولكن مع ضرورة التحقق دائماً من النتائج والتأكد من دقتها قبل اتخاذ أي إجراء أو الاعتماد عليها، خاصة في القرارات المهمة.
س: ما هي «هلوسة الذكاء الاصطناعي»؟
ج: هي معلومات تبدو معقولة ومقنعة ولكنها غير صحيحة تماماً أو ملفقة بالكامل، يولدها نموذج الذكاء الاصطناعي التوليدي، مثل اختراع قضايا قانونية أو دراسات علمية غير موجودة.
