إننا لم نقم في تاريخنا بصنع كائنات قد تتفوق علينا في الذكاء قريباً، ولذلك فإن احتمال فناء البشرية بنسبة 10 بالمئة ليس تقديراً غير منطقي.
فهرس المقال:
- تصريحات هينتون الصادمة عبر تلفزيون بي بي سي
- التهديدات الوجودية دون سيطرة مادية مباشرة
- مخاوف الفيروسات البيولوجية والبنى التحتية الحيوية
- سلسلة استقالات أنثروبيك وموقف إيفان هوبينغر
- انقسام آراء كبار علماء الذكاء الاصطناعي حول الخطر
- غياب الاهتمام الحكومي ودعوات التحرك التشريعي
- أسئلة شائعة
تصريحات هينتون الصادمة عبر تلفزيون بي بي سي
أدلى عالم الحاسوب الشهير جيفري هينتون، الحائز على جائزة نوبل في الفيزياء لعام 2024 تقديراً لأبحاثه التأسيسية في خوارزميات التعلم الآلي والشبكات العصبية، بتصريحات مدوية لبرنامج «نيوز نايت» على قناة «بي بي سي»، مؤكداً أن تقدير احتمالية فناء البشرية بسبب الذكاء الاصطناعي بنسبة 10 بالمئة خلال السنوات العشر المقبلة «يبدو تقديراً ليس بغير المنطقي على الإطلاق»، وهي العبارة التي تركت مذيعة البرنامج فيكتوريا ديربيشاير في حالة ذهول وصدمة واضحة على الهواء مباشرة.
وقال هينتون موضحاً وجهة نظره: «إننا كبشر لم يسبق لنا على الإطلاق في تاريخنا الطويل أن صنعنا كائنات قد تصبح قريباً أكثر ذكاءً منا بكثير، ولذلك فنحن لا نعلم حقاً ما الذي سيحدث تالياً. إن نسبة 10 بالمئة تبدو لي تقديراً غير مستبعد، رغم أنه لا أحد يملك طريقة قطعية لتقديم رقم دقيق». وعندما أعادت المذيعة سؤاله للتأكد، أجاب هينتون بكلمة واحدة حاسمة: «نعم»، مما أثار عاصفة من الجدل عبر شبكات التواصل.
التهديدات الوجودية دون سيطرة مادية مباشرة
أكد هينتون أن الخطر الوجودي للذكاء الاصطناعي المتقدم لا يشترط بالضرورة امتلاك الآلات لأجسام روبوتية أو سيطرة فيزيائية مباشرة على مقاليد الكوكب؛ بل يمكن للأنظمة الفائقة أن تشيع فوضى عارمة وشللاً تاماً في المجتمعات البشرية بمجرد التلاعب بالبشر والتواصل الإقناعي معهم والتأثير على صناع القرار.
وأضاف هينتون محذراً: «سيكون بمقدور هذه النماذج الذكية تصميم فيروسات شديدة الخبث والفتك؛ سواء كانت فيروسات بيولوجية مدمرة للأجساد أو فيروسات حاسوبية تعطل المنظومات الرقمية، فضلاً عن شن هجمات سيبرانية كارثية»، واصفاً افتراض أن نسبة الخطر الوجودي تقل عن 1 بالمئة بأنه «ضرب من الغباء الشديد».
مخاوف الفيروسات البيولوجية والبنى التحتية الحيوية
تطابقت تحذيرات هينتون مع رؤية البروفيسور ستيوارت راسل، عالم الحاسوب المرموق في جامعة كاليفورنيا في بيركلي، الذي صرح لشبكة «بيزنس إنسايدر» بأن الذكاء الاصطناعي أو الجهات الخبيثة المدعومة به قد تشن هجمات منسقة ومفاجئة تستهدف البنية التحتية الحيوية للدول؛ بما في ذلك شبكات الكهرباء الوطنية، وإمدادات المياه الصالحة للشرب، وشبكات النقل الجوي والبري، والمنظومات المصرفية والمالية.
ويؤكد الخبراء أن تعطيل هذه الشرايين الحيوية كفيل بإسقاط المجتمعات الحديثة في فوضى اجتماعية واقتصادية شاملة تصعب معالجتها.
سلسلة استقالات أنثروبيك وموقف إيفان هوبينغر
تأتي مقابلة هينتون تتويجاً لسلسلة من الأحداث الدرامية التي اشتعلت في 8 سبتمبر الجاري إثر الاستقالة العلنية لجيكوب كوكسون، الباحث السابق في تدريب النماذج بشركتي «أوبن إيه آي» و«أنثروبيك»، والذي كتب محذراً: «إن كلا الشركتين لا تتصرفان بمسؤولية، وتتسابقان نحو الذكاء الفائق ذاتي التطوير وتقامران بأرواحنا».
وعقب ذلك، أكد إيفان هوبينغر، قائد علم المحاذاة في أنثروبيك، صحة مخاوف كوكسون، معلناً اعتقاده الشخصي بأن احتمال فناء البشر بالذكاء يفوق 10 بالمئة في العقد الحالي، معترفاً بأن شركته لا تملك خطة حاسمة لمحاذاة الذكاء الفائق بأمان.
انقسام آراء كبار علماء الذكاء الاصطناعي حول الخطر
في المقابل، لا يحظى هذا التشاؤم بإجماع مطلق في الأوساط العلمية؛ إذ صرح الباحث غاري ماركوس بأنه يرى في الهجمات السيبرانية والتضليل مخاطر جسيمة وواقعية، لكنه يستبعد سيناريو الفناء الشامل للجنس البشري في المدى القريب.
من جانبه، وصف يان ليكون، كبير علماء الذكاء الاصطناعي في شركة ميتا، تقديرات النسب المئوية بأنها مجرد «انطباعات وحدوس شخصية غير علمية»، وهو ما اعترف به هينتون جزئياً لشبكة سي إن إن مؤكداً أن محاولة وضع أرقام دقيقة للنسب المئوية تظل مجرد تخمين واسع بالنظر إلى حداثة التجربة.
غياب الاهتمام الحكومي ودعوات التحرك التشريعي
أعرب الإعلامي البارز في شبكة آي تي في البريطانية، روبرت بيستون، عن دهشته البالغة من غياب الاستجابة الحكومية الرسمية الوافية لهذه التحذيرات الصريحة الصادرة من كبار قادة الصناعة، كاتباً عبر منصة إكس: «أنا مندهش تماماً من عدم جذب هذه الإفادات للاهتمام الكافي، بما في ذلك من داخل أروقة الحكومة والبرلمان».
ويرى مراقبون أن تصريحات هينتون ستكثف الضغوط الشعبية والتشريعية في بريطانيا والولايات المتحدة لإلزام شركات التقنية بإخضاع النماذج المتقدمة لرقابة سلامة مستقلة وصارمة قبل إطلاقها للجمهور.
أسئلة شائعة
السؤال: ما هو التقدير الذي وضعه جيفري هينتون لاحتمال فناء البشرية بالذكاء الاصطناعي؟
الإجابة: أكد هينتون أن نسبة 10 بالمئة لاحتمال قضاء الذكاء الاصطناعي على البشرية في العقد المقبل تعد تقديراً منطقياً.
السؤال: كيف يمكن للذكاء الاصطناعي أن يشكل خطراً وجودياً دون امتلاك سيطرة مادية؟
الإجابة: أوضح هينتون أنه قادر على إشاعة الفوضى عبر التلاعب بالبشر وتطوير فيروسات بيولوجية وبرمجية وشن هجمات سيبرانية.
السؤال: ما هو الموقف المعارض الذي يتبناه باحثون مثل يان ليكون وغاري ماركوس؟
الإجابة: يرون أن التهديد الوجودي غير واقعي حالياً وأن وضع نسب مئوية للفناء مجرد حدس شخصي يشتت عن المخاطر الحالية.
