كبير علماء تينسنت يحذر من مخاطر الذكاء البيولوجية


حذر ياو شونيو كبير علماء الذكاء الاصطناعي في شركة تينسنت الصينية من اقتراب النماذج المتقدمة من عتبة يمكن عندها استخدام قدراتها البيولوجية لإلحاق الضرر، مؤكداً أن القدرات السيبرانية تجاوزت هذا الخط بالفعل. وجاءت تصريحاته بعد أيام من إطلاق نموذج تينسنت الرائد هاي 4 بسعة 770 مليار معامل.
يرى كبير علماء الذكاء الاصطناعي في تينسنت ياو شونيو أن إدارة المخاطر البيولوجية للنماذج أكثر تعقيداً من المخاطر السيبرانية لصعوبة الفصل بين الاستخدامات الهجومية والدفاعية.
حذر ياو شونيو، كبير علماء الذكاء الاصطناعي في شركة «تينسنت هولدينغز» الصينية، من أن نماذج الذكاء الاصطناعي باتت قريبة من نقطة يمكن عندها استغلال مهاراتها في علم الأحياء لإحداث ضرر فعلي، معتبراً أن القدرات السيبرانية قد تجاوزت هذا الخط بالفعل. وأدلى ياو بهذه التصريحات يوم السبت 7 نوفمبر خلال ندوة علمية استضافتها «أكاديمية هونغ كونغ للعلوم» وجائزة علوم المستقبل وفق تقرير صحيفة ساوث تشاينا مورنينغ بوست، وذلك بعد 3 أيام من إطلاق نموذج «تينسنت» الرائد «هاي 4» المقرر نشر أوزانه علناً.
وقال ياو: «إن القدرات السيبرانية لنماذج الذكاء الاصطناعي وقريباً القدرة البيولوجية للنماذج ستصل إلى عتبة يصبح عندها إلحاق الضرر ممكناً فعلياً»، مضيفاً أنه «يتعين على جميع الشركات الصينية أو أي شركة نماذج مفتوحة أن تكون مسؤولة جداً وجادة للغاية» بشأن السلامة، محذراً من أن المخاطر البيولوجية قد تكون «أكثر تعقيداً» في إدارتها من المخاطر السيبرانية لصعوبة فصل الاستخدامات الهجومية عن الدفاعية.
كانت «تينسنت» قد أطلقت نموذج «هاي 4» في 4 نوفمبر وأعلنت عزمها نشر أوزان النموذج وبطاقات النظام «خلال الأيام المقبلة»، ويضيف النموذج البالغ حجمه 770 مليار معامل قدرات الفهم البصري واستخدام الحاسوب لأول مرة وفق موقع «سيليكون أنغل».
وفي إعلانها التقني، أكدت الشركة أن قدرة «هاي 4» على تصميم تجارب مفتوحة النهاية «تظل أقل بكثير من عتبة المخاطر العالية لدينا»؛ إذ سجل النموذج 30.4 من 100 على معيار «هاي بايو إكسبيرمنت بنش»، ووجد الخبراء الداخليون أنه يفهم البيولوجيا التأسيسية جيداً لكنه محدود في تحويلها لبروتوكولات مختبرية قابلة للتنفيذ، كما أزالت الشركة المواد الهجومية مثل تطوير الثغرات من بيانات التدريب وأجرت تدقيق الفرق الحمراء عبر مختبري «شوانوو» و«كين» الأمنيين.
أقر ياو بأن الشركات الأمريكية مثل «أنثروبيك» قدمت «حجة قوية» لإبقاء النماذج الطليعية مغلقة، لكنه جادل بأن النماذج مفتوحة الأوزان تساعد المدافعين أيضاً وأن «أفضل طريق للمضي قدماً ربما يظل مزيجاً من المصادر المغلقة والمفتوحة»، مشيراً إلى أن النماذج الصينية ليست متأخرة كثيراً عن نظيراتها الأمريكية.
واستعرض ياو — البالغ من العمر 29 عاماً والذي انضم إلى «تينسنت» العام الماضي بعد عام قضاه في «أوبن أي آي» — خطط «تينسنت» لبناء «مختبرات علوم ذاتية التشغيل» يدير فيها الذكاء الاصطناعي تجارب كاملة من البداية للنهاية مثل الطي العكسي للبروتينات.
ينسجم تحذير ياو مع نمط أوسع من القلق العلمي في الصين؛ ففي الأسبوع السابق ساهمت شركات «تينسنت» و«هواوي» و«مجموعة علي بابا» في إعداد تقرير حول سلامة الذكاء الاصطناعي الطليعي صَدر خلال «المؤتمر العالمي للإنترنت» في مدينة ووتشن.
وخلص ذلك التقرير المشترك إلى أن المهارة المتنامية للذكاء الاصطناعي في مهام مثل تصميم مسببات الأمراض «تخلق بصورة محتملة مخاطر كبرى على الصحة العامة»، واختتم ياو حديثه قائلاً: «أعتقد أنه لا يزال هناك الكثير من الأشياء التي نحتاج للقيام بها لجعل الحماية أكثر اكتمالاً، لكننا نحاول».
ويكتسب التحذير الصادر من قيادة الأبحاث في شركة تينسنت ثقلاً خاصاً لكونه يأتي من قلب واحدة من أكبر الشركات المطورة للنماذج مفتوحة الأوزان في الصين والعالم؛ إذ يسلط الضوء على الحاجة الملحة لتطوير معايير تقييم بيولوجية وسيبرانية دقيقة وفلاتر تدريب استباقية قبل نشر أوزان النماذج الضخمة، بما يوازن بين فوائد البحث العلمي المفتوح ومنع إساءة الاستخدام في المجالات عالية الخطورة.
السؤال: بماذا حذر كبير علماء الذكاء الاصطناعي في تينسنت ياو شونيو؟
الإجابة: حذر من أن قدرات النماذج في علم الأحياء تقترب من عتبة تسمح بإحداث ضرر فعلي على غرار ما وصلت إليه القدرات السيبرانية، ودعا مطوري النماذج المفتوحة لتحمل المسؤولية.
السؤال: ما حجم نموذج هاي 4 الجديد من تينسنت وكيف كان أداؤه في اختبارات السلامة البيولوجية؟
الإجابة: يضم النموذج 770 مليار معامل ويدعم الرؤية واستخدام الحاسوب، وسجل 30.4 من 100 في معيار التجارب البيولوجية الداخلي ليبقى دون عتبة المخاطر العالية للشركة.
السؤال: لماذا يعتبر ياو شونيو المخاطر البيولوجية أصعب في الإدارة من المخاطر السيبرانية؟
الإجابة: لأنه في المجال البيولوجي يصعب الفصل التقني بين المعارف المستخدمة في الأغراض الدفاعية والعلاجية وتلك القابلة للاستغلال الهجومي الضار.
السؤال: ما موقف تينسنت من جدل النماذج مفتوحة الأوزان مقابل المغلقة؟
الإجابة: يرى ياو أن النماذج المغلقة تملك حججاً قوية للسلامة لكن النماذج المفتوحة تفيد المدافعين أيضاً، مقترحاً مزيجاً متوازناً بين النهجين مع فلاتر بيانات وتدقيق أمني.