طرح نيك كاماراتا، الباحث في مختبر جودفاير لتفسير الذكاء الاصطناعي، أطروحة علمية جديدة تؤكد أن قراءة وتفسير الشبكات العصبية أسهل بكثير مما افترضه الباحثون لسنوات طويلة. ويجادل كاماراتا بأن الأدلة الشهيرة لنظرية التراكب قد أُسيء فهمها، وأن الخلايا العصبية تنمو عبر التعميم التكراري المنظم وليس الفوضى العشوائية.
مراجعة جذرية لفرضية التراكب في فهم الذكاء الاصطناعي
مفهوم التعميم التكراري وإعادة قراءة خلية القطة والسيارة
نتائج مذهلة في تدقيق نموذج كوين 3-32 بي وخرائط الإسناد
تباين ردود الفعل العلمية وتحفظات نيل ناندا في ديب مايند
أسئلة شائعة
مراجعة جذرية لفرضية التراكب في فهم الذكاء الاصطناعي
طرح نيك كاماراتا، الباحث البارز في مختبر «جودفاير» المتخصص في قابلية تفسير الذكاء الاصطناعي، في مقال علمي نُشر يوم 15 أكتوبر، رؤية مغايرة تؤكد أن قراءة وفهم الشبكات العصبية الاصطناعية أسهل بكثير مما افترضه المجتمع البحثي طوال السنوات الماضية. ويرى كاماراتا أن أشهر الأدلة العلمية التي استُخدمت سابقاً لإثبات نظرية «التراكب» قد تمت قراءتها وتفسيرها على نحو خاطئ، وهو ما أحدث انقساماً واسعاً بين الباحثين حول ما إذا كان مجال قابلية التفسير يقترب من تحقيق اختراق علمي تاريخي.
ويصف كاماراتا أطروحته الجديدة بأنها «فرضية عمل قيد الاختبار»، مشيراً في مقاله إلى أن الورقة البحثية التقنية المرافقة التي تتناول بالتفصيل خلايا النماذج اللغوية الكبيرة لم تُنشر بعد بشكل رسمي. وبموجب نظرية التراكب السائدة سابقاً، عندما تعاني الشبكة العصبية من نقص في عدد الخلايا مقارنة بحجم البيانات، فإنها تقوم بدمج وتكديس مفاهيم غير مترابطة إطلاقاً داخل الخلايا العصبية نفسها، مما يضطر الباحثين إلى بناء نموذج ثانٍ مثل «المشفر التلقائي المتناثر» لفك هذا التشابك قبل دراسة أي شيء.
مفهوم التعميم التكراري وإعادة قراءة خلية القطة والسيارة
يجادل كاماراتا في المقابل بأن معظم الخلايا العصبية التي تبدو مختلطة الوظائف تنشأ في الحقيقة من آلية يطلق عليها اسم «التعميم التكراري»؛ حيث تنمو للخلية العصبية الواحدة تفرعات ثانوية مرتبطة بوظيفتها الأساسية تماماً كما ينمو لغصن الشجرة فروع أصغر. وضرب مثالاً بخلية عصبية بدأت برصد الحرفين الصوتيين «آي واي»، ثم توسعت لترصد اختصار «دي آي واي»، وصولاً إلى عبارة «اصنعها بنفسك» كاملة. وكتب قائلاً: «أعتقد الآن أنني كنت أجعل التراكب هو الفرضية الصفرية الافتراضية، بينما كان ينبغي أن يكون الفرضية الأخيرة، لأنه التفسير الأكثر تطرفاً والأقل قابلية للاختبار».
كما أعاد المقال النظر في أبحاث سابقة أجراها كاماراتا بنفسه؛ إذ أوضح أن الخلية العصبية الشهيرة التي تستجيب لصور «القطة والسيارة» داخل نموذج التعرف على الصور «إنسبشن في 1» هي في حقيقتها أداة رصد للأشكال الهندسية المدببة التي تشبه حرف «في»، مضيفاً أن دائرة التراكب التي تربط بين السيارة والكلب والتي حددها في عام 2020 كانت خطأً تفسيرياً.
نتائج مذهلة في تدقيق نموذج كوين 3-32 بي وخرائط الإسناد
دعم كاماراتا حجته بسلسلة من الأرقام المقارنة؛ فعندما قارن نموذج «إنسبشن في 1» القديم بنموذج «كونف نيكست» الحديث المماثل له في الحجم والمدرب على البيانات ذاتها، وجد أن نحو 99% من الخلايا العصبية في الطبقة الأخيرة لنموذج «كونف نيكست» كانت قابلة للتفسير بسهولة، بينما كانت النسبة في نموذج «إنسبشن في 1» تبلغ نحو 5% فقط بأدوات تلك الحقبة ووصلت إلى 50% بأدوات اليوم.
وفيما يخص النماذج اللغوية، كتب كاماراتا: «في عمليات التدقيق الأولية لنموذج كوين 3-32 بي، نقدر أن قرابة 90% من أقطاب الخلايا العصبية تمتلك وظيفة أساسية واحدة». وأضاف أن 7% أخرى تمتلك وظيفتين مترابطتين، بينما تظل نسبة تتراوح بين 2% إلى 4% فقط غير مفهومة حتى الآن، محذراً من أن هذه النسب تعتمد على مكان وضع عتبات القياس ومؤكداً أنه واثق بنسبة «ربما 85%» من كل شيء تقريباً ينبع من التعميم العادي.
واعتمد هذا العمل البحثي على وكلاء ذكاء اصطناعي يكتبون تفسيرات لوظائف الخلايا العصبية ثم يختبرون صحتها، حيث راجع هؤلاء الوكلاء 100000 رسم بياني للإسناد يتتبع حركة المعلومات داخل النموذج، وذلك مقارنة بمشروع آلي أجرته شركة «أوبن أي آي» في عام 2023 لم يتمكن سوى من فهم 1.7% فقط من الخلايا العصبية حتى بأكثر المقاييس تساهلاً.
تباين ردود الفعل العلمية وتحفظات نيل ناندا في ديب مايند
أثار المقال ردود فعل متباينة في الأوساط العلمية؛ فبينما رحب به البعض واحتفت به نشرة «أي آي نيوز» التابعة لمنصة «لاتنت سبيس» تحت عنوان «الوكلاء يدحضون تعدد المعاني»، تبنى باحثون آخرون موقفاً أكثر حذراً. فقد وصف نيل ناندا، قائد فريق قابلية التفسير الميكانيكي في شركة «جوجل ديب مايند»، العمل بأنه مثير للاهتمام لكنه لا يغير الصورة الكبرى.
وأكد ناندا أنه لا يزال يؤمن بأن ظاهرة التراكب حقيقية، ويعود ذلك جزئياً إلى أن النماذج اللغوية تخزن حقائق أكثر بكثير من عدد خلاياها العصبية، مرجحاً أن التفعيلات الضعيفة تحمل الكثير من تلك الحقائق المحفوظة. كما شكك في إمكانية تعميم نتائج نماذج الصور الصغيرة على النماذج اللغوية الضخمة، ورأى أن المقال يعرف أحادية المعنى بتساهل مفرط، متوقعاً أن يقع التحليل القائم على الخلايا المنفردة في أخطاء جسيمة، فيما اتفق الباحثان على أن النماذج قادرة على تمثيل مفاهيم تفوق أبعادها، بانتظار تحقق فرق علمية مستقلة من هذه النتائج.
أسئلة شائعة
السؤال: ما الفرق بين نظرية التراكب وفرضية التعميم التكراري التي طرحها نيك كاماراتا؟
الإجابة: تفترض نظرية التراكب أن الشبكة العصبية تكدس مفاهيم غير مترابطة عشوائياً في الخلية نفسها عند نقص الخلايا، بينما يرى التعميم التكراري أن الخلية تنمي فروعاً ثانوية مرتبطة بوظيفتها الأصلية بشكل منطقي.
السؤال: ماذا أظهرت عمليات التدقيق الأولية لنموذج اللغة كوين 3-32 بي في مختبر جودفاير؟
الإجابة: أظهرت عمليات التدقيق أن نحو 90% من أقطاب الخلايا العصبية تؤدي وظيفة أساسية واحدة، و7% تؤدي وظيفتين مترابطتين، بينما لم يتجاوز الجزء غير المفهوم نسبة 2% إلى 4%.
السؤال: كيف ساهم وكلاء الذكاء الاصطناعي في إنجاز دراسة مختبر جودفاير؟
الإجابة: قام وكلاء الذكاء الاصطناعي بصياغة تفسيرات لوظائف الخلايا العصبية واختبارها عملياً، ونجحوا في مراجعة وتحليل 100000 رسم بياني للإسناد لتتبع مسار المعلومات.
السؤال: ما هو أبرز اعتراض نيل ناندا الباحث في جوجل ديب مايند على نتائج المقال؟
الإجابة: يرى نيل ناندا أن النماذج اللغوية تخزن حقائق تفوق عدد خلاياها العصبية وأن التفعيلات الضعيفة تحمل معظم هذه الحقائق، كما يشكك في إمكانية تعميم نتائج نماذج الصور على النماذج اللغوية.
