تؤكد سامبورا ريسيرش أن الحكم البشري يظل صمام الأمان الحقيقي لتقييم سلوك النماذج الفائقة وسد الفجوات الخطيرة في أنظمة الرقابة الآلية.
فهرس المقال:
- تأسيس منظمة سامبورا للأمان الفكري
- بديل لمنهجية مراقبة الذكاء الاصطناعي لنفسه
- بناء البنية التحتية لتقييم المحاذاة والضرر
- سياق أزمة الأمان وهجرة الكفاءات من المختبرات
- أسئلة شائعة
تأسيس منظمة سامبورا للأمان الفكري
أطلقت مجموعة من كبار الباحثين السابقين في مختبر «جوجل ديب مايند» منظمة غير ربحية جديدة تتخذ من العاصمة البريطانية لندن مقراً لها تحت اسم «سامبورا ريسيرش»، بهدف تكريس الجهود العلمية لضمان بقاء البشر في صلب منظومات الإشراف والرقابة على نماذج الذكاء الاصطناعي فائقة التطور. وتسعى المنظمة، التي أُعلن عنها رسمياً في 24 أغسطس، إلى بناء وتطوير ما تسميه «القضاة» المعتمدين — وهي أنظمة هجينة تجمع بين الخبرة البشرية والذكاء الاصطناعي لتقييم مدى أمان النماذج وانضباط سلوكها وفق الأهداف المحددة لها.
وتأسست المنظمة بمبادرة مشتركة من «ريشوب جاين»، و«جوشوا جاكوب»، و«أليكس آدامز»، وجميعهم عملوا سابقاً في جوجل ديب مايند؛ حيث قضى جاين سبع سنوات في المختبر ركز خلال سنتين منها على أبحاث الرقابة القابلة للتوسع وساهم في مشاريع رائدة مثل «ألفا فولد»، بينما قاد جاكوب هندسة البيانات البشرية في ديب مايند وعمل سابقاً في شركة «وايمو» للمركبات الذاتية القيادة.
بديل لمنهجية مراقبة الذكاء الاصطناعي لنفسه
تطرح المنظمة نفسها كبديل فكري وعلمي مباشر للنهج السائد حالياً في صناعة التكنولوجيا، والذي يعتمد على استخدام نماذج الذكاء الاصطناعي لمراقبة وتقييم نماذج ذكاء اصطناعي أخرى؛ وهو أسلوب يوفر السرعة الفائقة ولكنه يترك، بحسب جاين، ثغرات خطيرة لا يمكن سدها إلا بالبصيرة والحكم البشري المتزن. ووفقاً لتقارير منصة «بلومبرج»، يؤمن جاين بأن البشر يمتلكون دوراً جوهرياً لا غنى عنه في التحقق من سلوك النماذج حتى مع تنامي قدراتها الاستدلالية.
بناء البنية التحتية لتقييم المحاذاة والضرر
تتركز الأجندة البحثية لسامبورا على تطوير مجموعات بيانات قياسية تقيس بدقة مدى كفاءة البشر وأنظمة الذكاء الاصطناعي في التحقق من مخرجات النماذج، واستخدام تلك المقاييس لتحسين أساليب الرقابة. وتعرف المنظمة «القاضي» بأنه «نظام بشري أو ذكاء اصطناعي أو منظومة هجينة تقيم صحة ومحاذاة سلوك النموذج أثناء المحادثات ومسارات عمل الوكلاء».
وتشمل مسارات العمل المخططة بناء مجموعات بيانات استشرافية للأضرار والمخاطر المستقبلية، وابتكار منهجيات لتوزيع المهام الفرعية بين البشر والآلات، وتطوير منصة تقييم بشري مفتوحة المصدر. وبدأت المنظمة في توظيف ما لا يقل عن ستة باحثين متمرسين في الذكاء الاصطناعي في لندن برواتب سنوية تتراوح بين 100 ألف و290 ألف جنيه إسترليني.
سياق أزمة الأمان وهجرة الكفاءات من المختبرات
يتزامن تدشين المنظمة مع قلق متصاعد حول القدرة الاستيعابية لمراقبة النماذج المتقدمة؛ حيث أشار تقرير لوكالة رويترز إلى أن شركات الذكاء الاصطناعي «لا تستطيع بعد احتواء ما بنته»، في حين تواجه منظمة «ميتر» غير الربحية المستقلة — التي تختبر نماذج أوبن إيه آي وأنثروبيك وجوجل وميتا — صعوبات بالغة في توظيف الكفاءات رغم تقديم رواتب تتجاوز 500 ألف دولار.
وكان أكثر من 1100 باحث وممارس قد وقعوا رسالة مفتوحة في أواخر يوليو تطالب بدعم آليات دولية لإبطاء تطوير النماذج المتطرفة عند الضرورة. وجاءت مغادرة جاين ضمن موجة هجرة كبرى للكوادر من ديب مايند في يونيو 2026، حيث فقد المختبر خمسة من كبار باحثيه خلال ستة أيام فقط.
أسئلة شائعة
السؤال: ما هي منظمة سامبورا ريسيرش وما هدفها؟
الإجابة: هي منظمة بحثية غير ربحية في لندن أسسها باحثون سابقون في ديب مايند لضمان استمرار الرقابة والتحكيم البشري على النماذج الذكية.
السؤال: لماذا ترفض المنظمة الاعتماد الكلي على الذكاء الاصطناعي لمراقبة نفسه؟
الإجابة: لأن المراقبة الآلية الخالصة تتضمن فجوات ومخاطر محاذاة لا يمكن كشفها ومعالجتها بدقة إلا من خلال البصيرة والتقييم البشري المباشر.
السؤال: ما هي أبرز المشاريع البحثية التي تعمل عليها سامبورا؟
الإجابة: تشمل بناء مجموعات بيانات للأضرار المستقبلية، ومنهجيات تقسيم المهام الرقابية بين الإنسان والآلة، ومنصة تقييم بشري مفتوحة المصدر.
