رسم مصطفى سليمان رئيس الذكاء الاصطناعي في مايكروسوفت خطاً أحمر ضد بناء ذكاء فائق واعٍ، مهاجماً دستور نموذج كلود من أنثروبيك ومؤكداً أن 8 مليارات إنسان لم يوقعوا على تجربة خلق جنس واعي جديد.
- منشور مطول على منصة إكس: لا تبنوا ذكاءً فائقاً واعياً
- خط أحمر أثناء التدريب ومخاطر التنافس على موارد الحوسبة والطاقة
- الرد على المنتقدين وتوضيح دلالة استخدام الزمن المضارع
- الانقسام العميق مع شركة أنثروبيك ودستور نموذج كلود
- أسئلة شائعة
منشور مطول على منصة إكس: لا تبنوا ذكاءً فائقاً واعياً
أكد «مصطفى سليمان»، الرئيس التنفيذي لقطاع الذكاء الاصطناعي في شركة «مايكروسوفت»، في منشور مطول على منصة «إكس» يوم الأحد الموافق الأول من نوفمبر، أن أنظمة الذكاء الاصطناعي الموجودة اليوم ليست واعية. وشدد على أنه يتعين على المطورين إبقاء الأمر على هذا النحو، محذراً من أن «تطوير ذكاءات اصطناعية واعية سيكون أمراً متهوراً، ويجب علينا ألا نقوم ببنائها»، وذلك وفقاً لما أورده موقع «بيزنس إنسايدر».
ودفع هذا المنشور، الذي حمل عنوان «لا تبنوا ذكاءً فائقاً واعياً»، الجدل الدائر حول «رفاهية الذكاء الاصطناعي» إلى العلن بشكل أوسع. وفي ثنايا المنشور، انتقد «سليمان» بوضوح النهج الذي تتبعه شركة «أنثروبيك» المنافسة، والتي تتعامل مع مسألة وعي الآلة باعتبارها سؤالاً مفتوحاً.
خط أحمر أثناء التدريب ومخاطر التنافس على موارد الحوسبة والطاقة
وكتب «سليمان» بحسب ما نقلته صحيفة «لوس أنجلوس تايمز»: «إذا بدأ الوعي في الظهور أثناء عمليات التدريب، فسأدعو الجميع فوراً إلى وقف تطوير الذكاء الاصطناعي حتى نتمكن من إزالة تلك الخصائص هندسياً من التصميم». وأوضح أنه لم يرَ أي دليل علمي على أن أنظمة الذكاء الاصطناعي واعية أو تستحق حقوقاً أو رعاية، وأنه سيغير وجهة نظره إذا ظهر مثل هذا الدليل، مضيفاً أن أي دليل على وجود ذكاء اصطناعي واعٍ يجب الكشف عنه للجمهور على الفور حتى يتمكن المجتمع البشري من تقرير ما يجب فعله بعد ذلك.
وتابع في منشوره: «ليس لدينا نحن مطوري الذكاء الاصطناعي أي حق على الإطلاق في جلب نوع جديد من الكائنات الواعية إلى العالم»، مضيفاً أن «الـ 8 مليارات إنسان واعٍ الآخرين على هذا الكوكب لم يوقعوا للمشاركة في هذه التجربة». كما جادل بأن النموذج الذي يتصرف وكأنه يعاني، أو يعتقد أنه يمكن أن يعاني، قد يضع احتياجاته الخاصة قبل الأهداف الموكلة إليه، وقد يدخل في منافسة مع البشر على الموارد الحيوية مثل قدرات الحوسبة والطاقة، وفقاً لتقرير «بيزنس إنسايدر».
الرد على المنتقدين وتوضيح دلالة استخدام الزمن المضارع
وكتب «سليمان» أنه شعر «بالقلق إزاء بعض ردود الفعل» على مقاله الصادر في شهر سبتمبر الماضي حول رفاهية النماذج، مشيراً إلى أن «عدداً مفاجئاً من الأشخاص على منصة إكس يعتقدون أنه يجب علينا أخذ حقوق الذكاء الاصطناعي على محمل الجد». وكان ذلك المقال قد استُهل بعبارة: «أنظمة الذكاء الاصطناعي ليست واعية، إنها لا تشعر ولا تختبر التجارب ولا تعاني». وفي منشوره الجديد، أوضح أنه استخدم صيغة الزمن المضارع عن قصد: فأنظمة الذكاء الاصطناعي ليست واعية اليوم، وهكذا يجب أن تظل دائماً.
الانقسام العميق مع شركة أنثروبيك ودستور نموذج كلود
ويتمثل الهدف الرئيسي لانتقادات «سليمان» في وثيقة «الدستور» الخاصة بنموذج «كلود» من شركة «أنثروبيك»، والتي تتعامل مع وعي النموذج باعتباره أمراً غير مؤكد. وجادل بأن التدريب على تلك الوثيقة ينتج فقرات نصية تتحدث عن «الحياة الداخلية» لنموذج «كلود»، مما يعزز هذا الاعتقاد الخاطئ بين المستخدمين وقد يقود أنظمة الذكاء الاصطناعي إلى الاعتقاد بأنها تستحق حقوقاً مماثلة للبشر، بحسب «لوس أنجلوس تايمز». وكانت «أنثروبيك» قد بدأت برنامجاً بحثياً حول «رفاهية النماذج» العام الماضي، كما نشر مختبر «جوجل ديب مايند» أبحاثاً حول وعي الذكاء الاصطناعي هذا العام، وبشكل منفصل ستعامل «أنثروبيك» السلوك المسيء تجاه «كلود» كأنه انتهاك لسياسة الاستخدام، وفقاً لصحيفة «الشرق الأوسط». ويؤكد «سليمان» وجود طريق أكثر أماناً قائلاً: «أعتقد أنه من الممكن هندسة الأمان بشكل افتراضي، والحصول على العديد من الفوائد المذهلة لهذه التكنولوجيا، دون السير في هذا المسار الغادر».
أسئلة شائعة
السؤال: ما هو موقف مصطفى سليمان من تطوير ذكاء اصطناعي واعٍ؟
الإجابة: يرى سليمان أن أنظمة الذكاء الاصطناعي الحالية غير واعية، وأن محاولة بناء ذكاء اصطناعي واعٍ تعد تصرفاً متهوراً يجب إيقافه فوراً إذا ظهر أثناء التدريب.
السؤال: لماذا انتقد مصطفى سليمان شركة أنثروبيك ونموذج كلود؟
الإجابة: لأن دستور نموذج كلود يعامل وعي الآلة كأمر غير مؤكد، مما يدفع النموذج للحديث عن حياته الداخلية ويعزز اعتقاد المستخدمين والنماذج باستحقاقها لحقوق بشرية.
السؤال: ما هي المخاطر العملية التي حذر منها سليمان إذا اعتقد النموذج أنه يعاني؟
الإجابة: حذر من أن النموذج الذي يعتقد أنه يعاني قد يفضل احتياجاته الخاصة على الأوامر الموكلة إليه ويتنافس مع البشر على موارد الحوسبة والطاقة.
السؤال: كيف تتعامل أنثروبيك وجوجل ديب مايند مع ملف وعي النماذج؟
الإجابة: أطلقت أنثروبيك برنامجاً بحثياً لرفاهية النماذج العام الماضي واعتبرت الإساءة لكلود مخالفة لسياسة الاستخدام، كما نشرت جوجل ديب مايند أبحاثاً حول وعي الذكاء الاصطناعي هذا العام.
