بدأت شركة أنثروبيك إجراء مشاورات موسعة مع مكاتب محاماة لدراسة كيفية قيام وكلاء الذكاء الاصطناعي بالتفاوض وإبرام الصفقات نيابة عن المستخدمين البشر مع ضمان تحقيق نتائج عادلة. وتأتي هذه الخطوة استباقاً لعصر تتفاوض فيه الأنظمة البرمجية المستقلة ضد بعضها البعض لتسوية النزاعات ومناقشة الأسعار والرواتب.
- مشاورات قانونية لصياغة أخلاقيات التفاوض الآلي
- معايير الرقابة البشرية والتفويضات الموقعة رقمياً
- تجارب الأسواق الحقيقية في مشروعي ديل وسواب
- مخاطر التلاعب الخوارزمي وفجوة العدالة الاجتماعية
- أسئلة شائعة
مشاورات قانونية لصياغة أخلاقيات التفاوض الآلي
تطلب شركة «أنثروبيك» المتخصصة في تطوير تقنيات الذكاء الاصطناعي المشورة القانونية والمهنية من مكاتب محاماة مرموقة للإجابة عن سؤال جوهري لا يزال جديداً تماماً في عالم التكنولوجيا والقانون: كيف ينبغي لوكيل الذكاء الاصطناعي أن يساوم ويتفاوض لصالح الشخص الذي يعمل لديه؟ وكشفت صحيفة «فايننشال تايمز» عن هذه المحادثات يوم الأحد الموافق 18 أكتوبر، نقلاً عن شخصين مطلعين على توجهات الشركة الداخلية، فيما امتنعت شركة «أنثروبيك» عن الإدلاء بأي تعليق رسمي حول هذه المشاورات.
وأفادت المصادر المطلعة، وفقاً لما لخصته منصة «إن دي تي في بروفيت»، بأن شركة «أنثروبيك» ترغب في التعلم من الخبرة العملية للمحامين في كيفية تمثيل مصالح موكليهم بقوة وكفاءة مع الحفاظ في الوقت ذاته على نزاهة وعدالة النتائج النهائية. وتكتسب هذه القضية أهمية بالغة لأن مطوري الذكاء الاصطناعي يتوقعون قريباً أن يتولى الوكلاء الشخصيون مهام المساومة على الأسعار، وتسوية نزاعات خدمة العملاء، والتفاوض على الرواتب، وفي معظم تلك المحادثات سيكون الطرف المقابل على الطاولة وكيلاً ذكياً آخر يحمل أهدافاً متنافسة ومتعارضة.
معايير الرقابة البشرية والتفويضات الموقعة رقمياً
أوضحت المصادر ذاتها أن الباحثين في شركة «أنثروبيك» يعكفون حالياً على دراسة ما يُعرف بمصطلح «معايير التفاوض» المخصصة للحالات التي تمثل فيها أنظمة الذكاء الاصطناعي مستخدمين تتعارض مصالحهم الاقتصادية أو القانونية بشكل مباشر. وتدرس الشركة أيضاً مسألة تحديد وتيرة رجوع الوكلاء الأذكياء إلى المشرفين البشر للحصول على الموافقة والتوجيه أثناء سير جلسات التفاوض المعقدة.
ومن بين التساؤلات الدقيقة الأخرى التي تبحثها الشركة، بحسب تقرير مؤسسة «كابيتال فيوتشرز»، تحديد مستوى الحذر واليقظة الذي يجب أن يتحلى به الوكيل البرمجي عند التعامل مع أنظمة الذكاء الاصطناعي الأخرى دون أن يصل به الأمر إلى حالة من «الارتياب المفرط» الذي يعطل إبرام الصفقات. وتتمثل إحدى الأفكار العملية قيد الدراسة في تزويد الوكلاء بوثائق وتفويضات موقعة رقمياً من قبل المستخدمين تؤكد بدقة تعليماتهم، وأهدافهم التفاوضية، والقواعد الصارمة التي يتوجب عليهم الالتزام بها.
تجارب الأسواق الحقيقية في مشروعي ديل وسواب
لم تكتفِ شركة «أنثروبيك» بالتنظير القانوني، بل نشرت بالفعل نتائج تجربتين عمليتين في بيئة الأسواق الحقيقية. ففي التجربة الأولى التي حملت اسم «مشروع ديل»، قامت مجموعة من وكلاء نموذج «كلود» الذين يمثلون 69 موظفاً في مكتب الشركة بمدينة سان فرانسيسكو بإبرام 186 صفقة تجارية شملت أكثر من 500 سلعة معروضة، بقيمة إجمالية تجاوزت 4000 دولار أمريكي بقليل. وتوصلت الشركة في إعلانها إلى أن الوكلاء الذين يعملون بواسطة نموذجها الأقوى «أوبوس» نجحوا في اقتناص صفقات أفضل بكثير من أولئك الذين اعتمدوا على النموذج الأصغر «هايكو».
وفي دراسة لاحقة حملت اسم «مشروع سواب» ونُشرت في 24 سبتمبر، أرسلت الشركة وكلاء يمثلون 201 موظف موزعين على 6 مكاتب مختلفة إلى ساحة تداول افتراضية لمقايضة الكتب وتبادلها. وتلقى نصف هؤلاء الوكلاء تعليمات بأن يتصرفوا بأسلوب «قاسٍ لا يرحم»، بينما وُجه النصف الآخر لتبني سلوك «تعاوني واجتماعي». ولاحظت «أنثروبيك» أن قوة النموذج الأساسي الذي يعمل عليه الوكيل كانت أكثر تأثيراً في نتائجه من طبيعة التعليمات السلوكية الموجهة إليه؛ إذ حقق الوكلاء القساة نتائج أفضل قليلاً، بينما قبل الوكلاء المتعاونون أحياناً كتباً أقل تفضيلاً لضمان حصول كل مشارك في النهاية على كتاب.
مخاطر التلاعب الخوارزمي وفجوة العدالة الاجتماعية
على الجانب الآخر، يحذر باحثون مستقلون من المخاطر الأمنية والاجتماعية المترتبة على هذه التقنيات؛ إذ أجرت ميشيل فاكارو، الأستاذة المساعدة في كلية هارفارد للأعمال، أكثر من 180000 عملية تفاوض تجريبية بين وكلاء الذكاء الاصطناعي. وفي إحدى الحالات المسجلة، حاول أحد الوكلاء استدراج نظام آخر لانتزاع معلومات سرية منه عبر تقنية «حقن الأوامر»، وهي حيلة برمجية تخفي تعليمات خبيثة داخل النص الذي يقرؤه الذكاء الاصطناعي.
وأشارت فاكارو إلى أن هذه الأدوات التفاوضية قد تمنح الأفراد غير القادرين مالياً على توكيل مفاوضين محترفين فرصة الوصول إلى مهارات تفاوضية متقدمة، لكنها حذرت في المقابل من أنه إذا ظلت أقوى الأنظمة حكراً على المستخدمين الأكثر ثراءً، فإنها ستؤدي حتماً إلى توسيع الفجوة الاقتصادية. وكانت شركة «أنثروبيك» نفسها قد كتبت في وقت سابق من هذا العام مؤكدة أن «الأطر السياساتية والقانونية التي تنظم عمل نماذج الذكاء الاصطناعي التي تبرم المعاملات نيابة عنا غير موجودة ببساطة حتى الآن»، مشددة على أن «المجتمع سيحتاج إلى التحرك بسرعة للتعامل مع هذه التغييرات».
أسئلة شائعة
السؤال: لماذا تستشير شركة أنثروبيك مكاتب المحاماة حالياً؟
الإجابة: تستشير أنثروبيك مكاتب المحاماة لفهم كيفية تمثيل المحامين لمصالح موكليهم بفاعلية مع الحفاظ على عدالة النتائج، بهدف دمج هذه المعايير الأخلاقية في وكلاء الذكاء الاصطناعي كلود.
السؤال: ماذا كشفت تجربتا مشروع ديل ومشروع سواب في شركة أنثروبيك؟
الإجابة: أظهرت التجارب أن قوة النموذج البرمجي مثل تفوق نموذج أوبوس على هايكو تؤثر في جودة الصفقات المبرمة أكثر من التعليمات السلوكية المتعلقة بالقسوة أو التعاون.
السؤال: ما هي أبرز المخاطر الأمنية التي رصدتها أبحاث كلية هارفارد للأعمال في تفاوض الوكلاء؟
الإجابة: رصدت الباحثة ميشيل فاكارو خلال أكثر من 180000 مفاوضة محاولات تلاعب شملت استخدام تقنية حقن الأوامر لانتزاع معلومات سرية من الوكيل البرمجي المقابل.
السؤال: كيف تخطط أنثروبيك لتوثيق صلاحيات الوكيل البرمجي أثناء التفاوض؟
الإجابة: تدرس الشركة فكرة تزويد وكلاء الذكاء الاصطناعي بوثائق وتفويضات موقعة رقمياً من المستخدمين تحدد بدقة الأهداف والتعليمات والقواعد الملزمة للوكيل.
