تخطط شركة ميتا لاستبدال فريق مراجعي المخاطر البشريين لديها بمنظومات ذكاء اصطناعي، وفقًا لوثائق داخلية حديثة، الأمر الذي يثير مخاوف حول سلامة المستخدمين وخصوصيتهم.
محتويات المقالة:
- مقدمة
- خطة الأتمتة
- الكفاءة والتكاليف
- مراجعة المحتوى
- مخاوف الخصوصية
- الانتقادات السابقة
- التأثير على الصناعة
- الخاتمة
- الأسئلة الشائعة
مقدمة
أظهرت وثائق داخلية حصلت عليها جهات إعلامية أن «ميتا»، الشركة الأم لفيسبوك وإنستغرام وواتساب، بصدد استبدال جزء كبير من فريق مراجعة المخاطر البشري بنظم ذكاء اصطناعي متطورة.
خطة الأتمتة
هذا الفريق يؤدي دورًا مهمًا في مراجعة الأخطار المحتملة التي قد تنشأ من الميزات أو التعديلات التقنية الجديدة، والتي تشمل نشر تحديثات الخوارزميات أو إصدارات جديدة لأنظمة الإعلانات. بحسب الوثائق، تسعى «ميتا» نحو أتمتة 90 بالمئة من هذه المهام، ما يسمح بإطلاق تحديثات للمستخدمين بوتيرة أسرع.
الكفاءة والتكاليف
على الرغم من أن «ميتا» أشارت في تصريحات سابقة إلى أن الذكاء الاصطناعي سيخضع بدايةً للتجريب في المهام «منخفضة المخاطر»، يشير تقرير جديد إلى استخدامه في جوانب أكثر حساسية مثل سلامة المستخدمين ومراجعة المحتوى العنيف أو المضلل.
يرى متابعون أن خطوة ميتا تمثل محاولة لتقليص التكاليف المالية والبشرية، تماشيًا مع خطة «ميتا» الأوسع لتحسين الكفاءة والانتقال إلى بيئة تعتمد أكثر على التعلم الآلي.
مراجعة المحتوى
لكن في المقابل، يُحذر خبراء من احتمالية زيادة الأخطاء أو حالات تغاضي الذكاء الاصطناعي عن مشكلات معقدة لا يستطيع تفسيرها بسهولة. يُضاف إلى ذلك قلق حقيقي حيال خصوصية المستخدمين، خاصةً مع إعطاء أولوية لتطوير نظم الأتمتة على حساب الإشراف البشري الدقيق.
مخاوف الخصوصية
في الآونة الأخيرة، واجهت «ميتا» انتقادات متكررة بسبب سياساتها في الإشراف على المحتوى، لا سيما فيما يتعلق بخطاب الكراهية والمعلومات المضللة المنتشرة على منصاتها. ورغم استثمار الشركة مبالغ ضخمة في تطوير الذكاء الاصطناعي، إلا أنّ اعتمادها بشكل كامل على التقنيات الآلية في اتخاذ قرارات تتعلق بالمحتوى قد يؤدي إلى تصاعد المشكلات.
الانتقادات السابقة
من جهة أخرى، تنوه بعض الجهات الداخلية في «ميتا» إلى أن التشغيل الآلي يمكن أن يحسّن كفاءة التعامل مع الكم الهائل من البيانات والطلبات التي ترد إلى المنصة. وبالفعل، أظهرت تجارب أولية أن الذكاء الاصطناعي قادر على رصد بعض أنواع المحتوى الضار بسرعة أكبر من المراجعين البشر.
يتزامن هذا التغيير مع قرار سابق لـ«ميتا» بتقليص عدد المراجعين البشريين في قسم مكافحة المعلومات الخاطئة، حيث أعادت هيكلة البرنامج لصالح خاصية «Community Notes» وخوارزميات تصفية آلية.
التأثير على الصناعة
يرى بعض المراقبين أن هذه الخطوة قد تشعل من جديد الجدل حول دور الشركات التقنية الكبرى في حماية المحتوى الرقمي، وضرورة سنّ تشريعات تحكم استخدام الذكاء الاصطناعي في إدارة المنصات. ومع تنامي أهمية المعلومات الإلكترونية في تشكيل الرأي العام وتوجيه الانتخابات السياسية، تبدو الحاجة ملحة لوضع معايير عالمية تضمن تحقيق التوازن.
الخاتمة
في ظل هذه التطورات، تواجه ميتا تحديات كبيرة في الموازنة بين الكفاءة التقنية والمسؤولية الاجتماعية، خاصة مع تزايد الضغوط التنظيمية والاجتماعية للحفاظ على بيئة رقمية آمنة وموثوقة.
الأسئلة الشائعة
1. ما دور فريق مراجعة المخاطر في «ميتا»؟
يقيّم هذا الفريق التأثيرات المحتملة لأي تغيير تقني على المستخدمين، بما يشمل الخصوصية والأمن وسلامة المحتوى.
2. لماذا تستبدل «ميتا» هذا الفريق بالذكاء الاصطناعي؟
تهدف «ميتا» إلى تقليل التكاليف وتسريع إطلاق التحديثات، بالاعتماد على حلول أتمتة مؤتمتة.
3. هل أثبت الذكاء الاصطناعي فعاليته الكاملة؟
على الرغم من قدرته على رصد محتوى ضار أسرع من البشر، إلا أنه قد يخطئ في فهم السياقات المعقدة، مسببًا مشكلات لا يمكن التغاضي عنها.
