يشهد عالم التكنولوجيا تطورا متسارعا في مجال الذكاء الاصطناعي، وهو ما يفرض تحديات جديدة تتعلق بسلامة المستخدمين، خاصة الفئات العمرية الأصغر سنا. وفي هذا السياق، أعلنت شركة «أوبن إيه آي» يوم الإثنين عن إطلاق مجموعة جديدة من موجهات الأمان مفتوحة المصدر، والتي صممت خصيصا لمساعدة المطورين على بناء تطبيقات ذكاء اصطناعي تتمتع بآليات حماية مدمجة ومخصصة للمستخدمين المراهقين. وتأتي هذه الخطوة في وقت تتزايد فيه المخاوف بشأن تأثير التقنيات الحديثة على الصحة النفسية والجسدية للشباب.

تعاون استراتيجي لمواجهة المخاطر الرقمية

تم إعداد هذه الموجهات والسياسات بالتعاون الوثيق مع المنظمة غير الربحية «كومون سينس ميديا»، بالإضافة إلى مؤسسة «إيفري وان دوت إيه آي». وتقدم هذه الحزمة إرشادات عملية وقابلة للتنفيذ للتعامل مع المخاطر الشائعة التي يواجهها المراهقون في البيئة الرقمية. وتشمل هذه المخاطر التعرض للمحتوى الجنسي، ومشاهد العنف الصريح، والترويج لمعايير صورة الجسد الضارة التي قد تؤثر على ثقة المراهقين بأنفسهم، فضلا عن التحريض على ممارسة الأنشطة الخطيرة، والترويج للسلع المقيدة بضوابط عمرية.

تقنية متقدمة لمعالجة المحتوى

ولضمان فاعلية هذه الموجهات، تم تصميم الحزمة الجديدة لتعمل بتوافق تام مع نموذج «جي بي تي-أوس-سيفجارد» التابع لشركة «أوبن إيه آي». وهذا النموذج، الذي جرى إصداره في شهر أكتوبر من عام 2025، عبارة عن نظام استنتاج مفتوح الأوزان يتيح للمطورين تطبيق سياسات أمان مخصصة خلال مرحلة الاستدلال ومعالجة البيانات، وذلك بدلا من الاعتماد بشكل كلي على المصنفات التقليدية التي يتم تدريبها مسبقا والتي غالبا ما تفتقر إلى المرونة الكافية للتعامل مع السياقات المعقدة.

وعلى عكس أدوات الإشراف على المحتوى التقليدية التي تعتمد على قوائم الحظر الجامدة، يتميز هذا النموذج بقدرته على التفسير المباشر للسياسات التي يحددها المطور. ليس هذا فحسب، بل يقوم النظام بتقديم استنتاجات وتبريرات شفافة وواضحة حول القرارات التي يتخذها، مما يمنح المطورين فهما أعمق لسبب حظر محتوى معين أو السماح به.

تحديات ترجمة أهداف الأمان إلى قواعد دقيقة

وقد أقرت شركة «أوبن إيه آي» بأن ترجمة أهداف الأمان الواسعة النطاق إلى قواعد دقيقة وقابلة للإنفاذ كانت ولا تزال تحديا مستمرا في صناعة التكنولوجيا. وفي بيان رسمي لها، أوضحت الشركة قائلة: «حتى الفرق المتمرسة تجد في كثير من الأحيان صعوبة بالغة في تحويل أهداف الأمان الشاملة إلى قواعد دقيقة وقابلة للتنفيذ، لا سيما وأن هذا يتطلب خبرة عميقة في الموضوع وفهما شاملا لآليات الذكاء الاصطناعي».

من جانبه، أشار روبي تورني، الذي يقود قسم الذكاء الاصطناعي والتقييمات الرقمية في منظمة «كومون سينس ميديا»، إلى أن السياسات الجديدة يمكن أن تؤسس أرضية أمان ذات مغزى عبر النظام البيئي للذكاء الاصطناعي بأكمله. وأكد أن هذه الخطوة تعالج فراغا تشغيليا كبيرا ترك العديد من مطوري الطرف الثالث لسنوات دون مبادئ توجيهية واضحة حول كيفية حماية المستخدمين الصغار. ويمكن للمطورين الآن الوصول إلى هذا النموذج المتقدم عبر منصة «هجينج فيس»، كما يمكنهم العثور على حزمة الموجهات الجديدة على منصة «جيت هاب».

سلسلة من المبادرات لحماية الشباب

يعد هذا الإصدار الأحدث ضمن سلسلة من التحركات المتتالية التي اتخذتها شركة «أوبن إيه آي» لمعالجة المخاوف المتزايدة بشأن سلامة الشباب. ففي شهر سبتمبر من عام 2025، طرحت الشركة أدوات الرقابة الأبوية الخاصة بنظام «شات جي بي تي»، ثم أتبعتها بتحديث مواصفات النموذج الخاص بها ليتضمن مبادئ توجيهية خاصة بالمستخدمين دون سن 18 عاما في شهر ديسمبر من عام 2025. وفي أوائل العام الجاري، بدأت الشركة في نشر تكنولوجيا التنبؤ بالعمر لتطبيق ضمانات حماية المراهقين بشكل تلقائي.

وإلى جانب الحلول التقنية، عقدت شركة «أوبن إيه آي» شراكة استراتيجية مع منظمة «كومون سينس ميديا» لدعم مبادرة تشريعية في ولاية كاليفورنيا تُعرف باسم قانون «الذكاء الاصطناعي الآمن للآباء والأطفال»، والذي يهدف إلى وضع تدابير حماية قانونية قابلة للإنفاذ للمراهقين والشباب عند استخدام أنظمة الذكاء الاصطناعي.

ضغوط قانونية وتطلعات مستقبلية

تأتي هذه الجهود المكثفة في ظل تصاعد الضغوط القانونية والتنظيمية على شركات التكنولوجيا. حيث تواجه شركة «أوبن إيه آي» حاليا دعاوى قضائية متعددة تزعم أن منصة «شات جي بي تي» ساهمت في إلحاق الأذى بالمستخدمين الشباب، ومن أبرزها دعوى قتل خطأ رفعها والدا مراهق في ولاية كاليفورنيا ضد الشركة.

ورغم كل هذه الجهود والتطورات، وجهت شركة «أوبن إيه آي» تحذيرا واضحا مفاده أن حزمة موجهات الأمان الجديدة لا تمثل حلا نهائيا أو ضمانا مطلقا لسلامة المراهقين. وبدلا من ذلك، وصفت الشركة هذه الخطوة بأنها مجرد خط أساس ونقطة انطلاق يمكن للمطورين تخصيصها وتحسينها بمرور الوقت مع تطور التكنولوجيا وظهور تحديات جديدة، مؤكدة أن بناء بيئة رقمية آمنة يتطلب عملا مستمرا وتحديثا دوريا للسياسات والأدوات المستخدمة.

الأسئلة الشائعة