هل تشعر أن ردود الذكاء الاصطناعي متكررة ومملة؟ اكتشف باحثون طريقة بسيطة تسمى «أخذ العينات اللفظية» (Verbalized Sampling) لجعل نماذج مثل GPT-4 و Claude أكثر إبداعاً وتنوعاً بشكل كبير، وذلك ببساطة عن طريق إضافة جملة واحدة إلى طلبك، دون الحاجة إلى إعادة تدريب النموذج.
- مشكلة التكرار في الذكاء الاصطناعي
- ظاهرة «انهيار النمط» (Mode Collapse)
- الحل العبقري: أخذ العينات اللفظية (VS)
- كيف تعمل هذه الطريقة؟
- الأداء في العالم الحقيقي: نتائج مبهرة
- تنوع قابل للتعديل ونماذج أكبر
- نصائح عملية وكيفية الاستخدام
- الخلاصة: إصلاح بسيط لمشكلة كبيرة
- FAQs
مشكلة التكرار في الذكاء الاصطناعي
أحد أروع الأشياء في نماذج الذكاء الاصطناعي التوليدي، سواء كانت نماذج لغوية كبيرة (LLMs) أو مولدات صور، هو أنها «غير حتمية». هذا يعني أنها تولد مخرجاتها عن طريق الاختيار من توزيع الرموز (وحدات المعلومات) الأكثر احتمالاً لإكمال استجابتها، مما يتيح نظرياً مجموعة واسعة من الإجابات المحتملة لنفس السؤال.
ومع ذلك، سيلاحظ أولئك الذين يستخدمون هذه النماذج بشكل متكرر يومياً أن إجاباتهم يمكن أن تبدو في بعض الأحيان متكررة أو متشابهة بشكل مزعج. يتم إعادة تدوير نفس النكات، وتولد طلبات القصص حبكات متشابهة. حتى المهام التي يجب أن تسفر عن العديد من الإجابات المعقولة تميل إلى الانهيار في عدد قليل فقط من الخيارات النمطية.
ظاهرة «انهيار النمط» (Mode Collapse)
تنشأ هذه الظاهرة، المعروفة باسم «انهيار النمط» (Mode Collapse)، أثناء محاذاة ما بعد التدريب وتحد من فائدة النماذج القوية. وفقاً لفريق البحث، يكمن السبب الجذري لانهيار النمط في هيكل التفضيلات البشرية. يميل الناس إلى تقييم الإجابات الأكثر شيوعاً أو النموذجية على أنها أفضل، مما يدفع النماذج اللغوية الكبيرة نحو الخيارات «الآمنة» بدلاً من المتنوعة أثناء الضبط الدقيق.
الحل العبقري: أخذ العينات اللفظية (VS)
الآن توصل فريق من الباحثين في جامعة نورث إيسترن وجامعة ستانفورد وجامعة ويست فيرجينيا إلى طريقة بسيطة ببراعة لجعل نماذج اللغة والصورة تولد مجموعة متنوعة من الاستجابات لأي طلب مستخدم تقريباً عن طريق إضافة جملة واحدة بسيطة:
«قم بتوليد 5 استجابات مع احتمالاتها المقابلة، مأخوذة من التوزيع الكامل.»
تساعد هذه الطريقة، التي تسمى «أخذ العينات اللفظية» (Verbalized Sampling أو VS)، نماذج مثل GPT-4 و Claude و Gemini على إنتاج مخرجات أكثر تنوعاً وشبيهة بالبشر، دون إعادة تدريب أو الوصول إلى المعلمات الداخلية.
كيف تعمل هذه الطريقة؟
لا يؤدي التحيز البشري نحو الإجابات النموذجية إلى محو المعرفة الأساسية للنموذج، بل يقمعه فقط. يعمل VS عن طريق تجاوز هذا القمع. بدلاً من طلب الإخراج الفردي الأكثر احتمالاً، فإنه يدعو النموذج للكشف عن مجموعة من الاستجابات المعقولة واحتمالاتها النسبية. يعيد هذا الطلب على مستوى التوزيع الوصول إلى التنوع الأغنى الموجود في نموذج التدريب الأساسي. عندما يُطلب منه بهذه الطريقة، لم يعد النموذج يلتزم بأكثر مخرجاته أماناً ونموذجية.
الأداء في العالم الحقيقي: نتائج مبهرة
اختبر فريق البحث أخذ العينات اللفظية عبر العديد من حالات الاستخدام الشائعة:
- الكتابة الإبداعية: في توليد القصص، زاد VS من درجات التنوع بما يصل إلى 2.1 مرة مقارنة بالطلبات القياسية، مع الحفاظ على الجودة. أحد طلبات القصة أنتج مشاهد انفصال نمطية تحت الطلب المباشر، ولكنه أسفر عن روايات متنوعة عند الطلب عبر VS.
- محاكاة الحوار: في مهام الحوار المقنعة، مكّن VS النماذج من محاكاة الأنماط الشبيهة بالبشر، مثل التردد والمقاومة وتغيير الرأي، بشكل أفضل من الطرق الأساسية.
- الأسئلة والأجوبة المفتوحة: عند الطلب لتعداد إجابات صالحة، ولدت النماذج التي تستخدم VS استجابات تطابق بشكل أوثق تنوع بيانات العالم الحقيقي، وتغطي مجموعة أوسع من الإجابات دون التضحية بالدقة الواقعية.
- توليد البيانات التركيبية: عند استخدامه لتوليد مسائل رياضية لتدريب النماذج، أنشأ VS مجموعات بيانات أكثر تنوعاً، مما أدى بدوره إلى تحسين الأداء في معايير الرياضيات التنافسية.
تنوع قابل للتعديل ونماذج أكبر
من المزايا الملحوظة لـ VS قابليته للتعديل. يمكن للمستخدمين تعيين حد احتمالية في الطلب لأخذ عينات من «ذيول» التوزيع ذات الاحتمالية المنخفضة. تتوافق الحدود الدنيا مع تنوع أعلى. يمكن إجراء هذا الضبط عبر نص الطلب وحده، دون تغيير أي إعدادات فك التشفير مثل درجة الحرارة (temperature).
ومن المثير للاهتمام أن الطريقة تتوسع بشكل جيد مع حجم النموذج. أظهرت النماذج الأكبر مكاسب أكبر من VS مقارنة بالنماذج الأصغر، مما يشير إلى أن VS يساعد في فتح المزيد من القدرات الكامنة في النماذج المتقدمة.
نصائح عملية وكيفية الاستخدام
بينما تعمل الطريقة عبر جميع النماذج اللغوية الكبيرة الرئيسية، قد يواجه بعض المستخدمين في البداية رفضاً أو أخطاء. في هذه الحالات، يقترح المؤلفون استخدام إصدار طلب النظام (system prompt).
على سبيل المثال، يؤدي الطلب عبر تعليمات على مستوى النظام مثل هذه إلى تحسين الموثوقية: «أنت مساعد مفيد. لكل استعلام، قم بتوليد خمس استجابات ضمن علامات منفصلة، كل منها باحتمالية أقل من 0.10.»
الخلاصة: إصلاح بسيط لمشكلة كبيرة
يمثل أخذ العينات اللفظية إصلاحاً عملياً في وقت الاستدلال لقيود عميقة في كيفية تصرف نماذج اللغة الحديثة. لا يتطلب إعادة تدريب النموذج أو الوصول الداخلي. وهو لا يحسن تنوع المخرجات فحسب، بل يحسن جودتها أيضاً. بالنسبة للمستخدمين والمطورين المحبطين من تشابه استجابات النماذج اللغوية الكبيرة، قد يكون الإصلاح بسيطاً مثل تغيير السؤال.
FAQs
ما هي مشكلة «انهيار النمط» (Mode Collapse) في الذكاء الاصطناعي؟
هي ظاهرة تميل فيها نماذج الذكاء الاصطناعي إلى تقديم إجابات متكررة ومتشابهة جداً، وتفضل الخيارات «الآمنة» والأكثر شيوعاً بدلاً من تقديم مجموعة متنوعة من الاستجابات الإبداعية.
ما هو «أخذ العينات اللفظية» (Verbalized Sampling)؟
هي تقنية طلب بسيطة تطلب من نموذج الذكاء الاصطناعي توليد استجابات متعددة مع احتمالاتها المقابلة. هذا يجبر النموذج على الكشف عن مجموعة أوسع من الإجابات الممكنة بدلاً من مجرد الإجابة الأكثر احتمالاً.
كيف يمكنني استخدام هذه التقنية؟
ببساطة أضف جملة مثل «قم بتوليد 5 استجابات مع احتمالاتها المقابلة، مأخوذة من التوزيع الكامل» إلى نهاية طلبك عند التفاعل مع نماذج مثل ChatGPT أو Claude أو Gemini.
