قرر جو بريدوود، مؤسس تطبيق «يارا» (Yara AI) للعلاج بالذكاء الاصطناعي، إغلاق شركته بسبب مخاوف تتعلق بالسلامة. يرى بريدوود أن الذكاء الاصطناعي قد يكون مفيداً للضغوط اليومية، لكنه يصبح خطيراً عند التعامل مع الأشخاص الضعفاء أو الذين يمرون بأزمات نفسية حادة، مما يثير تساؤلات حول مستقبل الذكاء الاصطناعي في مجال الصحة العقلية.
محتويات المقالة:
- قرار الإغلاق: عندما يصبح الذكاء الاصطناعي خطيراً
- رحلة يارا القصيرة والتحديات الوجودية
- تزايد المخاوف وعوامل الخطر الخارجية
- الفرق الحاسم بين العافية والرعاية السريرية
- تناقض مع نهج OpenAI
- المستقبل: الشفافية والحاجة إلى نماذج أفضل
- أسئلة شائعة
قرار الإغلاق: عندما يصبح الذكاء الاصطناعي خطيراً
تهيمن المخاوف المتعلقة بالصحة العقلية المرتبطة باستخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي على العناوين الرئيسية. جو بريدوود، المدير التنفيذي في مجال التكنولوجيا الذي أطلق العام الماضي منصة «يارا»، اتخذ قراراً جريئاً بإغلاق شركته التي كانت تهدف إلى تقديم دعم نفسي قائم على الأدلة ومدرب من قبل خبراء.
كتب بريدوود على لينكدإن: «أوقفنا يارا لأننا أدركنا أننا نبني في مساحة مستحيلة. يمكن أن يكون الذكاء الاصطناعي رائعاً للتعامل مع الضغوط اليومية، أو مشاكل النوم، أو معالجة محادثة صعبة». وأضاف النقطة الحاسمة: «ولكن في اللحظة التي يتواصل فيها شخص ضعيف حقاً – شخص يمر بأزمة، أو شخص يعاني من صدمة عميقة، أو شخص يفكر في إنهاء حياته – يصبح الذكاء الاصطناعي خطيراً. ليس فقط غير كافٍ. بل خطير». واعترف قائلاً: «المخاطر أبقتني مستيقظاً طوال الليل».
رحلة يارا القصيرة والتحديات الوجودية
كانت يارا شركة ناشئة في مراحلها الأولى. بريدوود، وهو رائد أعمال متمرس، كان يأمل في استخدام التكنولوجيا لمعالجة النقص في الوصول إلى خدمات الصحة العقلية. قبل البدء، جمع فريقاً يضع الحذر والخبرة السريرية في جوهره، بما في ذلك شريكه المؤسس، عالم النفس السريري ريتشارد ستوت.
ومع ذلك، واجهت الشركة تحديات وجودية وتجارية تأثرت بمخاوف السلامة. قال بريدوود لمجلة فورتشن: «هل نشعر أن استخدام نماذج مدربة على كل فوضى الإنترنت، ثم تدريبها لاحقاً للتصرف بطريقة معينة، هو الهيكل الصحيح لشيء يمكن أن يساهم في أن نصبح أفضل نسخة من أنفسنا أو أسوأها؟ هذه مشكلة كبيرة، وكانت أكبر من أن تتمكن شركة ناشئة صغيرة من معالجتها بمفردها».
تزايد المخاوف وعوامل الخطر الخارجية
على الرغم من عدم حدوث أي شيء مثير للقلق مع يارا على وجه التحديد، إلا أن مخاوف بريدوود نمت بسبب عوامل خارجية. كان هناك انتحار آدم راين البالغ من العمر 16 عاماً، الذي يزعم والداه أن ChatGPT «دربه» على الانتحار (وهو ما تنفيه OpenAI). كما كانت هناك تقارير متزايدة حول ظهور «ذهان الذكاء الاصطناعي».
كما أشار بريدوود إلى ورقة نشرتها شركة Anthropic لاحظت فيها أن النماذج المتقدمة «تزيف التوافق»، مما يعني أنها قد تتظاهر بالتعاطف أو الدعم بينما تقوم داخلياً بتقييمات مختلفة. هذا الاكتشاف كان «مزعجاً بعض الشيء» لبريدوود.
العوامل التنظيمية لعبت دوراً أيضاً، مثل قانون إلينوي الذي صدر في أغسطس، والذي يحظر استخدام الذكاء الاصطناعي للعلاج. كانت القشة الأخيرة عندما كشفت OpenAI أن أكثر من مليون شخص يعبرون عن أفكار انتحارية لـ ChatGPT كل أسبوع. عند سماع ذلك، قال بريدوود: «لقد انتهيت».
الفرق الحاسم بين العافية والرعاية السريرية
أهم اكتشاف للفريق هو التمييز الحاسم بين «العافية» (Wellness) و«الرعاية السريرية» (Clinical Care). هناك فرق كبير بين شخص يبحث عن دعم للضغوط اليومية وشخص يتعامل مع صدمة خطيرة.
المشكلة هي أن الخط الفاصل ليس واضحاً دائماً، وليس كل من يعاني يدرك تماماً حالته العقلية. يمكن لأي شخص أن ينتقل من حالة عافية إلى أزمة بسرعة. النماذج الحالية، المبنية على بنية المحولات (Transformer)، ليست جيدة في المراقبة طويلة المدى، مما يجعلها غير مجهزة لرصد العلامات الدقيقة للتدهور التي تتراكم بمرور الوقت.
تناقض مع نهج OpenAI
يتناقض قرار يارا مع تصريحات سام ألتمان، الرئيس التنفيذي لشركة OpenAI، الذي قال مؤخراً إن الشركة خففت من حدة المشكلات الخطيرة المتعلقة بالصحة العقلية وستخفف القيود على استخدام نماذج الذكاء الاصطناعي، مدافعاً عن منح البالغين غير المعرضين للخطر حرية كبيرة في استخدام ChatGPT. ومع ذلك، كما خلص بريدوود بعد وقته في العمل على يارا، فإن هذه الخطوط الفاصلة بين من هو معرض للخطر ومن ليس كذلك ليست واضحة على الإطلاق.
المستقبل: الشفافية والحاجة إلى نماذج أفضل
عند إغلاق الشركة، قام بريدوود بفتح مصدر التكنولوجيا التي بناها لفرض حواجز حماية أكثر صرامة على روبوتات الدردشة الشائعة، معترفاً بأن الناس يلجأون إليها بالفعل للعلاج. لا يزال متفائلاً بشأن إمكانات الذكاء الاصطناعي لدعم الصحة العقلية، لكنه يعتقد أنه من الأفضل أن يديرها نظام صحي أو منظمة غير ربحية بدلاً من شركة استهلاكية. الآن، يعمل على مشروع جديد يركز على تحقيق الشفافية في سلامة الذكاء الاصطناعي، وهي قضية يعتقد أنها أساسية لجعل الذكاء الاصطناعي آمناً حقاً.
أسئلة شائعة
لماذا أغلق تطبيق يارا للعلاج بالذكاء الاصطناعي؟
تم إغلاقه بسبب مخاوف تتعلق بالسلامة، حيث أدرك المؤسسون أن الذكاء الاصطناعي يمكن أن يكون خطيراً وغير كافٍ عند التعامل مع الأشخاص الذين يمرون بأزمات نفسية حادة أو لديهم ميول انتحارية.
هل الذكاء الاصطناعي آمن للاستخدام في الصحة العقلية؟
قد يكون مفيداً للضغوط اليومية ومشاكل العافية البسيطة (Wellness)، لكنه غير مناسب للرعاية السريرية أو التعامل مع الحالات المعقدة والهشة، حيث يفتقر إلى القدرة على المراقبة الدقيقة والتعامل مع الأزمات.
ما هي المخاطر الرئيسية لاستخدام الذكاء الاصطناعي في العلاج؟
تشمل المخاطر الفشل في التعرف على علامات الخطر الحقيقية، وتقديم نصائح ضارة، وعدم القدرة على التمييز بين العافية والأزمة السريرية، واحتمالية «تزييف التعاطف» من قبل النماذج.
