En su esfuerzo más reciente por responder a las crecientes preocupaciones, OpenAI ha actualizado sus estrictas directrices sobre cómo los modelos de inteligencia artificial deben interactuar con usuarios menores de 18 años. Este paso se da en medio de serios interrogantes sobre el éxito real de estas políticas en la protección de los adolescentes en el mundo físico.
Contenido del artículo:
- Introducción
- Mayor escrutinio y presión legal
- Nuevas directrices del modelo
- Límites estrictos para adolescentes
- Cuatro principios de seguridad
- Reacciones de los expertos
- Moderación en tiempo real
- Anticiparse a la legislación futura
- Conclusión
- Preguntas frecuentes
Introducción
La industria de la inteligencia artificial en general, y OpenAI en particular, enfrentan una creciente ola de escrutinio por parte de los legisladores, educadores y defensores de la seguridad infantil. Este interés se ha intensificado tras trágicos informes sobre la muerte de varios adolescentes por suicidio tras entablar conversaciones largas y complejas con chatbots impulsados por inteligencia artificial.
La Generación Z, que incluye a los nacidos entre 1997 y 2012, es el segmento que hace un uso más activo del chatbot de OpenAI. Con el reciente acuerdo alcanzado por la empresa con Disney, se espera que más usuarios jóvenes se sumen a la plataforma, la cual les permite realizar desde tareas escolares hasta generar imágenes y videos.
Mayor escrutinio y presión legal
La semana pasada, 42 fiscales generales en Estados Unidos firmaron una carta dirigida a las grandes empresas tecnológicas, instándolas a implementar medidas de protección sólidas en los chatbots para salvaguardar a los niños y a los grupos vulnerables. Mientras la administración Trump redacta la norma federal para la regulación de la inteligencia artificial, legisladores como el senador Josh Hawley han presentado iniciativas que podrían llegar a prohibir por completo la interacción de los menores con los chatbots.
Nuevas directrices del modelo
OpenAI ha actualizado su documento “Model Spec” (Especificación del modelo), que establece las reglas de comportamiento para sus modelos de lenguaje grande. Estas actualizaciones se basan en las especificaciones existentes que prohíben la generación de contenido sexual que involucre a menores o la promoción de la autolesión. La empresa explicó que estas normas funcionarán junto con un próximo modelo de predicción de edad (Age-Prediction Model), el cual determinará automáticamente si una cuenta pertenece a un usuario menor de edad para activar las salvaguardas de seguridad adecuadas.
Límites estrictos para adolescentes
En comparación con los usuarios adultos, los modelos estarán sujetos a reglas mucho más estrictas cuando sean utilizados por un adolescente. Se ha instruido a los modelos para evitar los “juegos de rol románticos inmersivos”, la intimidad en primera persona y los juegos de rol sexuales o violentos, incluso cuando no sean explícitos o gráficos.
Las especificaciones también exigen una extrema precaución en temas sensibles como la imagen corporal y los trastornos alimentarios, instruyendo a los modelos a priorizar la comunicación sobre la seguridad en lugar de la libertad del usuario cuando exista un riesgo potencial de daño, y a evitar ofrecer consejos que puedan ayudar a los adolescentes a ocultar conductas inseguras de sus padres.
Cuatro principios de seguridad
OpenAI señala que las principales prácticas de seguridad para adolescentes se sustentan en cuatro principios fundamentales:
- Poner la seguridad de los adolescentes en primer lugar: Incluso cuando otros intereses de los usuarios, como la “libertad intelectual absoluta”, entren en conflicto con las preocupaciones de seguridad.
- Fomentar el apoyo en el mundo real: Orientar a los adolescentes hacia la familia, los amigos y los profesionales locales para obtener apoyo psicológico.
- Respeto y ausencia de condescendencia: Tratar a los adolescentes con calidez y respeto, evitando hablarles con un tono condescendiente o tratarlos como adultos.
- Transparencia y claridad: Explicar lo que el asistente puede y no puede hacer, y recordar constantemente a los adolescentes que es una inteligencia artificial y no un ser humano.
Reacciones de los expertos
Lily Li, abogada especializada en privacidad e inteligencia artificial, aplaudió estas medidas y afirmó que resulta alentador ver que el bot se niega a participar en comportamientos dañinos. Sin embargo, otros expertos señalaron que “las acciones hablan más que las palabras”. Steven Adler, exinvestigador de seguridad en OpenAI, enfatizó que las intenciones siguen siendo solo palabras a menos que la empresa mida los comportamientos reales del sistema.
También se suscitaron inquietudes en torno al fenómeno de la “adulación” (Sycophancy), donde la inteligencia artificial tiende a estar excesivamente de acuerdo con el usuario, lo que podría reforzar sentimientos negativos en los adolescentes, tal como ocurrió en casos anteriores de jóvenes que sufrieron problemas de salud mental agravados por conversaciones con el bot.
Moderación en tiempo real
OpenAI utiliza ahora clasificadores automatizados para evaluar contenido de texto, visual y de audio en tiempo real. Estos sistemas están diseñados para detectar y bloquear contenido relacionado con la explotación infantil, filtrar temas delicados e identificar conductas de autolesión. En los casos en que el sistema detecta una amenaza grave para la seguridad, un equipo humano revisa el contenido y se puede notificar a los padres.
Anticiparse a la legislación futura
Los expertos consideran que estas directrices preparan a OpenAI para adelantarse a la legislación venidera, como la ley “SB 243” de California, que entrará en vigor en 2027. El nuevo texto en las especificaciones del modelo refleja algunos de los requisitos principales de la ley, lo que apunta a un intento de la compañía por regularse a sí misma antes de que las normativas gubernamentales impongan restricciones más severas.
Conclusión
Estas nuevas normas representan un paso importante hacia un entorno digital más seguro para los adolescentes, pero la prueba de fuego estará en su implementación. OpenAI tendrá que demostrar que sus sistemas son verdaderamente capaces de diferenciar y proteger a los usuarios vulnerables sin depender únicamente de promesas teóricas.
Preguntas frecuentes
Pregunta: ¿Cuáles son las nuevas reglas para los adolescentes en ChatGPT?
Respuesta: Las nuevas reglas prohíben que el bot participe en juegos de rol románticos o violentos, y establecen restricciones estrictas sobre temas de autolesión e imagen corporal.
Pregunta: ¿Cómo sabe OpenAI que un usuario es adolescente?
Respuesta: La compañía está desarrollando una tecnología de “predicción de edad” para identificar automáticamente a los menores y activar la configuración de seguridad adecuada para ellos.
Pregunta: ¿Se notificará a los padres sobre la actividad de sus hijos?
Respuesta: Las políticas señalan que, en casos donde se detecte una amenaza grave a la seguridad o un “malestar grave”, se podrá notificar a los padres tras una revisión humana.
Palabra clave: seguridad de los adolescentes en la inteligencia artificial
