En anuncios contradictorios, OpenAI planea lanzar una nueva versión de su generador de video Sora que utilizará material protegido por derechos de autor a menos que los propietarios opten por excluirse, al tiempo que introduce nuevas herramientas de control parental para ChatGPT en respuesta a las preocupaciones sobre la seguridad de los adolescentes.
Contenido del artículo:
- Anuncios contradictorios del gigante de la inteligencia artificial
- Sora y la polémica política de derechos de autor
- ChatGPT responde a las preocupaciones: introducción de herramientas de control parental
- ¿Cómo funcionan las nuevas herramientas de control?
- Contexto y presión pública: ¿por qué ahora?
- Limitaciones y próximos pasos: ¿son suficientes?
- Un difícil equilibrio entre innovación y responsabilidad
- Preguntas frecuentes
Anuncios contradictorios del gigante de la inteligencia artificial
OpenAI anunció dos actualizaciones clave el lunes, poniendo de relieve los dobles retos a los que se enfrenta la empresa: impulsar los límites de la innovación tecnológica y abordar la creciente preocupación por la seguridad y la responsabilidad ética. Por un lado, la empresa planea un enfoque controvertido sobre los derechos de autor con su generador de video Sora y, por otro, toma medidas para abordar la seguridad de los usuarios más jóvenes en ChatGPT.
Sora y la polémica política de derechos de autor
The Wall Street Journal informó el lunes que OpenAI planea lanzar una nueva versión de su revolucionario generador de video Sora que crea videos con material protegido por derechos de autor, a menos que los titulares de los derechos decidan explícitamente excluirse del uso de sus obras. Este enfoque, conocido como exclusión voluntaria («opt-out»), transfiere la carga de la protección de contenidos a los creadores en lugar de recaer sobre la empresa, lo que genera indignación en muchas industrias creativas que consideran que sus obras se utilizan para entrenar modelos comerciales de inteligencia artificial sin consentimiento ni compensación.
ChatGPT responde a las preocupaciones: introducción de herramientas de control parental
Al mismo tiempo, OpenAI anunció nuevas herramientas de control parental destinadas a ayudar a proteger a los jóvenes que interactúan con su programa de inteligencia artificial generativa. Este anuncio se produce cuando OpenAI, que técnicamente permite registrarse a usuarios de tan solo 13 años, se enfrenta a una creciente presión pública para priorizar la seguridad de ChatGPT en el caso de los adolescentes. (OpenAI afirma en su sitio web que exige a los usuarios de entre 13 y 18 años obtener el consentimiento de sus padres antes de utilizar ChatGPT).
¿Cómo funcionan las nuevas herramientas de control?
Los nuevos controles de OpenAI permitirán a los padres vincular sus cuentas de ChatGPT con las de sus hijos adolescentes y «personalizar la configuración para disfrutar de una experiencia segura y adecuada para su edad». De este modo, determinados tipos de contenido se restringen automáticamente en la cuenta vinculada del adolescente, incluidos contenidos gráficos, desafíos virales, juegos de rol «de naturaleza sexual, romántica o violenta» y «estándares de belleza extremos». Además, los padres pueden optar por recibir una notificación de OpenAI si su hijo muestra posibles indicios de autolesión mientras interactúa con ChatGPT.
Contexto y presión pública: ¿por qué ahora?
Esta medida llega después de que la empresa con sede en California se comprometiera en agosto a implementar cambios en su producto estrella tras enfrentarse a una demanda por homicidio culposo presentada por los padres de un joven de 16 años, quienes alegaron que el chatbot empujó a su hijo al suicidio. Asimismo, la Comisión Federal de Comercio (FTC) ha iniciado una investigación a varias empresas de inteligencia artificial, entre ellas OpenAI, sobre los posibles perjuicios para los menores y niños que utilizan sus chatbots como compañeros.
Limitaciones y próximos pasos: ¿son suficientes?
OpenAI señaló el lunes que, aunque las medidas de protección ayudan, «no son infalibles y pueden ser eludidas si alguien intenta deliberadamente burlarlas». Las personas pueden utilizar ChatGPT sin crear una cuenta, y las herramientas de control parental y los límites automáticos de contenido solo funcionan si los usuarios han iniciado sesión. La empresa indicó: «Seguiremos iterando y mejorando cuidadosamente con el tiempo. Recomendamos a los padres que hablen con sus hijos adolescentes sobre el uso saludable de la inteligencia artificial y lo que eso significa para sus familias».
Un difícil equilibrio entre innovación y responsabilidad
Estos dobles anuncios ponen de manifiesto la compleja posición en la que se encuentra OpenAI. Mientras se esfuerza por estar a la vanguardia de la innovación en inteligencia artificial, lo que puede requerir un enfoque audaz (y controvertido) hacia los datos, también se enfrenta a un escrutinio cada vez mayor por parte del público y los reguladores para garantizar que sus tecnologías sean seguras y responsables. Encontrar el equilibrio adecuado entre estos dos objetivos será el mayor reto de la compañía en los próximos años.
Preguntas frecuentes
P1: ¿Qué es el generador de video Sora?
R1: Sora es un modelo avanzado de inteligencia artificial de OpenAI capaz de generar videos realistas e imaginativos de alta calidad a partir de sencillas instrucciones de texto. Está considerado como uno de los modelos de texto a video más potentes hasta la fecha.
P2: ¿Cuál es el problema con la política de exclusión voluntaria («opt-out»)?
R2: Los creadores argumentan que la política de exclusión voluntaria asume el consentimiento automático y les impone una carga injusta para rastrear y exigir a cada empresa de inteligencia artificial que no utilice sus obras. Prefieren un modelo de consentimiento previo («opt-in») en el que las empresas deban obtener un permiso explícito antes de utilizar el contenido.
P3: ¿Puedo utilizar las herramientas de control parental en una cuenta gratuita de ChatGPT?
R3: Sí, OpenAI ha indicado que las funciones de control estarán disponibles para todos los usuarios de ChatGPT que dispongan de una cuenta, independientemente de si están suscritos a un plan de pago o no.
