openai ha suspendido la generación de imágenes y videos del líder de los derechos civiles martin luther king jr. utilizando su herramienta sora, después de que los usuarios crearan videos «irrespetuosos» mediante deepfakes. este cambio representa un enfoque más cauteloso por parte de la empresa, que ahora permitirá a las figuras públicas controlar cómo se utilizan sus imágenes.
- el debate sobre los deepfakes y las figuras históricas
- decisión de openai: suspensión de la generación de imágenes de martin luther king
- contenido ofensivo y quejas
- cambio de política: un enfoque más cauteloso
- sora y las preocupaciones sobre la desinformación
- quejas de celebridades: zelda williams y scarlett johansson
- equilibrio ético: libertad de expresión frente a los derechos de imagen
- faqs
el debate sobre los deepfakes y las figuras históricas
la inteligencia artificial generativa sigue generando controversia sobre los límites éticos y legales del uso de imágenes de figuras públicas e históricas. en un avance significativo, openai, líder en este campo, ha tomado una medida importante para abordar las crecientes preocupaciones sobre el uso indebido de sus herramientas para crear contenido falso y ofensivo.
decisión de openai: suspensión de la generación de imágenes de martin luther king
openai anunció que ha suspendido temporalmente la capacidad de generar imágenes y videos del líder de los derechos civiles martin luther king jr., después de que los usuarios crearan videos «irrespetuosos» mediante la tecnología de deepfake utilizando su herramienta de inteligencia artificial, sora.
la compañía declaró en un comunicado publicado en la plataforma x: «si bien existen fuertes intereses de libertad de expresión en la representación de figuras históricas, openai cree que las figuras públicas y sus familias deben tener en última instancia el control sobre cómo se utilizan sus imágenes».
contenido ofensivo y quejas
openai señaló que tomó esta medida tras recibir quejas de la fundación king. la empresa explicó que «algunos usuarios crearon imágenes ofensivas de la imagen del dr. king». uno de los videos falsos publicados muestra a king maldiciendo durante su famoso discurso «tengo un sueño».
un portavoz de la fundación king confirmó que solicitaron el cambio, pero declinó hacer más comentarios.
cambio de política: un enfoque más cauteloso
este cambio de política representa un tono más cauteloso por parte de openai tras un enfoque que se consideraba algo permisivo hacia la representación de celebridades y la propiedad intelectual. openai añadió que otras figuras prominentes y sus representantes podrán optar por no aparecer en los videos de sora.
sora y las preocupaciones sobre la desinformación
la empresa lanzó la herramienta sora el año pasado, la cual genera videos de aspecto realista en respuesta a peticiones de texto. el lanzamiento abrió un nuevo frente en la creatividad de la inteligencia artificial, pero también suscitó inquietudes sobre la desinformación y el contenido de baja calidad generado por ia. en septiembre, la compañía lanzó una aplicación social independiente para compartir videos de sora.
quejas de celebridades: zelda williams y scarlett johansson
esta no es la primera vez que openai se enfrenta a una reacción violenta por el uso de imágenes de celebridades. zelda williams, hija del fallecido actor robin williams, se quejó públicamente de que los fans enviaran videos generados por inteligencia artificial de su padre, describiendo el material como «contenido basura de tiktok» en una publicación de instagram a principios de este mes.
bernice king, hija de martin luther king jr., comentó «estoy de acuerdo» en respuesta a los informes sobre las declaraciones de zelda williams en la plataforma x.
el año pasado, openai retiró una voz de inteligencia artificial llamada «sky» de sus ofertas después de que la actriz scarlett johansson se quejara de que era «inquietantemente similar» a su propia voz. johansson había rechazado previamente una solicitud del director ejecutivo de la empresa, sam altman, para prestar su voz a la función de audio.
equilibrio ético: libertad de expresión frente a los derechos de imagen
esta decisión destaca el desafío continuo al que se enfrentan las empresas de inteligencia artificial para equilibrar la promoción de la innovación y la libertad de expresión con la protección de las personas frente al uso indebido potencial de sus imágenes, especialmente en una era en la que se pueden crear fácilmente videos falsos convincentes. otorgar control a las figuras públicas y a sus familias es un paso hacia la resolución de estas complejas preocupaciones éticas.
faqs
¿por qué openai detuvo la generación de imágenes de martin luther king jr.?
debido a que algunos usuarios crearon videos falsos (deepfakes) ofensivos e irrespetuosos utilizando la herramienta sora, y tras recibir quejas de la fundación king.
¿cuál es el cambio en la política de openai?
la empresa adoptó un enfoque más cauteloso, afirmando que las figuras públicas y sus familias deben tener el control sobre cómo se utilizan sus imágenes, y les permitirá optar por no aparecer en los videos de sora.
¿qué es la herramienta sora?
es una herramienta de inteligencia artificial desarrollada por openai que genera videos de aspecto realista basados en descripciones de texto simples.
