Si odias la idea de que tu información se utilice para entrenar inteligencia artificial, te gustará la modificación sutil pero vital que Apple acaba de realizar en la App Store de iOS. En un movimiento destinado a mejorar la privacidad del usuario, las empresas de inteligencia artificial ahora tendrán que buscar datos de entrenamiento en otra parte, al menos dentro del ecosistema de Apple.
Contenido del artículo:
- Nuevas directrices: permiso explícito obligatorio
- Directrices estrictas y obligatorias
- La postura escéptica de Apple ante la inteligencia artificial
- La controversia sobre las fuentes de datos de entrenamiento
- Batallas legales y bibliotecas sombra
- Impacto en desarrolladores y usuarios
- Preguntas frecuentes
Nuevas directrices: permiso explícito obligatorio
La compañía indicó a los desarrolladores de aplicaciones: «Debe revelar claramente dónde se compartirán los datos personales con terceros, incluso con inteligencia artificial de terceros», añadiendo que todas las aplicaciones deben «obtener un permiso explícito antes de hacerlo».
Este lenguaje actualizado, que constituye la primera directriz de Apple sobre la inteligencia artificial de terceros, forma parte de un documento denominado «Directrices de revisión de aplicaciones» (App Review Guidelines). Esta actualización marca la primera vez que se menciona la inteligencia artificial en dichas directrices.
Directrices estrictas y obligatorias
La introducción del documento aclara que el cumplimiento de estas directrices es totalmente obligatorio. Apple señala a los desarrolladores: «Rechazaremos las aplicaciones por cualquier contenido o comportamiento que consideremos que cruza la línea». Y añade en un tono firme citando a un juez del Tribunal Supremo: «¿Cuál es la línea, preguntas? Bueno, “la reconoceré cuando la vea”. Y creemos que tú también la reconocerás cuando la cruces». Este enfoque estricto subraya el compromiso de Apple por mantener el control de su ecosistema y proteger a sus usuarios.
La postura escéptica de Apple ante la inteligencia artificial
Apple, bajo el liderazgo del director ejecutivo Tim Cook, ha sido durante mucho tiempo muy escéptica respecto a la inteligencia artificial, lenta a la hora de integrar funciones de inteligencia artificial en su asistente de voz Siri y, a veces, reacia incluso a utilizar el término «inteligencia artificial». Cook ha preferido utilizar el término equivalente «aprendizaje automático» (machine learning) en discursos principales anteriores. Esta última actualización se alinea con el enfoque de Apple que prioriza la privacidad.
La controversia sobre las fuentes de datos de entrenamiento
La obtención de datos para entrenar modelos de inteligencia artificial se ha convertido en una de las actividades más polémicas desde el punto de vista legal en Silicon Valley. Empresas como OpenAI se enfrentan a demandas que afirman que han infringido los derechos de autor al entrenar y operar sus sistemas de inteligencia artificial.
Los modelos de inteligencia artificial generativa dependen de cantidades masivas de datos para aprender a crear contenido nuevo. Estos datos se recopilan frecuentemente de internet, lo que genera preocupación en torno a la privacidad y los derechos de propiedad intelectual.
Batallas legales y bibliotecas sombra
Incluso Apple, considerada rezagada en el ámbito de la inteligencia artificial y que según los informes utilizará Google Gemini para impulsar Siri próximamente, no es inmune a estos desafíos legales.
El mes pasado se presentaron dos demandas que afirman que Apple utilizó indebidamente el trabajo ajeno para entrenar su propia inteligencia artificial. En expedientes separados, dos neurocientíficos y autores afirmaron que la empresa de Cook utilizó datos de «bibliotecas sombra» o contenido pirateado disponible en internet.
Si bien aún se espera la respuesta de Apple, el panorama legal no parece muy prometedor para la compañía. La gigante de la inteligencia artificial Anthropic llegó a un acuerdo en septiembre por valor de 1.500 millones de dólares en una demanda colectiva relacionada con el uso de una biblioteca sombra.
Impacto en desarrolladores y usuarios
Estas nuevas directrices imponen una carga adicional a los desarrolladores de aplicaciones para que sean totalmente transparentes acerca de sus prácticas de datos. Esto podría limitar la capacidad de ciertas aplicaciones para recopilar fácilmente datos destinados a entrenar sus propios modelos de inteligencia artificial o compartirlos con socios externos.
Para los usuarios, esto representa una victoria para la privacidad. Apple ahora puede afirmar legítimamente que protege a sus usuarios de la recopilación de datos de inteligencia artificial dentro de sus aplicaciones, otorgando a los usuarios un mayor control sobre cómo se utiliza su información personal.
Preguntas frecuentes
¿Qué cambio ha realizado Apple en las directrices de la App Store?
Apple ha obligado a los desarrolladores a revelar claramente el intercambio de datos personales con inteligencia artificial de terceros y a solicitar el permiso explícito del usuario antes de hacerlo.
¿Por qué ha realizado Apple este cambio?
Para mejorar la privacidad del usuario y ofrecerle un mayor control sobre sus datos, ante la creciente preocupación sobre cómo las empresas de inteligencia artificial utilizan la información personal para entrenar sus modelos.
¿Deben los desarrolladores cumplir con estas normas?
Sí, el cumplimiento es obligatorio. Apple puede rechazar aquellas aplicaciones que no sigan las nuevas directrices de revisión de aplicaciones.
