Apple introdujo modificaciones cruciales en las directrices de revisión de su App Store el viernes 16 de octubre para obligar a los desarrolladores a prevenir y eliminar imágenes íntimas no consentidas generadas por inteligencia artificial. La compañía también endureció sus sanciones contra las aplicaciones engañosas que ocultan sus funciones dañinas durante la revisión oficial y las revelan tras obtener la aprobación.
Actualizaciones cruciales en las directrices de la App Store de Apple
La regla 2.5.19 y la lucha contra el cifrado de código ofuscado
Crecientes presiones regulatorias e investigaciones sobre promoción publicitaria
Resultado de la aplicación de las normas y cierre de cuentas de desarrolladores infractores
Preguntas frecuentes
Actualizaciones cruciales en las directrices de la App Store de Apple
Apple introdujo modificaciones sustanciales y estrictas en el documento de «Directrices de revisión de aplicaciones» para su tienda digital el viernes 16 de octubre. Las normas actualizadas aclaran de manera contundente que todas las aplicaciones están obligadas a tomar medidas activas y eficaces para prevenir y eliminar cualquier imagen íntima no consentida, incluidas aquellas fotos y clips creados o modificados mediante herramientas de inteligencia artificial generativa. La compañía también intensificó sus controles reglamentarios contra las aplicaciones de «anzuelo y engaño» que superan con éxito el proceso de revisión inicial y revelan posteriormente funciones ocultas a los usuarios.
Estos estrictos cambios regulatorios llegan tras un año completo de sucesivos informes de investigación que revelaron cómo decenas de aplicaciones de «desnudez» respaldadas por IA lograron eludir el sistema de inspección y revisión de Apple. El anuncio oficial dirigido a los desarrolladores indicó que los requisitos de moderación de contenido bajo la regla 1.2 «ahora cubren explícitamente las imágenes íntimas no consentidas, incluidas las generadas mediante herramientas de inteligencia artificial», y la nueva redacción, según el sitio web 9to5Mac, abarca a cualquier aplicación que permita a los usuarios «crear, generar, cargar, compartir o contribuir de cualquier forma al contenido».
La regla 2.5.19 y la lucha contra el cifrado de código ofuscado
Apple advirtió que los desarrolladores que carezcan de garantías técnicas suficientes o aquellos que no aborden las infracciones detectadas inmediatamente después de recibir una notificación oficial se enfrentan al riesgo de incumplir el código de conducta de los desarrolladores y perder definitivamente su lugar en la App Store. Además, la compañía introdujo la nueva regla 2.5.19, que establece expresamente que se prohíbe a las aplicaciones incluir «cualquier función oculta, inactiva o no documentada».
La nueva regla añade que intentar ocultar tales características dentro del archivo ejecutable de la aplicación «mediante la ofuscación de código u otros métodos técnicos» constituye un motivo directo para la eliminación inmediata de la aplicación y el cierre permanente de la cuenta del desarrollador. Apple explicó que esta nueva regla busca aclarar y consolidar una política de larga data que anteriormente se englobaba en la regla 2.3.1, mientras que la plataforma tecnológica Techie señaló que la mención explícita al término ofuscación de código no estaba presente en la versión de las directrices publicada el 11 أكتوبر (11 de octubre).
Según un informe del sitio web MacRumors, la empresa vinculó esta nueva regla a las aplicaciones que «no revelan sus capacidades dañinas, como la desnudez digital, hasta después de obtener la aprobación oficial». Asimismo, Apple actualizó la Sección 5 de las directrices para confirmar que las aplicaciones que faciliten la trata de personas o la explotación infantil, incluidos los materiales de abuso sexual infantil, «serán eliminadas de la App Store y bloqueadas por completo de los canales de distribución alternativos».
Crecientes presiones regulatorias e investigaciones sobre promoción publicitaria
La medida de Apple se produjo como respuesta a las crecientes presiones regulatorias y mediáticas. En enero pasado, la organización Tech Transparency Project detectó la presencia de decenas de aplicaciones especializadas en desnudez por inteligencia artificial dentro de la App Store. En abril, un informe de seguimiento de investigación reveló que las sugerencias de búsqueda automática y los anuncios promocionales dentro de la propia tienda de Apple dirigían a los usuarios hacia la descarga de esas aplicaciones sospechosas.
En julio, los funcionarios de la ciudad de San Francisco emitieron una orden formal que obligaba a Apple a retirar 8 aplicaciones implicadas en estas prácticas. Tras la publicación de un informe que acusaba a Apple y a Google de promocionar dichas aplicaciones, Apple declaró a CNET que había retirado 15 aplicaciones denunciadas y emitido advertencias formales a otros 6 desarrolladores. La compañía también enfrentó demandas para retirar las aplicaciones X y Grok de su tienda tras el uso de la herramienta Grok para generar imágenes de contenido sexual de mujeres y menores de edad.
Resultado de la aplicación de las normas y cierre de cuentas de desarrolladores infractores
En defensa de su historial de supervisión, Apple anunció que logró evitar que más de 150 000 aplicaciones con problemas de seguridad y protección llegaran a los dispositivos de los clientes solo durante el último año, y cerró y canceló más de 193 000 cuentas de desarrolladores por incurrir en fraudes y violaciones graves.
La compañía culpó de la filtración de algunas aplicaciones infractoras a «actores maliciosos y, en algunos casos, a operaciones de fraude coordinadas» que recurren a métodos tortuosos para ocultar contenido dañino hasta después de que la aplicación supere la fase de revisión y aprobación. Apple concluyó su declaración con una firme afirmación: «No dudamos en eliminar aplicaciones ni en cancelar las cuentas de los desarrolladores que están detrás de ellas cuando infringen estas directrices».
Preguntas frecuentes
Pregunta: ¿Qué ha cambiado en la regla 1.2 de las directrices de revisión de la App Store de Apple?
Respuesta: La regla 1.2 ahora abarca explícitamente las imágenes íntimas no consentidas, incluidas las generadas mediante herramientas de inteligencia artificial, y obliga a las aplicaciones que permiten crear o compartir contenido a implementar garantías estrictas para prevenirlas.
Pregunta: ¿Qué establece la nueva regla 2.5.19 añadida por Apple?
Respuesta: La regla 2.5.19 prohíbe incluir funciones ocultas, inactivas o no documentadas mediante la ofuscación de código, y estipula la eliminación inmediata de la aplicación y la cancelación de la cuenta del desarrollador infractor.
Pregunta: ¿Cuántas aplicaciones y cuentas de desarrolladores suspendió Apple durante el año pasado?
Respuesta: Apple anunció que bloqueó el acceso de más de 150 000 aplicaciones con problemas de seguridad a los usuarios y cerró más de 193 000 cuentas de desarrolladores debido a fraudes e infracciones.
Pregunta: ¿Cuál es la sanción establecida en la Sección 5 para las aplicaciones implicadas en la explotación infantil?
Respuesta: La actualización de la Sección 5 establece la eliminación de cualquier aplicación que facilite la trata de personas o la explotación infantil de la App Store y su prohibición definitiva en los canales de distribución alternativos.
