Un paso audaz en Europa prohíbe la inteligencia artificial para supervisar las emociones de empleados y usuarios, con el objetivo de garantizar la privacidad de las personas en la era de la inteligencia artificial.
El mundo experimenta recientemente un avance acelerado en las tecnologías de inteligencia artificial, lo que ha llevado a los países y a las instituciones internacionales a reconsiderar sus leyes y normativas de control. En una medida considerada la primera de su tipo, la Unión Europea aprobó una prohibición explícita del uso de sistemas de inteligencia artificial que supervisan las emociones de las personas en entornos laborales y servicios en línea. Esta decisión se adoptó en el marco de la Ley de Inteligencia Artificial, que busca proteger a las personas contra la discriminación, los prejuicios y la explotación basada en el análisis de emociones.
Antecedentes de la legislación europea
Los antecedentes de la promulgación de la nueva ley se remontan al año pasado, cuando la Comisión Europea propuso un proyecto integral para regular el uso de la inteligencia artificial en diversos ámbitos. Tras amplias discusiones entre los Estados miembros y los expertos, se ratificó un conjunto de normas vinculantes que entrarán en vigor el 2 de agosto. Estas reglas pretenden poner un límite claro a las tecnologías que puedan vulnerar la privacidad de las personas, afectar su libertad para tomar decisiones o impulsarlas a gastar dinero mediante métodos engañosos.
La Unión Europea procura ofrecer la denominada «seguridad jurídica», de modo que los desarrolladores y las empresas de tecnología de inteligencia artificial sepan qué está permitido y qué está prohibido antes de comercializar sus servicios en el mercado europeo. Aunque la ley en sí no se considera directamente vinculante en todos sus aspectos, allana el camino para legislaciones nacionales en cada Estado miembro, preparando el terreno para imponer sanciones a los infractores.
Lea también: Oportunidad de oro: ¿aprovechará Europa el auge de DeepSeek para acortar distancias con EE. UU.?
Prohibición de prácticas específicas
El reglamento europeo incluye la prohibición de ciertas aplicaciones dirigidas a sectores vulnerables de la sociedad, como las personas mayores, las personas con discapacidad y aquellos individuos que atraviesan situaciones sociales difíciles. La lista también abarca los «patrones oscuros», que son diseños engañosos en interfaces de sitios web y aplicaciones electrónicas que inducen a los usuarios a realizar transacciones financieras cuantiosas sin plena conciencia. Asimismo, se prohíbe el uso de sistemas de calificación social basados en información no relacionada con el contexto, como el origen étnico, la situación social o la nacionalidad.
En el mismo sentido, se prohíbe a los empleadores utilizar tecnologías de reconocimiento facial o análisis del tono de voz para vigilar a sus empleados con el fin de medir sus emociones o evaluar su estado psicológico. El reglamento también impone restricciones estrictas a la instalación de cámaras de seguridad equipadas con software de reconocimiento facial en lugares públicos, salvo en casos específicos que atiendan a la seguridad pública y bajo estrictas garantías legales.
Multas y responsabilidades
Las normas estipulan la obligación de designar autoridades nacionales de vigilancia y supervisión para garantizar que las empresas y los sitios web cumplan con estas nuevas normas a más tardar el 2 de agosto. En caso de comprobarse infracciones graves, las multas podrían oscilar entre el 1,5 y el 7 por ciento de los ingresos globales totales de las empresas infractoras, lo que constituye un fuerte elemento disuasorio para cumplir con los estándares anunciados.
Impacto de estas legislaciones en las empresas
Las empresas que operan en el campo de la inteligencia artificial se enfrentan a desafíos considerables con la entrada en vigor de estas normas. Además de invertir en investigación y desarrollo, deben modificar sus algoritmos de monitoreo emocional o eliminarlos por completo para cumplir con las condiciones de la ley. Las principales preocupaciones se centran en que esta prohibición pueda ralentizar la innovación en ciertos sectores, especialmente aquellos que dependían de las reacciones emocionales para mejorar los servicios o crear experiencias interactivas para los usuarios.
No obstante, los expertos jurídicos señalan que el cumplimiento de la nueva ley reforzará la confianza de los usuarios en las plataformas y servicios digitales dentro de la Unión Europea, y podría inspirar a otros gobiernos de todo el mundo a tomar medidas similares.
Lea también: Prohibición de DeepSeek en Italia: el conflicto entre privacidad y tecnología
Críticas y desafíos futuros
A pesar de los nobles objetivos de las normativas europeas, algunos consideran que la velocidad de desarrollo de las tecnologías de inteligencia artificial podría volver obsoletas estas reglas antes de que se apliquen de manera efectiva. El mundo ha presenciado en los últimos años rápidos acontecimientos políticos y económicos, como conflictos comerciales y la imposición de aranceles entre algunas potencias globales, lo que mantiene las políticas públicas en constante cambio.
Por su parte, círculos jurídicos han expresado su preocupación de que otros países sigan un enfoque indulgente o completamente diferente, lo que plantea a las empresas el desafío de cumplir con diversos requisitos en múltiples mercados globales. Al mismo tiempo, sectores económicos prevén que esta prohibición afecte al flujo de inversiones en el sector de la inteligencia artificial en Europa, ya que algunas empresas podrían dudar en ingresar al mercado europeo a menos que sus productos o tecnologías se adapten a los nuevos estándares.
La prohibición europea de los sistemas de inteligencia artificial para el seguimiento de emociones representa un paso histórico en el camino hacia la regulación de la inteligencia artificial y la garantía de su uso ético y responsable. Si bien la Unión Europea busca proteger a los usuarios de la explotación y la discriminación, existen desafíos ineludibles relacionados con la rápida evolución tecnológica y la dificultad de la legislación para mantenerse al ritmo de esta. Aun así, la apuesta sigue siendo que este enfoque prudente proporcione el entorno adecuado para una innovación responsable basada en el respeto a la privacidad y el fomento de la confianza entre empresas y sociedades.
