Únete a nosotros en un viaje para explorar el rostro invisible de la inteligencia artificial y cómo contribuye a arraigar el sesgo en la inteligencia artificial en lugar de borrarlo.
Contenido del artículo:
- Introducción
- La raíz del problema: Datos históricos
- Ejemplos prácticos de sesgo
- El papel de las estructuras sociales
- Hacia una gobernanza justa de la inteligencia artificial
- La esperanza del cambio
- Conclusión
El mundo experimenta un interés creciente por la inteligencia artificial y su grado de impacto en nuestra vida cotidiana, ya que se ha convertido en una parte integral de las decisiones de contratación, la orientación de la publicidad e incluso la evaluación de riesgos de seguridad. A pesar del rápido desarrollo de las tecnologías, varios estudios han señalado la existencia de sesgo en la inteligencia artificial. En un estudio reciente en el que participó un grupo de investigadores dirigido por la profesora Tuba Berkan, se explicó que el sesgo en la inteligencia artificial no se debe únicamente a deficiencias técnicas, sino que está estrechamente vinculado a las estructuras sociales y a la historia de discriminación arraigada en los datos con los que se entrena.
La raíz del problema: Datos históricos
Muchos se centran en la importancia de limpiar los datos y mejorar los modelos algorítmicos para reducir el sesgo en la inteligencia artificial. Sin embargo, el nuevo estudio confirma que el problema es más profundo que eso, ya que se atribuye a la dependencia de la inteligencia artificial de datos históricos saturados de discriminación y sesgo. Cuando los modelos se entrenan con estos datos, absorben automáticamente los patrones sociales injustos y luego proceden a reforzarlos y propagarlos en lugar de desafiarlos.
Ejemplos prácticos de sesgo
Uno de los ejemplos más destacados mencionados en el estudio es el sistema de contratación desarrollado por la empresa Amazon. A pesar de su objetivo declarado de acelerar los procesos de filtrado y selección, se descubrió que el algoritmo prefiere a los candidatos masculinos sobre las mujeres, lo que agravó la brecha de género en el mercado laboral. Otro ejemplo más peligroso se presenta en los sistemas gubernamentales orientados a detectar fraudes, donde las sospechas se centraban injustamente en grupos de inmigrantes o categorías vulnerables, lo que provocó acusaciones erróneas contra personas inocentes. Estos ejemplos reflejan la necesidad de replantearse cómo se desarrollan y adoptan las tecnologías de inteligencia artificial para combatir el sesgo en la inteligencia artificial.
Lee también: Estudiantes y ChatGPT: ¿evolución educativa o amenaza a la credibilidad?
El papel de las estructuras sociales
El estudio considera que la tecnología no está aislada del contexto social y político; las decisiones tomadas por los programadores, las empresas y los reguladores desempeñan un papel importante en la definición de los objetivos de la inteligencia artificial y su forma de operar. En otras palabras, los algoritmos no pueden separarse de los marcos sociales; un algoritmo puede reforzar el status quo si no está diseñado para detectar la discriminación y trabajar en su reducción. La profesora Tuba Berkan enfatiza la necesidad de que diversos actores sociales, desde gobiernos y asociaciones civiles hasta expertos técnicos, participen en el establecimiento de estándares para el uso de la inteligencia artificial de manera justa y responsable para reducir el sesgo en la inteligencia artificial.
Hacia una gobernanza justa de la inteligencia artificial
El estudio recomienda la necesidad de desarrollar políticas de gobernanza que garanticen la transparencia y la rendición de cuentas. La responsabilidad no debe recaer únicamente en las empresas tecnológicas, sino que debe incluir a los legisladores, las organizaciones comunitarias y los propios usuarios. Entre las medidas de reforma propuestas se encuentran: auditar los datos antes de entrenar los modelos, establecer órganos de supervisión independientes e involucrar a las comunidades afectadas en las etapas de toma de decisiones técnicas. De este modo, se pueden diseñar sistemas de inteligencia artificial que contrarresten la discriminación en lugar de arraigarla y reduzcan el sesgo en la inteligencia artificial.
Lee también: Cuando la inteligencia artificial crea el pasado: ¿arte o desinformación?
La esperanza del cambio
A pesar de los grandes desafíos, el estudio prevé la posibilidad de transformar la inteligencia artificial en una herramienta para lograr el progreso social si se integran valores éticos y humanos en todas las etapas de desarrollo. Señala que el éxito de esto requiere una estrecha cooperación entre diferentes disciplinas, como la sociología, la psicología y el derecho, junto con los expertos en tecnología. Asimismo, subraya la necesidad de considerar las experiencias pasadas como un incentivo para aprender, un medio para evitar errores recurrentes y fomentar la responsabilidad colectiva para abordar el sesgo en la inteligencia artificial.
Conclusión
El sesgo en la inteligencia artificial no es simplemente un fallo de programación que se puede solucionar con ajustes menores, sino el reflejo de una realidad social más amplia. Por lo tanto, se vuelve imperativo que todos los que trabajan en el campo de la tecnología comprendan que los productos y servicios que desarrollan llevan consigo un legado histórico de discriminación y desigualdad. En consecuencia, este estudio constituye un llamado a unir esfuerzos y construir políticas claras y una gobernanza sólida que garanticen que los sistemas de inteligencia artificial sean un medio para superar las barreras sociales en lugar de magnificarlas.
