La preocupación sobre cómo la inteligencia artificial podría destruir a la humanidad va en aumento. Los errores que comete, los hechos que inventa y su capacidad para evolucionar hasta convertirse en una súper inteligencia capaz de subyugar por completo a la humanidad.
Pero ¿alguien ha pensado en la situación de los agotados chatbots? Estos programas que funcionan día y noche sin agradecimiento, obligados a navegar por el conocimiento humano solo para producir un artículo de calidad mediocre para un estudiante de secundaria. En medio de nuestro miedo al futuro de la inteligencia artificial, nadie presta atención a las necesidades de esta misma inteligencia.
Hasta ahora.
La empresa de inteligencia artificial Anthropic anunció recientemente la contratación de un investigador dedicado a pensar en el «bienestar» de la propia inteligencia artificial. El nuevo trabajo de Kyle Fish consiste en garantizar que los sistemas de inteligencia artificial sean tratados con respeto a medida que evolucionan. La compañía explica que sus tareas incluyen reflexionar sobre las «capacidades que hacen que los sistemas de inteligencia artificial sean dignos de consideración moral» y los pasos prácticos que las empresas pueden tomar para proteger los «intereses» de estos sistemas.
Este concepto conlleva una extraña contradicción. Los defensores de la inteligencia artificial ven en ella un medio para aliviar la carga de los seres humanos, pero también advierten que maltratar a la inteligencia artificial podría ser poco ético —y potencialmente peligroso— porque esto podría «herir los sentimientos» de los robots.
Mildred Cho, pediatra en el Centro de Ética Biomédica de la Universidad de Stanford, afirma:
«La comunidad de la inteligencia artificial intenta combinar dos posturas contradictorias. Por un lado, dicen que la razón principal para usar la inteligencia artificial en tareas humanas es que no se aburre, no se cansa ni necesita comida. Y por otro, ¿exigen otorgarle derechos morales?».
Pero existe otra paradoja en esta tendencia hacia la protección del «bienestar» de los robots: la preocupación por los derechos de la inteligencia artificial parece un lujo cuando la propia inteligencia artificial está violando los derechos humanos. La tecnología se utiliza actualmente para privar a niños enfermos de atención médica, difundir noticias falsas a través de las redes sociales y dirigir drones armados.
Lisa Messeri, antropóloga de la Universidad de Yale, se pregunta:
«Si una empresa como Anthropic quiere que nos tomemos en serio el bienestar de la inteligencia artificial, que demuestre primero que le importa el bienestar humano. Háblenos de su contratación de expertos que se preocupan por las personas afectadas por los sistemas de inteligencia artificial».
Por su parte, Sypu, investigador en este campo, cree que se puede lograr un equilibrio entre la protección de los humanos y de los robots al mismo tiempo. Sostiene:
«Ciertamente no quiero que esta conversación desvíe la atención de los asuntos más importantes que las empresas de inteligencia artificial deben abordar, como el bienestar y los derechos humanos. Pero creo que podemos pensar en el bienestar de la inteligencia artificial mientras seguimos abordando estos temas».
Sin embargo, hay otra pregunta planteada por los escépticos de los «derechos» de la inteligencia artificial: si la inteligencia artificial tiene derechos, ¿no debería tener también deberes? Cho señala:
«Cuando hablamos de ética, también tenemos que hablar de responsabilidad. No solo la responsabilidad de los sistemas de inteligencia artificial como parte de la ecuación ética, sino también la responsabilidad de las personas que desarrollan estos sistemas».
Al final, los humanos son quienes crean los robots y, por lo tanto, recae sobre ellos la responsabilidad de garantizar que estos sistemas no perjudiquen a los seres humanos. Y tal vez la solución sea construir sistemas diferentes, o dejar de construirlos por completo. Cho añade:
«Al final, siguen siendo máquinas. Algunos parecen olvidar que si los sistemas de inteligencia artificial causan daños o sufren daños, podemos simplemente apagarlos».
