Nuevos informes revelan cómo los sesgos tecnológicos han provocado la caída de inocentes, planteando interrogantes urgentes sobre el futuro de la justicia digital.
La tecnología de reconocimiento facial basada en inteligencia artificial es uno de los avances técnicos más importantes en el ámbito de la seguridad. Aunque ha ayudado a identificar a algunos criminales, existen aspectos preocupantes, como la excesiva dependencia de ciertos departamentos de policía en los resultados de esta tecnología sin la verificación de pruebas suficientes, lo que a veces conduce a arrestos erróneos que perjudican la vida de personas inocentes. En este artículo, destacamos casos específicos en Estados Unidos que muestran una ausencia notable de pasos de investigación simples y una conformidad con lo que proporcionan los algoritmos.
¿Cómo empezó la historia?
Un suburbio de la ciudad de San Luis fue escenario de una agresión a un guardia de seguridad en una estación de tren, lo que le provocó heridas graves que afectaron su memoria. Tras la incapacidad de la policía para identificar a los sospechosos, los investigadores recurrieron a un programa de reconocimiento facial que utiliza cientos de miles de fotos de fichajes policiales. Surgieron los nombres de varios sospechosos, entre ellos una persona llamada «Christopher Gatlin», que no tenía pruebas previas que lo vincularan con el lugar del crimen ni antecedentes de violencia. Aunque la política de la ciudad establece que la tecnología de reconocimiento facial es «no científica» y que sus resultados no deben ser la única base para un arresto, el caso se construyó contra Gatlin basándose en una coincidencia técnica no confirmada. Estuvo detenido durante más de dos años antes de que se demostrara su inocencia.
Leer también: Los mayores fracasos de la inteligencia artificial en 2024
Los resultados de una investigación periodística revelan las dimensiones del caso
Un destacado periódico estadounidense demostró, a través del análisis de documentos policiales, informes judiciales y entrevistas, que al menos 15 departamentos de policía en 12 estados dependen en algunos casos principalmente de la inteligencia artificial para identificar a sospechosos sin pruebas de apoyo. Lo más grave es que algunos agentes describieron la coincidencia facial como una «coincidencia del 100%», lo que sugiere que tomaron la tecnología como una referencia confiable sin ninguna investigación adicional. Se han registrado numerosos casos de personas arrestadas por error simplemente porque la tecnología de reconocimiento facial las señaló, ignorando pruebas cruciales como el testimonio de testigos presenciales, datos de ADN o huellas dactilares.
Manifestaciones de fallas en la aplicación policial de la tecnología
Los aspectos que condujeron a estas detenciones erróneas incluyen la negligencia en la verificación de pruebas adicionales, la dependencia excesiva de los testigos y el sesgo tecnológico contra las personas de piel oscura. La mayoría de los departamentos de policía carecen de una política que les obligue a informar públicamente sobre el uso de la tecnología de reconocimiento facial, y pocos de ellos mantienen registros adecuados de su uso. Esta situación dificulta la tarea de los abogados y defensores de los derechos humanos para rastrear los casos de arresto basados en identificaciones erróneas.
Leer también: Las investigaciones de OpenAI revelan altas tasas de error en modelos avanzados de inteligencia artificial
El futuro y las tendencias legales
Con la creciente conciencia pública y judicial sobre los aspectos negativos de la tecnología, aumentan las demandas para establecer normas más estrictas que obliguen a la policía a verificar pruebas adicionales antes de proceder con los arrestos. Al mismo tiempo, algunos legisladores abogan por la necesidad de emitir leyes que obliguen a las autoridades pertinentes a revelar plenamente su dependencia de los algoritmos en las operaciones de investigación. Estos pasos trazarían un camino más justo y transparente en el uso de la inteligencia artificial para la aplicación de la ley.
Muchos apuestan por la inteligencia artificial para mejorar la eficiencia policial y resolver crímenes complejos, pero los acontecimientos recientes han demostrado que la confianza excesiva en la tecnología sin controles suficientes puede representar una amenaza para las libertades individuales. La integración de la evidencia digital con la investigación tradicional y la verificación precisa de testigos y pruebas físicas es el camino óptimo para garantizar que se haga justicia, para que los inocentes no paguen el precio de los errores de los programas inteligentes.
