En un hecho que destaca los riesgos de la dependencia excesiva de los algoritmos en asuntos de salud sensibles, Google eliminó la función “Vista general de IA” para consultas médicas específicas. Esta rápida medida se produjo tras una investigación periodística que reveló que la función ofrecía información engañosa carente del contexto médico necesario, lo que podría poner en riesgo la seguridad de los usuarios.
Contenido del artículo:
- Introducción
- La investigación y los hallazgos preocupantes
- Respuesta de Google y eliminación de contenido
- Persistencia del problema en otros formatos
- Opinión de expertos médicos
- Preguntas frecuentes
Introducción
El gigante de las búsquedas “Google” enfrenta un renovado escrutinio sobre la precisión de sus herramientas de inteligencia artificial en el ámbito médico. Tras un informe publicado por el periódico “The Guardian”, se reveló que la inteligencia artificial proporciona información general y excesivamente simplificada que no toma en cuenta las importantes diferencias individuales en las pruebas médicas, lo que llevó a la empresa a intervenir y eliminar estos resultados para ciertas consultas.
La investigación y los hallazgos preocupantes
El informe explicó que cuando los usuarios preguntaron sobre el “rango normal de los análisis de sangre hepáticos”, la inteligencia artificial les proporcionó cifras estáticas y estandarizadas. El gran problema radica en que estas cifras no tomaron en cuenta factores vitales como la nacionalidad, el género, la raza o la edad, factores que afectan radicalmente la lectura de los resultados médicos. Esta simplificación excesiva podría llevar a los usuarios a creer erróneamente que sus resultados son saludables y correctos, cuando en realidad podrían indicar un problema que requiere intervención médica.
Respuesta de Google y eliminación de contenido
Google respondió al informe eliminando los resúmenes inteligentes para consultas específicas como “cuál es el rango normal de las pruebas de función hepática”. Un portavoz de la empresa declaró al periódico “The Guardian” que trabajan continuamente para realizar “mejoras a gran escala”, aunque normalmente no comentan sobre casos individuales. El portavoz añadió que un equipo interno de médicos revisó las consultas y descubrió que, en muchos casos, la información “no era inexacta” y estaba respaldada por sitios web de alta calidad, en una defensa implícita de la tecnología.
Persistencia del problema en otros formatos
A pesar de la eliminación, la investigación encontró que el problema no ha terminado por completo. Si bien los resúmenes desaparecieron para las consultas precisas señaladas en el informe, el uso de fórmulas alternativas o ligeras variaciones en la redacción de la pregunta aún conduce en ocasiones a la aparición de resúmenes generados por inteligencia artificial. Esto indica que la solución aplicada por Google fue “superficial” y dirigida a consultas específicas en lugar de ser una solución radical para el algoritmo médico.
Opinión de expertos médicos
Vanessa Hepditch, directora de comunicaciones de la British Liver Trust, celebró la medida de eliminación y la calificó como “excelente noticia”. Sin embargo, advirtió al mismo tiempo que las soluciones parciales no son suficientes para garantizar la seguridad de los pacientes. Hepditch declaró: “Nuestra mayor preocupación es que Google solo está abordando los resultados de búsqueda individuales que se destacan, pero no está abordando el problema más amplio sobre la idoneidad del uso de resúmenes de inteligencia artificial para información de salud en general”.
Preguntas frecuentes
Pregunta: ¿Por qué Google eliminó estos resúmenes?
Respuesta: Porque proporcionaban información inexacta sobre las pruebas hepáticas, ignorando factores como la edad y el sexo.
Pregunta: ¿Se resolvió el problema por completo?
Respuesta: No del todo, ya que algunas formulaciones alternativas de preguntas todavía muestran resúmenes inteligentes que pueden ser inexactos.
Pregunta: ¿Cuál es el riesgo de estos resúmenes?
Respuesta: Pueden tranquilizar erróneamente a los pacientes haciéndoles creer que están sanos, o causarles una preocupación innecesaria debido a la falta de contexto médico.
