Un estudio internacional dirigido por el University College London reveló que los neurocirujanos prefieren recibir puntuaciones y mapas de certeza estadística al utilizar la inteligencia artificial durante las operaciones.
Desafíos visuales en la cirugía endoscópica de hipófisis y la importancia de la interpretación
Comparación de los cinco métodos para explicar las salidas de la inteligencia artificial quirúrgica
Metodología de la encuesta y el problema de la calibración de confianza en los modelos algorítmicos
La diferencia entre interpretabilidad y precisión real, y los próximos pasos de la investigación
Preguntas frecuentes
Desafíos visuales en la cirugía endoscópica de hipófisis y la importancia de la interpretación
Un equipo de investigación internacional liderado por el University College London llevó a cabo una encuesta científica a 47 neurocirujanos para explorar cómo los sistemas de apoyo a la decisión basados en inteligencia artificial deben explicar su identificación de estructuras anatómicas delicadas durante los procedimientos quirúrgicos. El estudio riguroso, publicado en la revista «Scientific Reports» el 24 de octubre de 2026, se centra en las cirugías endoscópicas de hipófisis como un ejemplo quirúrgico de alto riesgo. Cabe destacar que el estudio evalúa las preferencias de los médicos sobre los métodos de explicación e interpretación, y no presenta resultados clínicos en pacientes procedentes de operaciones reales en quirófanos.
En las cirugías realizadas mediante endoscopia, el cirujano necesita distinguir con precisión entre tejidos y estructuras anatómicas bajo condiciones complejas que pueden incluir una visibilidad reducida, una variabilidad anatómica inusual entre los pacientes y un campo visual estrecho. Aunque un algoritmo de software puede generar una superposición de color que delinea una estructura anatómica específica en la pantalla, este sombreado por sí solo no aclara al cirujano cuán confiable es dicha predicción algorítmica.
Comparación de los cinco métodos para explicar las salidas de la inteligencia artificial quirúrgica
Los investigadores compararon cinco enfoques diferentes para proporcionar explicaciones algorítmicas: puntuaciones de certeza, mapas de certeza, mapas de prominencia visual, puntuaciones de similitud de escena y visualizaciones de los vecinos más cercanos. La puntuación de certeza resume el nivel numérico de confianza del modelo, mientras que el mapa de certeza muestra las diferencias espaciales en el nivel de confianza estimado a través de partes de la imagen. Por el contrario, los métodos de prominencia visual intentan mostrar las regiones visuales que influyeron en la decisión del modelo, mientras que las técnicas de similitud comparan la escena quirúrgica actual con otras imágenes o representaciones de referencia.
Los resultados demostraron que los cirujanos participantes prefirieron en general las explicaciones basadas en la certeza y las consideraron más útiles y viables a la hora de tomar decisiones quirúrgicas en tiempo real. En contraste, los métodos de prominencia visual y similitud se consideraron menos vinculados directamente a la navegación quirúrgica inmediata, aunque podrían tener una mayor utilidad en áreas de capacitación médica o educación académica. Estos hallazgos reflejan las respuestas de los cirujanos ante ejemplos presentados y métricas de preferencia, y no constituyen pruebas empíricas de que un método de interpretación en particular haga que las cirugías sean más seguras.
Metodología de la encuesta y el problema de la calibración de confianza en los modelos algorítmicos
El artículo de investigación empleó sistemas de clasificación, una escala modificada de satisfacción con las explicaciones y comentarios de texto abierto. La comunidad de participantes incluyó a cirujanos que trabajan en instituciones médicas distribuidas en varios países. Dado que la encuesta transversal se basa en una muestra pequeña y autoseleccionada, no puede demostrar cómo se comportarán todos los neurocirujanos al utilizar la misma herramienta, ni prueba que la visualización de indicadores de certeza modifique el comportamiento del cirujano en la dirección clínicamente deseada.
Asimismo, aquí destaca una reserva técnica de vital importancia: la puntuación de confianza del modelo no está necesariamente calibrada con precisión frente a la realidad, ya que un sistema de inteligencia artificial puede expresar un alto grado de certeza y estar equivocado al mismo tiempo, especialmente cuando se enfrenta a una anatomía desconocida que difiere de sus datos de entrenamiento. Por lo tanto, la presentación de la certeza digital solo resulta útil si las estimaciones coinciden efectivamente con las tasas de error empíricas y si los médicos están capacitados para interpretarlas adecuadamente.
La diferencia entre interpretabilidad y precisión real, y los próximos pasos de la investigación
Basándose en estos datos, los autores abogan por realizar una evaluación futura de la calibración de la confianza y el rendimiento clínico en diversas especialidades quirúrgicas. Este estudio contribuye a los campos de la interacción humano-computadora y el diseño de inteligencia artificial médica al identificar lo que los usuarios experimentados afirman necesitar antes de confiar en un asistente algorítmico.
Para el periodismo de salud y médico, la distinción fundamental radica entre la interpretabilidad, la facilidad de uso, la precisión real del modelo y la mejora de los resultados clínicos de los pacientes, ya que ningún elemento conduce automáticamente al cumplimiento de los demás. Una característica de explicación común y preferida puede estar asociada con un exceso de confianza por parte del médico, mientras que una función menos intuitiva a veces puede ayudar a detectar errores. Esto sitúa el próximo paso en la realización de un estudio controlado que compare las decisiones tomadas con y sin cada formato de explicación, abarcando fallas reales y la intervención humana adecuada.
Preguntas frecuentes
Pregunta: ¿Cuáles son los cinco métodos comparados por el estudio para interpretar la inteligencia artificial quirúrgica?
Respuesta: El estudio comparó puntuaciones de certeza, mapas de certeza, mapas de prominencia visual, puntuaciones de similitud de escena y visualizaciones de los vecinos más cercanos.
Pregunta: ¿Qué tipo de explicaciones prefirieron los neurocirujanos durante las operaciones?
Respuesta: Los cirujanos prefirieron las explicaciones basadas en puntuaciones y mapas de certeza para la navegación quirúrgica inmediata, mientras que consideraron que los mapas de prominencia y similitud eran más adecuados para la capacitación y la educación.
Pregunta: ¿Cuáles son los riesgos técnicos asociados con depender de la puntuación de certeza del modelo?
Respuesta: Es posible que la puntuación de confianza del modelo no esté calibrada con precisión, ya que el sistema puede mostrar una certeza elevada a pesar de estar equivocado, especialmente al enfrentarse a estructuras anatómicas que difieren de los datos de entrenamiento.
Pregunta: ¿El estudio demostró una mejora real en la seguridad de los pacientes dentro de los quirófanos?
Respuesta: No, el estudio se basó en una encuesta sobre las preferencias de 47 cirujanos en torno a ejemplos presentados y no evaluó los resultados reales de los pacientes en cirugías en vivo.
