La Inteligencia Artificial (IA) puede mejorar el diagnóstico, agilizar las pruebas médicas y ayudar a los profesionales sanitarios a tomar decisiones, pero su implantación también puede comprometer la seguridad de los pacientes, aumentar las desigualdades y debilitar determinadas competencias clínicas. Así lo advierten en Redacción Médica André Knottnerus, representante del Consejo Asesor Científico de las Academias Europeas (Easac), y Luis Martí-Bonmatí, vicepresidente de la Federación Europea de Academias de Medicina (FEAM). Ambos consideran que Europa debe pasar de desarrollar normas sobre estas tecnologías a garantizar que su aplicación produzca beneficios reales, medibles y equitativos. "La tecnología está avanzando más rápido que las condiciones necesarias para utilizarla de manera eficaz y segura", explican.
Y es que sus declaraciones llegan tras la publicación del informe conjunto AI in European Healthcare: Policy Recommendations for Optimising Added Value and Safe, Ethical, and Inclusive Adoption, elaborado por ambas entidades. El documento, resultado del trabajo de 22 científicos europeos, analiza cómo evaluar e integrar la IA en los sistemas sanitarios y plantea recomendaciones sobre regulación, protección de datos, seguridad, formación profesional y acceso equitativo. Así, Knottnerus y Martí-Bonmatí han copresidido el grupo de trabajo responsable de su elaboración.
La precisión de los algoritmos no garantiza mejores resultados
Uno de los principales problemas que identifican es "la diferencia entre la precisión técnica y el beneficio real para los pacientes". En este sentido, aclaran que un algoritmo que obtiene buenos resultados en un entorno de laboratorio "no necesariamente ayuda a un paciente a recibir un diagnóstico más rápido y preciso, evita pruebas innecesarias o mejora su pronóstico y sus resultados de salud".
"Un algoritmo que obtiene buenos resultados en pruebas de laboratorio no necesariamente ayuda a un paciente a recibir un diagnóstico más rápido y preciso, evita pruebas innecesarias o mejora su pronóstico y sus resultados de salud".
Los expertos señalan que las aplicaciones con mayor evidencia de beneficio se encuentran actualmente en el diagnóstico por imagen. La IA permite mejorar la reconstrucción de imágenes de resonancia magnética y tomografía computarizada, conseguir exploraciones más rápidas y de mayor calidad y, en el caso de la tomografía, reducir la exposición a la radiación. También facilita la detección, medición y caracterización de lesiones y tumores, y puede contribuir a planificar tratamientos de radioterapia más específicos.
Además, apuntan al desarrollo de herramientas predictivas para evaluar riesgos y pronósticos en Oncología, Cardiología, Obstetricia y enfermedades infecciosas, así como a sistemas administrativos que reducen la carga de documentación de los profesionales.
Sin embargo, advierten de que buena parte de los estudios disponibles mide la precisión diagnóstica y no los resultados que realmente importan a los pacientes. "Necesitamos saber si estas herramientas mejoran la supervivencia, la calidad de vida, el tiempo hasta el diagnóstico o si evitan daños", explican. Por eso, para cerrar esta brecha consideran necesario incrementar la inversión en investigación y también en Atención Primaria y Salud Pública.
El riesgo de crear "desiertos de IA" en la sanidad europea
Otra de sus principales preocupaciones es que la incorporación de estas tecnologías amplíe las desigualdades sanitarias existentes. Los modelos entrenados principalmente con datos de determinados grupos de población pueden ofrecer peores resultados para otros que están menos representados en las bases de datos, como niños, personas mayores, poblaciones rurales o minorías.
A ello se suma la diferencia de recursos entre países y hospitales. La infraestructura digital, la capacidad de inversión y la disponibilidad de profesionales formados condicionan la posibilidad de incorporar y evaluar estas herramientas. "Sin una actuación deliberada, la IA podría ampliar las desigualdades sanitarias", advierten.
En este escenario, alertan de la posible aparición de "desiertos de IA", es decir, espacios en los que los pacientes más desfavorecidos reciben una atención de peor calidad porque no tienen acceso a herramientas adecuadamente validadas.
Para evitarlo, proponen una mayor coordinación europea, estándares comunes de interoperabilidad y programas de formación accesibles a todos los profesionales, no solo a quienes trabajan en grandes centros. También defienden que los sistemas se entrenen y validen con poblaciones diversas y que sus resultados se publiquen desglosados por edad, sexo, origen étnico y otros grupos relevantes.
La financiación pública, añaden, debe desempeñar un papel decisivo. Consideran que debe sostener infraestructuras compartidas de validación, facilitar el acceso a datos representativos y apoyar especialmente a las regiones con menor capacidad digital. "La inversión pública debe centrarse también en el retorno para la sociedad, y no únicamente en la productividad comercial", apuntan.
"La inversión pública debe centrarse también en el retorno para la sociedad, y no únicamente en la productividad comercial"
Los sesgos y el deterioro del rendimiento
Aunque consideran que todos los riesgos identificados en el informe son reales, sitúan los sesgos y la pérdida progresiva de rendimiento de los algoritmos entre los problemas más urgentes y menos visibles.
Un sistema puede funcionar correctamente cuando se desarrolla y valida, pero perder fiabilidad con el tiempo o al utilizarse en un entorno diferente. Los cambios en las poblaciones atendidas, los protocolos médicos o los equipos pueden alterar sus resultados sin que el deterioro sea evidente.
"Estos riesgos rara vez provocan fallos evidentes. En cambio, pueden comprometer silenciosamente la fiabilidad clínica y la seguridad del paciente", explican. Por ello, consideran imprescindible vigilar el comportamiento de los sistemas durante toda su vida útil.
La ciberseguridad representa otra amenaza especialmente importante. Los expertos recuerdan que el sector sanitario es uno de los objetivos de los ciberataques por el valor de sus datos y advierten de que los sistemas basados en IA incorporan nuevos puntos vulnerables, como la posibilidad de manipular imágenes médicas o los datos utilizados para entrenar los modelos. "Sinceramente, todavía no disponemos de buenos datos sobre la frecuencia con la que se producen estos problemas ni sobre sus consecuencias reales", admiten.
Ante esta falta de información, reclaman mecanismos obligatorios de supervisión humana, vigilancia posterior a la comercialización, notificación de incidentes y registros de auditoría. "Sin ellos, no podemos medir el problema que estamos intentando resolver", advierten.
La dependencia de la IA puede debilitar las habilidades de los médicos
La pérdida de competencias profesionales, conocida como deskilling, es otra de las cuestiones que destacan. Los expertos citan un estudio incluido en el informe según el cual los gastroenterólogos acostumbrados a trabajar con asistencia de IA fueron aproximadamente un 20 por ciento menos capaces de detectar pólipos por sí mismos durante una colonoscopia.
Para evitar este fenómeno sin renunciar a las ventajas de la tecnología, proponen utilizar determinados sistemas como una segunda lectura, después de que el profesional haya realizado su propia interpretación. De esta forma, la herramienta puede confirmar o cuestionar una valoración inicial, en lugar de sustituirla.
También consideran necesario mantener la formación continua y la práctica clínica sin asistencia automatizada, además de reforzar capacidades como el juicio clínico, el razonamiento contextual y la empatía. "La IA debe apoyar la experiencia profesional, nunca sustituirla", recalcan. Por ello, defienden que los hospitales evalúen el rendimiento de los profesionales tanto cuando utilizan estas herramientas como cuando trabajan sin ellas.
"La IA debe apoyar la experiencia profesional, nunca sustituirla"
Evaluaciones independientes y controles
Para garantizar la seguridad, Knottnerus y Martí-Bonmatí proponen que la validación de los sistemas se planifique desde su diseño y contemple dos niveles: uno analítico, destinado a comprobar la precisión y fiabilidad técnica, y otro clínico, que demuestre su seguridad, eficacia y valor en condiciones reales.
En la práctica, recomiendan probar cada herramienta en varios hospitales y entornos de experimentación con poblaciones diferentes, publicando los resultados por grupos de pacientes y no únicamente mediante promedios generales. También destacan las posibilidades de los sistemas federados, que permiten realizar análisis en distintos hospitales sin trasladar los datos sensibles, ya que "el análisis viaja a cada hospital y los datos permanecen donde están".
La evaluación debe continuar después de la implantación. Los expertos consideran que las auditorías periódicas deben ser obligatorias y que los sistemas cuyo rendimiento se deteriore deben poder actualizarse, volver a entrenarse o retirarse cuando dejen de funcionar de manera segura y equitativa.
"Las herramientas de IA no son dispositivos estáticos. Su rendimiento puede cambiar con el tiempo a medida que evolucionan los pacientes, la práctica clínica, el conocimiento científico o los equipos", explican. Por este motivo, consideran insuficiente una única autorización antes de su comercialización y reclaman mecanismos de vigilancia continua, documentación de las modificaciones y supervisión independiente.
También defienden que el nivel de evidencia exigido sea proporcional al riesgo: un sistema que actúa de forma autónoma debe demostrar garantías mucho mayores que otro que simplemente presta apoyo a un profesional.
Europa: buena base normativa, pero asignaturas pendientes
En cuanto a la regulación, los expertos reconocen que Europa dispone de una base legislativa sólida, integrada por el Reglamento de Inteligencia Artificial, la normativa de productos sanitarios, el Reglamento General de Protección de Datos, el Espacio Europeo de Datos Sanitarios y la nueva Directiva sobre responsabilidad por productos defectuosos. Sin embargo, consideran que "tener buenas leyes no es lo mismo que garantizar un uso seguro y adecuado de la IA en los centros sanitarios".
Así, entre las cuestiones pendientes mencionan la aplicación desigual de las normas entre Estados miembros, la clasificación de determinados usos sanitarios como sistemas de alto riesgo y las dificultades que plantean tecnologías que evolucionan rápidamente, como los grandes modelos de lenguaje, la IA multimodal y los sistemas de IA agéntica.
También apuntan a las dudas sobre el consentimiento de los pacientes y la responsabilidad cuando se produce un daño. En este sentido, proponen que la responsabilidad frente al paciente permanezca en el proveedor sanitario, con vías claras para reclamar al fabricante cuando un defecto del producto provoque consecuencias perjudiciales.
Para evitar retrasos innecesarios en la innovación, defienden que los requisitos regulatorios sean proporcionales al riesgo y al grado de autonomía de cada sistema. Asimismo, apuestan por los llamados regulatory sandboxes, entornos controlados en los que los innovadores puedan probar herramientas bajo supervisión de las autoridades y con garantías para los pacientes.
"Las infraestructuras compartidas de validación y las bases de datos de referencia permitirían que las pequeñas empresas y los hospitales públicos no tuvieran que construirlas cada uno por su cuenta", añaden.
Tres prioridades para medir el impacto del informe
De cara a la aplicación de sus recomendaciones, los dos copresidentes identifican tres prioridades: establecer un marco europeo común para evaluar el valor añadido real de la IA antes y después de su implantación, desarrollar infraestructuras de datos interoperables y federadas junto con recursos compartidos de validación, y reforzar la gobernanza, la supervisión independiente y la formación de los profesionales sanitarios.
Los expertos también proponen indicadores para comprobar si estas medidas producen resultados en los próximos años. Entre ellos figuran el número de Estados miembros que exigen validaciones externas y multicéntricas en sus contrataciones públicas, la proporción de herramientas de alto riesgo cuyos resultados se publican por grupos de pacientes, la existencia de sistemas operativos de vigilancia y notificación de incidentes y la incorporación de la alfabetización en IA a los programas de Medicina y formación continuada. En este contexto, aclaran que estos indicadores son propuestas para medir los avances, no objetivos que ya hayan sido acordados.
En última instancia, consideran que la decisión de incorporar una herramienta no debe depender exclusivamente de su precisión o de su novedad tecnológica. También debe resolver un problema clínico, de Salud Pública u organizativo real, haber sido diseñada junto con los profesionales y pacientes que la utilizarán y demostrar que aporta valor frente a la práctica habitual: "Una herramienta que es precisa, pero que los profesionales no utilizan o que interfiere en su trabajo, no es una buena inversión".
"Los sistemas sanitarios deben evaluar continuamente los resultados clínicos, la seguridad de los pacientes, la protección de los datos, la calidad de vida, los efectos sobre la equidad y la relación coste-efectividad", concluyen. A ello hay que añadir los gastos de integración, infraestructura, formación, validación local, supervisión y consumo energético.