Ángel Morales, coordinador de la Comisión de Inteligencia Artificial de la Seram; Ignacio Fernández, presidente de la SEC; Ignacio López, presidente del Sector de Salud Digital de Fenin; y Conrado Domínguez, coordinador del Grupo de Trabajo de Inteligencia Artificial en Gestión Sanitaria de Sedisa.
La IA sanitaria busca dar el salto definitivo a la práctica clínica con garantías de buena gobernanza y seguridad
Cuatro expertos, de Sedisa, SEC, Fenin y Seram, reclaman más formación, calidad del dato y supervisión humana para extender estas herramientas en el sistema sanitario
La inteligencia artificial (IA) ya está presente en distintos ámbitos de la sanidad, desde el análisis de imágenes y electrocardiogramas hasta la gestión de procesos y la monitorización de pacientes. Sin embargo, el gran reto pasa ahora por trasladar las soluciones innovadoras desarrolladas por la industria y los numerosos proyectos piloto a una implantación real y coordinada, con garantías de seguridad, buena gobernanza, equidad y supervisión profesional.
Esta ha sido una de las principales conclusiones del debate organizado por Redacción Médica, en colaboración con Fenin y protagonizado por Conrado Domínguez, coordinador del Grupo de Trabajo de Inteligencia Artificial en Gestión Sanitaria de la Sociedad Española de Directivos de la Salud (Sedisa); Ignacio Fernández Lozano, presidente de la Sociedad Española de Cardiología (SEC); Ignacio López, presidente del Sector de Salud Digital de la Federación Española de Tecnología Sanitaria (Fenin); y Ángel Morales, miembro de la Comisión de Inteligencia Artificial de la Sociedad Española de Radiología Médica (Seram).
Durante el encuentro, los cuatro expertos han abordado el potencial de la IA para transformar la asistencia y la gestión sanitaria, pero también los obstáculos que todavía frenan su despliegue: la fragmentación de los proyectos, las diferencias entre territorios y centros, la regulación en ciernes, el conocimiento de la importancia del marcado CE, la formación de los profesionales, la gobernanza del dato y la necesidad de mantener la supervisión humana.
Expectativas y potencial de la IA en sanidad
Ignacio López manifiesta que la inteligencia artificial lleva décadas desarrollándose y que la industria sanitaria ya incorporaba sistemas basados en esta tecnología antes del actual auge de la IA generativa. Primero fueron los sistemas expertos y, posteriormente, el aprendizaje automático, el aprendizaje profundo y las redes neuronales, que permitieron desarrollar aplicaciones para analizar imágenes, electrocardiogramas o lenguaje.
La evolución actual pasa por sistemas con mayor capacidad de autonomía, como la llamada IA agéntica, que no se limita a responder a una instrucción, sino que puede tomar decisiones para ejecutar determinadas tareas. López explica que este salto plantea nuevos interrogantes sobre la responsabilidad y subrayó la necesidad de que el desarrollo tecnológico preserve los derechos de las personas y cumpla la legislación.
Conrado Domínguez sitúa la IA generativa como una posible palanca para transformar las organizaciones sanitarias y avanzar hacia un modelo más preventivo. A su juicio, puede ayudar también a identificar actuaciones que no aportan valor y a replantear cómo se prestan los servicios. En este proceso, considera fundamental incorporar la perspectiva del paciente para conocer qué tiene realmente valor para él.
La supervisión humana sigue siendo necesaria y, para que estas soluciones se incorporen de forma efectiva, será preciso acompañarlas de recursos humanos, infraestructuras e inversión.
Conrado Domínguez: "El principal reto es pasar de los pilotos al escalado y conseguir que las soluciones transformen realmente los procesos asistenciales y de gestión"
En Radiología, Ángel Morales distingue entre dos grandes ámbitos de aplicación. Por un lado, la IA interpretativa, centrada en el análisis de imágenes y orientada a mejorar la precisión diagnóstica y la calidad de las pruebas. También puede contribuir a reducir la dosis de radiación.
Por otro, situó la IA operacional, aplicada a la gestión de los procesos radiológicos, desde la organización y priorización de pacientes hasta la información o el consentimiento.
En Cardiología, Ignacio Fernández Lozano señala que la implantación actual de la IA todavía es reducida, aunque considera que su impacto crecerá de forma importante. Entre los principales retos apunta a evitar que las futuras generaciones de médicos pierdan capacidad para valorar críticamente los resultados de los sistemas de IA.
También destaca el valor de los datos como elemento estratégico y considera que España dispone de una oportunidad por la información acumulada en su sistema sanitario.
Ignacio López: "El profesional debe mantener la capacidad de valorar cuándo aceptar o cuestionar la recomendación del algoritmo"
De los pilotos a la práctica clínica
Conrado Domínguez diferencia entre el uso de herramientas de IA y su implementación real en las organizaciones. Señala que existen numerosos proyectos piloto y posibilidades de aplicación en ámbitos con bajo riesgo clínico, como la logística, el rediseño de procesos, las listas de espera o la optimización de quirófanos y camas.
El principal reto, a su juicio, es pasar de los pilotos al escalado y conseguir que las soluciones transformen realmente los procesos asistenciales y de gestión. También considera esencial que las primeras implantaciones funcionen correctamente para generar confianza.
Fernández Lozano explica que en Cardiología la IA ya se utiliza, entre otros ámbitos, para generar alertas relacionadas con la prescripción y las interacciones entre medicamentos, controlar factores de riesgo cardiovascular, analizar imágenes ecocardiográficas y radiológicas y mejorar la monitorización remota de pacientes mediante la reducción del ruido y los artefactos.
Sin embargo, advierte de que las iniciativas se están desarrollando de forma fragmentada, con diferentes pilotos y soluciones, sin una coordinación común.
En Radiología, Morales apunta que existen aplicaciones ya desarrolladas y un catálogo de soluciones certificadas, pero no un inventario público que permita conocer qué sistemas de IA están implantados en el Sistema Nacional de Salud. También señala la falta de datos objetivos sobre investigación y utilización de estas herramientas.
Ignacio Fernández: "El momento actual todavía requiere proyectos piloto y validaciones antes de extender las soluciones de forma generalizada"
Equidad y diferencias entre centros
Los participantes coinciden en que la descentralización del sistema sanitario genera diferencias en la incorporación de tecnología.
Domínguez advierte de que esta variabilidad puede trasladarse también a la IA y convertirse en un problema de equidad si determinadas soluciones están disponibles en unos territorios y no en otros. Por ello, pide que el código postal no sea determinante en el acceso a herramientas tecnológicas.
Fernández Lozano, en cambio, señala que el momento actual todavía requiere proyectos piloto y validaciones antes de extender las soluciones de forma generalizada. Pone como ejemplo el potencial de la IA aplicada al cribado de cáncer de mama para detectar también riesgo cardiovascular en mujeres.
Conrado Domínguez e Ignacio Fernández durante el debate.
Uso, confianza y supervisión humana
Ignacio López destaca que la FDA estadounidense ya tiene autorizados más de 1.400 dispositivos médicos que incorporan IA, mientras que en Europa existe menor disponibilidad de datos sobre su implantación. En España, una encuesta de Fenin reflejó que, aunque los profesionales utilizan ampliamente herramientas de IA a nivel personal, solo el 22 por ciento sabía si la IA utilizada en su centro estaba certificada y contaba con marcado CE que certifica haberse sometido a los procedimientos previos y evaluación de su calidad y seguridad.
Al mismo tiempo, el 65 por ciento asociaba el marcado CE con un elevado nivel de confianza y seguridad. Para López, estos resultados evidencian la necesidad de mejorar la formación sobre el uso regulado de la IA en el ámbito sanitario.
Los participantes también abordaron el riesgo de que la creciente precisión de estos sistemas reduzca la capacidad de los profesionales para cuestionar sus resultados. López y Morales insisten en que la IA debe utilizarse siempre bajo supervisión humana y que el profesional debe mantener la capacidad de valorar cuándo aceptar o cuestionar la recomendación del algoritmo.
Clara Hernández, Ignacio López y Ángel Morales.
Regulación y marcado CE
Ángel Morales describe un marco regulatorio complejo en el que confluyen la normativa de protección de datos, el Reglamento de Productos Sanitarios y la regulación europea de inteligencia artificial. Entre los principales retos marca la gobernanza de los datos, la clasificación de riesgos, el marcado CE, la supervisión humana, la responsabilidad por daños y los derechos de los pacientes.
También subraya la relevancia de los sistemas de IA que intervienen en la priorización o acceso a servicios sanitarios, al poder afectar a los pacientes.
Ángel Morales: "La calidad del dato es la primera capa sobre la que debe construirse cualquier solución de IA"
López defiende el valor del marcado CE como garante de un proceso de evaluación de la seguridad y seguimiento de los productos sanitarios que incorporan IA. En especial, en aquellos softwares, dispositivos y algoritmos que incorporan IA que sean empleados en el diagnóstico y tratamiento de patologías o como ayuda al profesional en la toma de decisiones clínicas. Cree que los procedimientos regulatorios deberían simplificarse e integrarse para evitar duplicidades y facilitar la llegada de innovación al mercado sin rebajar las garantías.
También señala la necesidad de reforzar los organismos notificados con conocimiento tanto de tecnología sanitaria como de inteligencia artificial, ya que actualmente existen capacidades limitadas para abordar conjuntamente ambas áreas.
Formación y usos 'in house'
Los participantes coinciden en que la formación debe acompañar al despliegue de la IA. Fernández Lozano explica que las sociedades científicas están impulsando actividades de difusión y espacios para compartir experiencias, mientras que López señala que Fenin trabaja en iniciativas de alfabetización en IA dirigidas a profesionales.
Domínguez añade que la formación debe alcanzar también a los gestores sanitarios. A su juicio, el marcado CE aporta garantías, pero no agota las necesidades de vigilancia y seguimiento posteriores a la implantación. Plantea incluso la necesidad de desarrollar sistemas de vigilancia específicos para detectar posibles problemas derivados del funcionamiento de los algoritmos.
Sobre la figura del responsable del despliegue (introducida en los nuevos reglamentos de IA), Domínguez considera que puede mejorar la trazabilidad y permitir un seguimiento del ciclo de vida de los algoritmos dentro de las organizaciones. También supone un cambio en la forma de relacionarse con la tecnología, que ya no debe limitarse a su adquisición, sino incorporar su gobernanza.
En cuanto a la fabricación in-house en los hospitales, Morales explica que puede realizarse bajo determinadas condiciones y requisitos. Advierte especialmente sobre el uso de herramientas de IA desarrolladas de forma interna o no regulada para tomar decisiones clínicas. López coincide en que la facilidad actual para acceder a capacidad de computación y desarrollar aplicaciones puede favorecer usos que no tienen en cuenta las exigencias legales.
Morales reclama además mayor claridad sobre las soluciones desarrolladas internamente para necesidades que no cuentan con una alternativa comercial, mientras que López incide en que estas soluciones deben ajustarse a la normativa vigente. Por ejemplo, la fabricación in house queda limitada a aquellos casos en los que no exista ya una solución comercial en el mercado.
La gobernanza del dato y de la IA
En el último bloque, Fernández Lozano defiende una incorporación progresiva de la IA, empezando por aplicaciones concretas y de utilidad clara. Pone como ejemplo la posibilidad de utilizar la tecnología para adaptar los informes médicos a los pacientes sin obligar al profesional a elaborarlos de nuevo.
Domínguez destaca la oportunidad de utilizar la IA para reforzar la cultura del dato dentro de las organizaciones. Considera necesario mejorar la calidad de la información y avanzar desde el dato hacia el conocimiento, teniendo en cuenta cuestiones básicas como qué tecnología se utiliza, para qué, con qué datos y quién la supervisa.
A su juicio, la gobernanza debe implicar a todo el ecosistema sanitario (profesionales, gestores, industria, pacientes y decisores) y no limitarse a la creación de algoritmos.
Morales insiste en que la calidad del dato es la primera capa sobre la que debe construirse cualquier solución de IA. También señala el papel de las estructuras de protección de datos y de los responsables de datos de las comunidades autónomas en la evaluación de proyectos.
Por su parte, López sitúa el sistema sanitario español ante una etapa de transición marcada por la regulación europea de IA y el desarrollo del Espacio Europeo de Datos Sanitarios. Considera que la coordinación entre comunidades autónomas puede ayudar a compartir experiencias, identificar soluciones contrastadas y evitar la proliferación de proyectos aislados.
Conclusiones del debate
El debate concluye con una idea compartida: el desarrollo de la IA sanitaria exige avanzar en paralelo en implantación, formación, regulación, supervisión, calidad del dato y gobernanza. Los participantes señalan que la tecnología ya está presente en distintos ámbitos asistenciales, aunque su grado de implantación sigue siendo desigual y existen todavía retos para trasladar los proyectos piloto a una utilización generalizada.
Aspecto de la sala durante el debate, titulado 'Inteligencia Artificial en Sanidad: Seguridad y Buena Gobernanza'.
