Publicada

¿Quién responde cuando una herramienta de IA entra a formar parte de un diagnóstico o una decisión terapéutica? Esta es la pregunta con la que José Vilella, director general médico de Asisa ha comenzado su intervención en el XXXII Congreso de Derecho Sanitario, celebrado en Madrid.

“La IA ha cambiado el cómo, porque antes, entre el dato y el médico, no había nada. Ahora hay una IA que propone y resume la historia y condiciona lo que vemos o lo que dejamos de ver. Lo que no ha cambiado es el quién. El médico sigue siendo el que firma la historia clínica. Lo que ocurre es que la responsabilidad ahora se reparte entre tres actores: el fabricante, que es quien hace la herramienta, el hospital o la institución, que implanta la herramienta, y el médico, que es quien la usa”.

En este sentido, Vilella ha recordado que la supervisión humana solo vale si el supervisor entiende las capacidades y limitaciones del sistema y es capaz de interpretar correctamente su resultado para decidir si lo va a usar o no. “Si un profesional no puede explicar por qué ha aceptado lo que le dice la máquina, no está supervisando, sino firmando un cheque en blanco”.

La lex artis juzga la actuación del médico con una consideración clara: lo que un profesional diligente hace ante los medios disponibles en una situación muy concreta. No le exige ser infalible, sino actuar con la diligencia debida. La IA introduce una asimetría en esta relación que para Vilella debe tener reflejo en términos de responsabilidad: “Yo propongo un mapa con tres actores que no se excluyen, sino se suman. El primero es el fabricante que responde del diseño del sistema, de su validación clínica, de las instrucciones de uso, de la vigilancia del producto y por supuesto de sus actualizaciones [en el marco normativo de la directiva de productos defectuosos]. En segundo lugar, el centro, que es responsable del despliegue, ya que elige la herramienta, tiene la responsabilidad de formar al profesional, asigna la supervisión humana competente y conserva el registro de los algoritmos. Y en tercera línea tenemos al profesional sanitario que es el que usa la herramienta dentro de su finalidad y que está obligado a aplicar siempre su juicio clínico, informar al paciente y dejarlo documentado. Es la lex artis de siempre con un elemento nuevo.”

José Vilella, director general médico de Asisa / Imagen Pablo Álvarez

Para Vilella, si la IA interviene, debe constar en la historia clínica, ya que lo que no está escrito, no existe: qué herramienta se usó, qué propuso, el resultado que predijo, así como qué decisión tomó el profesional y por qué decidió aceptar el juicio de la IA, o por qué no.

Y, naturalmente, todo este cambio en el paradigma debe tener su reflejo en aspectos más prosaicos, pero igualmente críticos, como las coberturas de responsabilidad civil de los seguros médicos: “Tienen que revisarse para un escenario donde el daño pueda tener varios responsables: fabricante, hospital y profesional. No es burocracia: es lo que nos permitirá defender a nuestros profesionales y sobre todo proteger a nuestros pacientes”.

El coste de activar medicina preventiva basada en predicción de la IA

José Pereira, director de Medios de Asisa, ha abordado las ramificaciones de la introducción de la IA y cómo afectan, por ejemplo, al acto asistencial en términos de resultados en salud. Desde su óptica, la IA permite anticipar eventos sobre los pacientes, lo que facilita activar actuaciones preventivas basadas en esa predicción. “Si voy a intervenir para tener un diagnóstico más temprano, lo voy a hacer con una predicción, con un algoritmo que me indica la relevancia de un dato o me señala el resultado de determinada prueba. Esto cuesta dinero y puede suponer un mayor coste para la aseguradora. Si anticipamos una intervención y si hacemos un seguimiento, lo que vamos a intentar o lo que deberíamos conseguir en primer lugar es una mayor calidad de salud del asegurado”. Además, en su opinión, si aumenta esa capacidad predictiva basada en la IA “la responsabilidad no se delega. En la IA no se puede delegar nunca la responsabilidad. Se pueden delegar tareas o acciones, pero la responsabilidad sigue siendo médica. El algoritmo recomienda, el profesional valora y el profesional decide. Y luego la organización tiene que garantizar que puede demostrar lo que pasa y responder de todo lo que se ha hecho”.

José Pereira Hernández, director de medios de Asisa. / Imagen Pablo Álvarez

El consentimiento y el uso secundario: el modelo alemán

Lorenzo Cotino, presidente de la Agencia de Protección de Datos, ha recordado que el Reglamento Europeo de IA deja fuera a la investigación, y ha criticado la propuesta europea de regulación biomédica por hacer del consentimiento la base de legitimación e impedir que los países regulen por su cuenta. No ha tenido reparos en elogiar a Alemania por su modelo de regulación y su modelo de opt-out. En su opinión, dentro de los usos secundarios para la investigación “hacer pasar todo por el consentimiento perjudica seriamente la salud. También hay que recordar que el reglamento de inteligencia artificial en la parte de investigación directamente queda fuera de la aplicación y me gustaría también subrayar que el reglamento biomédico es una propuesta y habría que aprovechar que como base de legitimación el consentimiento. Viene una Alemania con mucho empuje y que regula con una opción bastante adecuada”.

Lorenzo Cotino Hueso, presidente de la Apep. / Imagen Pablo Álvarez