La IA es una realidad y aunque los médicos aún deben abordar su uso con un puntito más de seguridad y formación, forma parte de nuestra sanidad y tiene efectos e impacto. Esta es una de las conclusiones en las que han coincidido cuatro primeros espadas del Derecho convocados por el XXXII Congreso Nacional de Derecho Sanitario, celebrado en Madrid: Cristina Gil Membrado, catedrática de Derecho Civil de la Universidad de las Islas Baleares; Raquel Luquin Bergareche, catedrática de Derecho Civil de la Universidad Pública de Navarra; Federico De Montalvo Jääskeläinen, profesor ordinario de Derecho Constitucional de la Universidad Pontificia Comillas, y Óscar Monje Valmaseda, catedrático de Derecho Civil de la Facultad de Derecho de la Universidad de Deusto.
De Montalvo ha sido el más específico: “No podemos ir de luditas. Creo que pronto veremos temas de responsabilidad del médico por no haberla querido usar o por no haberla usado cuando podía utilizarla por no recurrir a los instrumentos que tiene a su alcance para completar o mejorar el diagnóstico. Vamos a acabar teniendo condenas en médicos que no quieren utilizar la IA que se pone a su disposición. Ya no es una alternativa. Si tu institución pone una IA a tu disposición para ayudarte en tu trabajo, debes usarla. Otra cosa es que el problema de la IA está realmente en su uso: si acabamos incurriendo en un sesgo de delegación o de automatización en la que esperamos que la IA resuelva sin que el humano piense… Eso no. La IA tiene su lugar y nadie puede dejar de utilizarla de una manera sensata y adecuada”.
Federico De Montalvo Jääskeläinen, profesor Propio Ordinario de Derecho Constitucional de la Universidad Pontificia Comillas.
Gil Membrado también ha intervenido para matizar que “partimos de la premisa de que la máquina no puede fallar y de que la máquina no puede tener sesgos, pero el cerebro humano es infinitamente sesgado. Tendremos que ver cuál es el nivel de sesgo y de fallo que le permitimos a una máquina. Pero como decía Federico [por De Montalvo] la IA está aquí y hay que contar con ella. Es importante no caer en el sesgo de automatización, claro: no podemos dejar que nos haga el trabajo sin que haya una supervisión humana significativa, que es la obligación del profesional”.
Cristina Gil Membrado, catedrática de Derecho Civil de la Universidad de las Islas Baleares. Investigadora principal del Proyecto SALUDPYR
El marco que propone De Montalvo abre la puerta a múltiples escenarios: si un médico emplea la IA sin conocer -y por tanto, sin actuar para mitigar- los sesgos, ¿quién incurre en mala praxis: él o su empleador por no formarle?
Luquín aborda la cuestión: “El responsable del despliegue de la IA. De manera progresiva esto se va a tener que implantar. Y los responsables de este despliegue en el ámbito de la salud deberían formar -y me consta que en muchos sitios ya lo están haciendo- a los médicos. Entra dentro del estándar de diligencia de la Lex Artis. Ahora bien, también es verdad que hay que ponderar el momento en el que estamos, que es de adaptación, de progreso, de cambio. Es una evolución más allá de lo digital, mucho más allá de lo que suponía la telemedicina. Es otra cosa. De modo que creo que los tribunales, desde luego, atenderán a criterios de justicia, claro, pero también atenderán a la necesidad de adaptarse progresivamente y poco a poco, ¿Pero, por ser más clara: sí hay que ponerse las pilas”
Raquel Luquin Bergareche, catedrática de Derecho Civil de la Universidad Pública de Navarra. Investigadora principal del Proyecto SALUDPYR
Y, ¿qué sucede en el caso de profesionales sanitarios que utilizan modelos comerciales de IA que no están validados para el uso en pacientes?, ¿incurren también en mala praxis?
Monje se ha ocupado de atacar el asunto: “La realidad es que estas herramientas se utilizan. Y este uso para tomar decisiones podría generar responsabilidad, ya que, al final, los LLM se apoyan en su capacidad de cómputo y de cálculo de probabilidades y nos ofrecen una probabilidad, digamos, del 80 o el 90%. El problema es que esos porcentajes en Medicina no valen. Y, además, hay un añadido que puede estar sucediendo y de hecho soy consciente de que es así: que un profesional recoja dentro del historial médico del paciente que la toma de decisiones ha sido en base a el uso de estas herramientas. Debemos advertir a los profesionales que esas herramientas no son científicas”
Óscar Monje Valmaseda, catedrático de Derecho Civil de la Facultad de Derecho. Universidad de Deusto
