Mesa de "Responsabilidad Sanitaria y Pericial ante un nuevo “Profesional” la Inteligencia Artificial
El nuevo paradigma de responsabilidad médica y pericial ante la IA: "Podemos delegar tareas, pero no criterio"
El derecho se enfrenta al reto de determinar hasta dónde responde el profesional y hasta dónde la máquina ante eventuales fallos, ante una tecnología que avanza a mucha más velocidad que el marco regulatorio
Y además: La Inteligencia Artificial marca el XXXII Congreso Nacional de Derecho Sanitario de la AEDS
La revolución sanitaria que plantea la IA genera una serie de cuestiones a nivel legal a las que el derecho tiene aún pendiente determinar respuesta. Las posibilidades técnicas que ofrece emplazan a un nuevo modelo de reparto de responsabilidades entre el profesional y la máquina en el que es preciso determinar quién debe responder ante eventuales fallos en la atención. Una cuestión ha sido fruto de análisis en un taller en el marco del XXXII Congreso de la Asociación Española de Derecho Sanitario (AEDS), con la participación de expertos desde el punto de vista jurídico, clínico y pericial.
Su imparable avance está especialmente instaurado en campos como el diagnóstico por imagen, el triaje de pacientes, asistentes en consulta o en la investigación de biomarcadores. La IA emerge así como una suerte de 'profesional' adicional con un potencial de desarrollo exponencial. Los ponentes han insistido en que el criterio clínico siempre debe prevalecer sobre las recomendaciones de la máquina, al tiempo que han reconocido la necesidad de aprovechar todas las posibilidades de desarrollo tecnológico.
Iñigo De Miguel Beriain, doctor en Derecho, jurista e investigador especializado en las implicaciones éticas y jurídicas Profesor UPV y UCJC Asociación Española de Derecho Sanitario
Entre la lex artis y el producto defectuoso
Desde la perspectiva jurídica, la integración de algoritmos en el diagnóstico y tratamiento obliga a trazar una frontera clara entre la responsabilidad del facultativo y la del desarrollador del software. José Carlos López, magistrado letrado de la Sala Primera del Tribunal Supremo, ha explicado que la responsabilidad del médico en España sigue siendo subjetiva y se rige por la lex artis, mientras que la del fabricante se enmarca en la responsabilidad objetiva por productos defectuosos.
José Carlos López Martínez, magistrado Letrado de la Sala Primera del Tribunal Supremo Profesor UCJC.
El jurista ha advertido sobre el desfase normativo actual, señalando que la medicina ya utiliza estas herramientas mientras Europa aún ultima la transposición de la nueva Directiva de Productos Defectuosos, que incluye expresamente al software y los sistemas de IA. Esta norma introducirá presunciones legales a favor del paciente perjudicado ante la complejidad técnica de probar un fallo algorítmico, contemplando incluso la capacidad de autoaprendizaje del sistema tras su puesta en el mercado.
No obstante, López subraya que la directiva no exime al sanitario si incurre en lo que denominó "sesgo de automatización". "No nos podemos guiar solo y exclusivamente por lo que la máquina nos diga; siempre que sea posible advertir el error mediante otras pruebas diagnósticas, la aceptación acrítica genera responsabilidad profesional", ha puntualizado el magistrado.
Automatización acrítica, ¿hasta dónde se puede delegar en la IA?
En el ámbito de la valoración del daño corporal y los litigios sanitarios, la directora médica ejecutiva del Grupo Promede, María Rodríguez, ha apuntado que el uso de la IA entre peritos se ha convertido en una realidad que exige control ético y metodológico. Si bien la tecnología permite agilizar considerablemente la búsqueda de documentación y la elaboración de informes, sigue aún presentando riesgos y dudas que ella misma reconoce tener personalmente.
Rodríguez de Alba ha advertido sobre la tendencia de los modelos generativos a dar la razón al usuario según cómo se formule la consulta, e incluso a inventar o descontextualizar bibliografía científica. Otro sesgo al que ha aludido es la tendencia a juzgar la actuación médica desde el conocimiento del desenlace final en lugar de situarse en la incertidumbre clínica del momento. "Plausibilidad no implica certeza; extraer información no equivale a emitir un juicio pericial", ha aseverado.
Por ello, considera que no se debe delegar el juicio: "Hemos pasado de usar la IA para que nos organice los ingredientes a darle al botón de la Thermomix para que emita un informe que simplemente validamos", sostiene. A su juicio, con las posibilidades actuales que ofrece la IA, "podemos delegar tareas, pero no podemos delegar criterio".
María Rodríguez de Alba Galofre, licenciada en Medicina Directora médica ejecutiva del Grupo Promede, perito médico y profesora en la UCJC.
La cuestión no está exenta de debate pues, tal y como se puso de manifiesto en el turno de preguntas, la progresiva introducción de estos sistemas hace que no pueda descartarse. En este sentido, el presidente del grupo Promede, Juan Abarca, planteó que, en un contexto de elevados tiempos de espera y presión asistencial, es preciso aprovechar la optimización de recursos y procedimientos que ofrece esta tecnología. A propósito de dejar sobre los hombros del médico la responsabilidad de acogerse a las recomendaciones de la IA, López ha reconocido que "a la velocidad que vamos, no descartaría que la IA no solo sea una herramienta que nos evite trabajo, sino que pueda llegar a desarrollar criterio propio".
Evidencia clínica frente a precisión técnica
La IA es una realidad cada vez más asentada en la práctica clínica y el día a día de los hospitales. Algo que la responsable de la Unidad de Innovación del Hospital Clínico San Carlos, María Luaces ha puesto de manifiesto aludiendo a los más de 1.600 dispositivos con esta tecnología que ha aprobado la FDA, especialmente en campos como la radiología, la cardiología, la neurología o el triaje de pacientes. No en vano, Luaces, ha hecho hincapié en la necesidad de reforzar la evidencia científica disponible sobre los beneficios clínicos que aporta.
María Luaces Méndez, responsable de la Unidad de Innovación en el Hospital Clínico San Carlos (Madrid).
"La precisión técnica de la inteligencia artificial está más que demostrada, pero ahora tenemos que demostrar con metodología de ensayo clínico que realmente mejora los resultados de salud de las personas", ha señalado en este sentido. La facultativa ha alertado sobre los riesgos de entrenar algoritmos con datos incompletos —donde grupos como mujeres o población pediátrica suelen estar infrarrepresentados— y sobre los fallos en herramientas de asistencia documental, como los escribas digitales que pueden omitir alergias graves en un informe si el médico no los revisa.
Para Luaces, el algoritmo carece de elementos esenciales del acto médico: "La inteligencia artificial no puede asumir las preferencias del paciente, sus valores ni sus circunstancias personales, y tampoco puede asumir la responsabilidad profesional y jurídica".
Gobernanza y agentes autónomos en el hospital
Por su parte, Jesús Sánchez, director corporativo de Transformación Digital y Sistemas de HM Hospitales, ha aportado la visión operativa del despliegue tecnológico a gran escala. En este sentido, ha explicado cómo en los hospitales de este grupo se está transitando desde la IA generativa básica hacia ecosistemas de agentes avanzados capaces de orquestar tareas complejas, citando como ejemplo un sistema propio de codificación clínica, que logra un 91,7 % de acierto inicial en apenas 33 segundos frente a la hora y media que requería un documentalista, alcanzando el 100 % tras la validación humana.
Jesús Sánchez Mena, director corporativo de Transformación Digital y Sistemas en HM Hospitales.
Sánchez ha destacado que el éxito de estas herramientas —que abarcan desde la reconstrucción quirúrgica en 3D hasta la cirugía robótica remota entre países o los gemelos digitales docentes— depende estrictamente de la gobernanza previa y la ciberseguridad. "Tratamos incluso los desarrollos administrativos bajo los estándares de alto riesgo del reglamento europeo, asegurando trazabilidad absoluta sobre qué propuso cada agente y qué decidió finalmente el profesional", ha explicado.