Ricardo De Lorenzo.
El derecho a equivocarse frente a la exigencia de perfección: el médico ante la IA
Ricardo De Lorenzo y Montero es presidente en De Lorenzo Abogados
Errar es humano, y el Derecho sabe desde hace siglos que no todo error constituye culpa. Pero hay un lugar en el que esa máxima nunca acabó de entrar del todo: la consulta médica. Quien cruza su puerta no busca a alguien meramente humano; busca, comprensiblemente, a alguien que no falle. El médico, sin embargo, sabe que trabaja en el territorio de la incertidumbre: el diagnóstico incorpora probabilidades y, aun actuando correctamente, el desenlace puede ser adverso.
Entre ambas expectativas se ha situado siempre el Derecho: al médico no se le exige curar, sino actuar conforme a la “lex artis ad hoc”. Su obligación es, con carácter general, de medios y no de resultado. La consecuencia jurídica es esencial: la falibilidad no equivale a negligencia. El «derecho a equivocarse» no es un derecho autónomo a causar daño, sino una forma de expresar que el error, por sí solo, no acredita negligencia.
Durante mucho tiempo imperó el mito del médico infalible. El error era una mancha individual que se ocultaba en los pasillos, y ante un daño la pregunta no era qué había fallado, sino quién había fallado. A finales del siglo XX, la medicina se miró al espejo.
En 1999, el Institute of Medicine estadounidense hizo público el informe “To Err Is Human”: Building a Safer Health System”. El texto estimó —a partir de estudios realizados en Nueva York, Colorado y Utah— que entre 44.000 y 98.000 personas podían morir cada año en hospitales estadounidenses como consecuencia de errores médicos prevenibles, o como decimos en Derecho Sanitario, “eventos adversos evitables”. La estimación fue debatida, pero su mensaje permanece: muchos daños no proceden de profesionales incompetentes, sino de profesionales diligentes que trabajan en sistemas mal diseñados. La seguridad del paciente dejó de ser solo una cuestión de culpa individual para convertirse también en una cuestión de organización, prevención y aprendizaje.
En ese contexto, Albert W. Wu formuló en el año 2000 la expresión «segunda víctima»: el profesional que sufre las consecuencias personales y profesionales de un evento adverso. No se reconoció un derecho a ser negligente, sino la necesidad de distinguir el error inevitable de la conducta reprochable y de aprender sin culpabilizar automáticamente.
Hoy ese péndulo vuelve a moverse. Ha entrado en la consulta un nuevo actor: no se cansa, no hace guardias y, sobre todo, parece no dudar. La inteligencia artificial promete aquello que el médico nunca pudo prometer: una precisión próxima a la perfección. Si damos por supuesto que la máquina no falla, cualquier error volverá a parecer exclusivamente humano.
Pero la máquina falla. No le reconocemos un «derecho a equivocarse», porque no es sujeto moral ni jurídico; sin embargo, puede equivocarse. Una sensibilidad del 95% significa que, en las condiciones evaluadas, el sistema detecta el 95% de los casos positivos y deja sin detectar el 5% restante. Ese rendimiento tampoco garantiza idénticos resultados en cualquier población o contexto asistencial. La calidad de los datos y las condiciones de utilización importan tanto como la cifra.
Esta cautela no es una reserva jurídica frente al progreso, sino una exigencia de la propia medicina. Como ha recordado el doctor Cristóbal Belda Iniesta en su tribuna «Entre la ciencia y la fascinación», entre un algoritmo que funciona en una base de datos y una herramienta que mejora la salud de pacientes reales existe una distancia considerable. El atractivo tecnológico no sustituye a la evidencia de beneficio clínico.
Esa afirmación tiene una consecuencia jurídica inmediata: la disponibilidad de un algoritmo, su precisión aparente o su validación técnica no bastan para desplazar el juicio del médico ni para alterar automáticamente el estándar de diligencia. La medicina exige evidencia; el Derecho, garantías. Ambas perspectivas convergen en la necesidad de una incorporación responsable de la tecnología.
Además, muchos modelos operan como cajas negras: ofrecen una conclusión sin hacer inteligible el razonamiento que conduce a ella. Pueden presentar respuestas erróneas con apariencia de certeza y arrastrar sesgos de los datos con que fueron entrenados. La IA no elimina nuestras imperfecciones: puede reproducirlas y amplificarlas, especialmente respecto de grupos insuficientemente representados.
El legislador europeo es consciente de ello. El Reglamento (UE) 2024/1689, de Inteligencia Artificial, establece, con un calendario escalonado de aplicación, un régimen reforzado para determinados sistemas que son productos sanitarios, o componentes de seguridad de estos, cuando requieren evaluación de conformidad por terceros. No se limita a exigir precisión, solidez y ciberseguridad. Su artículo 14 prevé una supervisión humana efectiva: el supervisor debe comprender las capacidades y limitaciones del sistema, interpretar sus resultados y poder desestimarlos, revertirlos o interrumpir su funcionamiento. Las obligaciones específicas para estos sistemas vinculados a productos regulados tienen prevista su aplicación a partir del 2 de agosto de 2028, conforme al calendario actualizado.
El Reglamento menciona expresamente el «sesgo de automatización»: la tendencia a confiar excesivamente en los resultados de una máquina. No presupone la infalibilidad del algoritmo; identifica la confianza acrítica como un riesgo que debe prevenirse.
¿Desaparece entonces el derecho a equivocarse? No; se transforma su ejercicio. Al médico se le seguirá juzgando por la diligencia de su actuación clínica, pero también por cómo utiliza y supervisa la herramienta que interviene en ella.
Esa supervisión coloca al profesional ante una pinza incómoda. Si sigue al algoritmo y este se equivoca, puede reprochársele haber firmado sin pensar. Si se aparta de él y se equivoca, puede reprochársele haber ignorado una herramienta validada. Si no resolvemos esa tensión, empujaremos a los médicos hacia la opción aparentemente más defensiva: obedecer.
Por eso, el derecho a equivocarse debe reformularse como un derecho —y, en determinados casos, un deber— de discrepar razonadamente. No debe juzgarse la decisión exclusivamente desde el desenlace conocido, sino desde la información y las circunstancias disponibles cuando se adoptó. Lo que debe protegerse es el juicio clínico motivado, prudente y documentado.
El médico que se aparta de una recomendación algorítmica con razones clínicamente fundadas y actúa conforme a la “lex artis” debe recibir el mismo amparo que cualquier profesional diligente, aunque el desenlace sea desfavorable. Documentar no exonera por sí solo; permite acreditar las razones de una decisión diligente. Tampoco seguir el algoritmo constituye una garantía automática de corrección.
La “lex artis” no es inmóvil. Evoluciona con el conocimiento científico, la organización asistencial y los medios disponibles. La implantación de una herramienta no basta para hacer obligatorio su uso: importan su evidencia, utilidad, disponibilidad e idoneidad para el caso. En determinados supuestos podrá ser reprochable no utilizarla; en otros, utilizarla sin formación o sin comprender sus límites.
El médico no deja de ser clínico para convertirse en supervisor: añade la supervisión tecnológica a su responsabilidad asistencial. Debe conocer los límites relevantes de la herramienta y contrastar sus recomendaciones con la historia, la exploración y el contexto del paciente. Y debe seguir preguntándose si un tratamiento con un 60% de éxito merece la pena para esa persona, con sus valores, sus miedos y su proyecto de vida.
El deber de información asistencial y el consentimiento informado tampoco se detienen a las puertas del algoritmo. La Ley 41/2002 exige información adecuada y comprensible. La mera utilización de IA no determina, por sí sola, la necesidad de un consentimiento específico separado, pero su intervención debe explicarse cuando resulte relevante para comprender la actuación propuesta, sus riesgos y sus alternativas. La consulta no debe convertirse en una clase de informática, ni la tecnología en una excusa para reducir la autonomía del paciente.
Tampoco podemos depositar sobre los hombros del médico todo el peso del error tecnológico. La IA carece de personalidad jurídica y no responde por sí misma. La responsabilidad debe atribuirse según la intervención de cada sujeto, el defecto o incumplimiento y su relación con el daño. No se reparte automáticamente: se determina jurídicamente.
La Directiva (UE) 2024/2853, sobre responsabilidad por productos defectuosos, configura el nuevo marco europeo para productos introducidos en el mercado o puestos en servicio después del 9 de diciembre de 2026 y requiere transposición al Derecho nacional. Incluye el software, también los sistemas de IA, y facilita, bajo determinadas condiciones, la exhibición de pruebas en poder del demandado. Contempla, además, presunciones refutables de defecto o causalidad cuando el perjudicado afronta dificultades probatorias excesivas derivadas de la complejidad técnica o científica y demuestra que es probable el defecto o su relación causal con el daño. La opacidad tecnológica no debe convertirse en una barrera insuperable para el perjudicado.
El centro sanitario también puede responder. El Reglamento de IA diferencia las medidas de alfabetización de las obligaciones específicas de supervisión de sistemas de alto riesgo, sujetas a su correspondiente calendario de aplicación. Para esa supervisión prevé personas con competencia, formación y autoridad suficientes. Sin formación, tiempo, información ni capacidad efectiva para cuestionar el resultado, la supervisión es una ficción. Cuando el daño deriva de esas carencias, puede existir un defecto de organización, no solo una culpa individual. La infracción regulatoria, sin embargo, no determina automáticamente una indemnización: deben concurrir los presupuestos del régimen de responsabilidad aplicable.
La inteligencia artificial puede salvar vidas y mejorar diagnósticos. Nada de esto es un alegato contra ella. Lo peligroso no es que entre en la consulta, sino que entre revestida de infalibilidad.
La medicina no perderá su humanidad por utilizar algoritmos. La perderá si confunde evidencia con fascinación, asistencia con obediencia y predicción con decisión clínica. La reflexión del doctor Cristóbal Belda Iniesta y la perspectiva jurídica se complementan: la ciencia debe acreditar el beneficio; el Derecho debe garantizar que su incorporación no desproteja al paciente ni vacíe de contenido la responsabilidad profesional.
Cuidemos el derecho de nuestros médicos a equivocarse cuando han actuado diligentemente. Pero cuidemos, sobre todo, su derecho y su deber de disentir con razones. Porque el último bastión de nuestra humanidad no reside en el error, sino en la capacidad de decidir responsablemente, asumir las consecuencias y seguir mirando al paciente a los ojos.
