Del IA first al Human first

Durante los últimos meses se ha extendido una expresión que suena moderna, ambiciosa y casi inevitable: “Inteligencia Artificial primero” (AI First). También en sanidad empieza a repetirse como una consigna de transformación. Hospitales, aseguradoras, administraciones, universidades, sociedades científicas, compañías tecnológicas y grupos sanitarios empiezan a incorporar la IA no solo como herramienta auxiliar, sino como eje estratégico para rediseñar procesos, automatizar tareas, mejorar la eficiencia, ordenar datos, priorizar recursos y anticiparse a un cambio que avanza a una velocidad difícil de asimilar.

El problema no está en la expresión, sino en lo que puede esconder cuando se convierte en dogma. Porque una organización sanitaria que dice ser AI First puede estar queriendo decir dos cosas muy distintas. Puede significar que quiere incorporar la inteligencia artificial con criterio clínico, gobernanza, evaluación, seguridad, prudencia y sentido de servicio. O puede significar, simplemente, que ha decidido mirar la medicina desde la tecnología antes que desde el paciente, el profesional y la relación clínica. Y ahí empieza el riesgo.

La inteligencia artificial llega a sistemas sanitarios tensionados: hospitales con listas de espera, atención primaria sobrecargada, profesionales fatigados, pacientes crónicos cada vez más complejos, servicios administrativos saturados, gestores obligados a priorizar recursos escasos y ciudadanos que no siempre saben cuándo una recomendación, un informe, una priorización o una respuesta asistencial ha sido generada por una persona, por un algoritmo o por una combinación poco transparente de ambos. Por eso, antes de preguntarnos qué puede automatizar la IA en sanidad, conviene formular una pregunta anterior: qué no debemos perder por el camino.

El Papa León XIV lo ha recordado con especial oportunidad en su encíclica Magnifica Humanitas, dedicada precisamente a la dignidad de la persona humana en el tiempo de la inteligencia artificial. No se trata de una advertencia contra la tecnología, sino de una llamada a ordenar el progreso desde una brújula moral. En medicina, esta advertencia adquiere una densidad especial. La IA puede ayudarnos a diagnosticar antes, priorizar pruebas, detectar patrones invisibles, reducir errores, personalizar tratamientos, aliviar burocracia y mejorar la gestión sanitaria. Pero si la lógica que la gobierna es solo la eficiencia, el ahorro o la productividad, el paciente corre el riesgo de quedar reducido a dato, riesgo, probabilidad, episodio, coste o expediente.

La IA promete resolver problemas reales, pero también puede amplificar viejos defectos del sistema sanitario: la prisa, la burocracia, la desigualdad, la fragmentación asistencial, la medicina defensiva, la opacidad organizativa o la despersonalización. Un hospital puede utilizar IA para priorizar con más justicia una prueba diagnóstica, pero también para esconder bajo una apariencia neutral decisiones organizativas discutibles. Un servicio clínico puede apoyarse en algoritmos para mejorar la seguridad del paciente, pero también puede terminar delegando juicio profesional en sistemas que no comprenden el contexto completo. Una administración puede automatizar trámites para facilitar el acceso, pero también puede levantar una nueva barrera digital entre el ciudadano vulnerable y el sistema sanitario.

La diferencia no está solo en el algoritmo. Está en la indicación de uso, en el diseño, en la validación, en la supervisión, en la trazabilidad, en la responsabilidad y en la cultura clínica de la organización. En medicina no basta con que una herramienta sea técnicamente brillante. Tiene que ser clínicamente útil, segura, proporcional, explicable en función de su riesgo, integrada en el flujo asistencial y evaluada en población real. La pregunta no puede ser únicamente si la IA funciona, sino para quién funciona, en qué contexto, con qué beneficio, con qué riesgos y bajo qué responsabilidad.

Por eso necesitamos pasar del “IA primero” al “Human First”. La IA debe ser una herramienta de aumento humano, no una coartada para la retirada humana. Debe ayudar al médico a decidir mejor, no sustituir la responsabilidad de decidir. Debe liberar tiempo clínico, no llenar la consulta de nuevas dependencias tecnológicas. Debe reducir desigualdades, no crear una medicina de dos velocidades entre pacientes capaces de navegar sistemas digitales y pacientes expulsados por ellos. Debe mejorar la seguridad, no generar una falsa sensación de infalibilidad algorítmica.

El entusiasmo tecnológico suele venir acompañado de una tentación peligrosa: pensar que todo lo que puede medirse puede gobernarse, y que todo lo que puede predecirse puede resolverse. Pero la vida clínica no cabe del todo en una base de datos. Un paciente no es solo una analítica, una imagen radiológica, una escala de riesgo o una probabilidad estadística. Es también una biografía, una familia, unas preferencias, una manera de entender la enfermedad, una situación social concreta y una relación de confianza con el profesional que lo atiende. La IA puede ordenar datos, pero no debe sustituir la deliberación clínica. Puede sugerir diagnósticos, pero no conoce el silencio del paciente. Puede generar informes, pero no asume el peso moral de una decisión compartida.

---

"Una organización que implanta IA sin formar a sus profesionales no está innovando: está desplazando riesgo hacia quienes deberán convivir con sus consecuencias"

---

El Human First en medicina exige gobernanza. Y la gobernanza no puede ser un adorno burocrático ni una palabra reservada a comités de innovación. Significa definir con precisión para qué se usa cada sistema de IA, con qué límites, con qué datos, con qué validación, con qué supervisión humana, con qué indicadores de seguridad, con qué auditorías de sesgo, con qué protocolos de retirada y con qué reparto de responsabilidades entre proveedor, organización sanitaria y profesional. No basta con comprar una herramienta porque “funciona” en una demostración. Hay que comprobar si funciona en la realidad asistencial, con pacientes reales, en contextos reales y con consecuencias reales.

También exige transparencia. El paciente tiene derecho a saber cuándo una decisión relevante para su salud está mediada por IA, qué papel ha tenido la herramienta, qué grado de intervención humana existe y quién responde si algo falla. La confianza sanitaria no puede construirse sobre cajas negras organizativas. Si el sistema utiliza IA para priorizar una lista de espera, orientar una derivación, interpretar una prueba o emitir una recomendación clínica, debe existir una explicación suficiente y una responsabilidad identificable. La intervención humana no puede ser una firma decorativa al final del proceso.

Pero el Human First exige algo más profundo: un nuevo compromiso con la alfabetización en IA de los profesionales sanitarios. No basta con enseñar a usar herramientas. Hay que formar para comprender sus límites, detectar sesgos, interpretar resultados, conocer riesgos, valorar evidencia y saber cuándo apartarse de una recomendación automatizada. La alfabetización en IA no puede reducirse a saber escribir buenos prompts o manejar una aplicación. Debe incluir pensamiento crítico, seguridad del paciente, protección de datos, ética clínica, regulación europea, responsabilidad profesional y evaluación de impacto.

En la época de la IA, la ignorancia tecnológica no será una anécdota, sino una nueva forma de vulnerabilidad profesional. Un médico que no entiende mínimamente cómo opera una herramienta que influye en su práctica corre el riesgo de delegar sin saberlo. Y una organización que implanta IA sin formar a sus profesionales no está innovando: está desplazando riesgo hacia quienes deberán convivir con sus consecuencias.

En realidad, la pregunta esencial no es si el sistema sanitario debe incorporar inteligencia artificial. La respuesta, en muchos ámbitos, será sí. La pregunta importante es otra: qué tipo de medicina queremos construir cuando la incorporemos. Una medicina obsesionada con automatizarlo todo puede terminar automatizando también su humanidad. Una institución que solo mire indicadores puede olvidar aquello que no cabe en el cuadro de mando. Un hospital que convierta el AI First en religión corporativa corre el riesgo de sacrificar en el altar de la eficiencia lo más valioso que tiene: la confianza entre paciente y profesional.

No se trata de elegir entre inteligencia artificial y humanismo médico. Esa oposición es falsa. La verdadera elección está entre una IA gobernada por valores clínicos, éticos y deontológicos, y una medicina gobernada por lógicas algorítmicas que nadie termina de comprender. La primera opción puede mejorar la calidad asistencial. La segunda puede erosionar el juicio clínico, la responsabilidad profesional y la confianza social.

La inteligencia artificial será una de las grandes fuerzas transformadoras de la medicina contemporánea, pero no debe convertirse en el nuevo centro moral de nuestras instituciones sanitarias. El centro debe seguir siendo la persona: el paciente que sufre, el profesional que decide, la relación clínica que acompaña y el sistema que debe cuidar con justicia. Del AI First al Human First no hay una renuncia al futuro. Hay, precisamente, una forma más médica, más ética e inteligente de habitarlo.