"El triaje con IA sin supervisión humana no se admite como ético o legal"

El Gobierno de Nayib Bukele ha dado un paso sin precedentes al iniciar la digitalización masiva del sistema sanitario salvadoreño a través de Dr. SV, una plataforma gestionada por la Inteligencia Artificial de Google. Con la promesa de crear "el mejor sistema de salud del mundo", el Ejecutivo ha delegado en un software tareas críticas como el triaje inicial, la asignación de citas y el seguimiento de pacientes crónicos.

Frente a esta fe ciega en la automatización, los expertos en bioética se muestran expectantes. Federico de Montalvo, catedrático de Derecho Constitucional en la Universidad Pontificia Comillas y expresidente del Comité de Bioética de España, detalla a Redacción Médica las implicaciones de un modelo que cruza peligrosas líneas rojas. Su diagnóstico es claro: la Inteligencia Artificial debe ser una herramienta auxiliar, pero nunca un sustituto del criterio médico humano.

El peligro del "algoritmo médico"

Uno de los aspectos más controvertidos de la aplicación Dr. SV es su capacidad para decidir de forma autónoma si un paciente requiere atención presencial o pruebas de laboratorio. Para Montalvo, delegar esta función en una máquina constituye una temeridad.

"El triaje sin una supervisión humana no creo que actualmente pueda admitirse desde una perspectiva ética y legal", advierte de forma tajante. El jurista subraya que el proceso de diagnóstico es de una complejidad extrema, ya que no se trata únicamente de procesar datos objetivos, sino de interpretar el contexto del paciente. "Se trata de valorar no solo signos, sino también síntomas, y en este caso la experiencia humana es insustituible por la máquina. El sistema de IA puede ser un instrumento auxiliar muy importante, pero garantizando tanto la supervisión como el mínimo contacto humano".

En caso de que el algoritmo falle, omita un síntoma clave y el paciente sufra daños o fallezca, la responsabilidad legal está clara para el experto: "Inicialmente recaería en primer lugar en el Estado, que es quien ha decidido implementar dicha fórmula de triaje puramente digital".

¿La sanidad sin médicos?

La digitalización total de la consulta mediante este algoritmo es inviable médicamente. "Siempre hay que garantizar un mínimo de contacto y supervisión humanas", recalca. "Existe ya literatura científica que avala que cuando hay contacto humano las posibilidades de éxito del tratamiento y de adherencia al mismo mejoran notablemente. Digitalizar plenamente la relación supone ofrecer una peor asistencia al paciente; supone hacerle daño o no evitar que sufra daño".

Lejos de plantear el avance tecnológico como una excusa para recortar personal, el expresidente del Comité de Bioética de España señala que "el profesional sanitario va a seguir siendo necesario, entre otras cosas, para la supervisión de la IA". El reto, apunta, es preparar al personal para este nuevo contexto, no eliminarlo de la ecuación.

Privacidad y brecha digital

El acuerdo salvadoreño implica ceder el historial clínico de toda la población a una corporación extranjera bajo un contrato protegido por el secreto estatal, vigilado a su vez por un Comité de Ética de composición anónima.

Aunque la transferencia internacional de datos de salud existe en ámbitos como la investigación biomédica, el caso salvadoreño es anómalo. "Estamos ante un caso que se sale un poco de lo habitual, sobre todo cuando no parece tratarse de una cuestión pactada política y socialmente, sino decidida por el Presidente de un Estado", reflexiona Montalvo.

---

"Un sistema puramente digital perjudica a las personas más vulnerables si no se mantienen alternativamente vías más tradicionales"

---

A la cesión de datos se suma la coerción implícita: para acceder a la sanidad, el salvadoreño debe pasar por el aro digital de la multinacional. En un país en vías de desarrollo, esto plantea un conflicto severo. "El problema puede no estar solo en la cesión de datos en sí, sino en la implementación de un sistema puramente digital donde el nivel de habilidades digitales de la población no es muy alto. Un sistema puramente digital perjudica a las personas más vulnerables si no se mantienen alternativamente vías más tradicionales", señala el catedrático, recordando que los derechos en juego son "la salud, la vida y la integridad de la persona".

Sobre el "comité de ética secreto" que avala el proyecto como si de un gran ensayo clínico se tratara, Montalvo es rotundo al invocar los principios elementales del Derecho: "La transparencia permite acreditar la racionalidad. Si no se conoce la composición del Comité, difícilmente podemos valorar si la decisión es racional o arbitraria y, por tanto, ilegal".

Un espejo para Europa

Frente a la desregulación salvadoreña, el marco legal europeo (con el RGPD y la reciente Ley de Inteligencia Artificial) clasifica precisamente los sistemas de salud y triaje algorítmico como herramientas de "alto riesgo". Si una administración pública en España intentara replicar el modelo de Bukele, expone, chocaría frontalmente con un muro de exigencias legales innegociables: transparencia absoluta, auditorías constantes y, tal como reitera el experto, la obligación irrenunciable de mantener el control y la supervisión bajo manos humanas.