La inteligencia artificial promete una medicina cada vez más precisa, pero los algoritmos han aprendido, y siguen haciéndolo, de un conocimiento clínico que no representa por igual a quienes pretende tratar. España, Italia y Europa están ensayando distintas respuestas para evitar que una desigualdad antigua se convierta en una nueva infraestructura tecnológica.
La inteligencia artificial no entra en la consulta con prejuicios, lo hace con datos. Ésa es precisamente una de las razones por las que convendría desconfiar de una idea que hemos repetido con facilidad: que automatizar una decisión equivale, de algún modo, a hacerla más neutral.
Los datos sanitarios no aparecen de forma espontánea ni constituyen una fotografía inocente de la realidad. Proceden de personas que fueron diagnosticadas, de pruebas que alguien decidió solicitar, de síntomas que fueron considerados relevantes, de ensayos clínicos que establecieron determinados criterios de inclusión, de historias clínicas escritas bajo categorías concretas y de preguntas científicas que unas generaciones formularon mientras otras quedaron sin formular. Antes de convertirse en materia prima para un algoritmo, el dato ya tiene historia.
Una parte de esa historia de la medicina se construyó observando de forma insuficiente a las mujeres. La investigación biomédica lleva años revisando esta herencia. La literatura científica ha documentado cómo durante décadas numerosos ámbitos de la investigación médica han estado predominantemente orientados hacia el cuerpo masculino y cómo determinadas diferencias relacionadas con el sexo y el género han sido ignoradas, insuficientemente estudiadas o tratadas como variables secundarias. La llegada de la inteligencia artificial no elimina automáticamente ese problema, puede incluso añadirle una nueva escala: aquello que antes era una limitación del conocimiento puede convertirse ahora en un patrón que una máquina aprende, reproduce y utiliza para hacer una predicción. (Fuente: npj Digital Medicine, 2020)
Es importante que distingamos entre dos conceptos que, a menudo, se utilizan como si fueran intercambiables. El sexo remite a características biológicas que pueden influir en la enfermedad, la respuesta a determinados tratamientos o la aparición de síntomas; el género incorpora dimensiones sociales, conductuales y culturales capaces también de modificar exposición a riesgos, acceso al sistema sanitario, formas de expresar el dolor o posibilidades de recibir un diagnóstico. Ambos pueden dejar huella en los datos. Ignorarlos no produce neutralidad, sino información incompleta.
Cuando automatizamos también automatizamos el pasado
En 2024, un análisis internacional de estudios clínicos sobre aplicaciones de inteligencia artificial en salud examinó, entre otras variables, la representación por sexo/género. Después de excluir patologías específicas de un sexo, 146 estudios informaban de esa distribución. Solo tres incluían el mismo número de hombres y mujeres; aproximadamente un 36% presentaba una disparidad moderada y un 10% una disparidad elevada. La igualdad numérica no debe convertirse, por supuesto, en un criterio mecánico (hay enfermedades cuya prevalencia tampoco es idéntica), pero el estudio pone de manifiesto algo más importante: la representatividad de las poblaciones con las que se desarrollan y evalúan los sistemas de IA sigue siendo una cuestión clínica y no únicamente estadística. (Fuente: npj Digital Medicine, 2024)
La inteligencia artificial tiene una capacidad que ninguna de las anteriores formas de conocimiento médico poseía en esta escala: convertir regularidades históricas en predicciones futuras.
Si un determinado grupo ha sido diagnosticado con menor frecuencia, puede aparecer menos representado en los registros. Si sus síntomas han sido interpretados de manera diferente, esa diferencia queda incorporada a los datos. Si determinadas poblaciones participaron menos en investigación clínica, también existirán menos evidencias sobre ellas. Un algoritmo puede encontrar patrones extraordinariamente complejos dentro de ese conjunto de información y, sin embargo, seguir aprendiendo de una realidad incompleta.
La OMS lleva varios años advirtiendo de este riesgo. En sus recomendaciones sobre inteligencia artificial y salud señala que los sistemas pueden producir resultados menos fiables en poblaciones infrarrepresentadas y que los conjuntos de entrenamiento deberían ser diversos y representativos. La gobernanza de los datos sanitarios, insiste también WHO/Europe, debe garantizar no solo calidad y seguridad, sino representatividad, equidad y consideración explícita de la dimensión de género. (Fuente: OMS, 2024)
La inteligencia artificial puede estar sesgada, además ahora nos preguntamos: ¿qué clase de medicina estamos enseñándole?
Barcelona: intervenir antes de que exista el algoritmo
Una de las respuestas está surgiendo precisamente en Barcelona. Bioinfo4Women, iniciativa creada en 2018 dentro del área de Ciencias de la Vida del Barcelona Supercomputing Center, trabaja en la intersección entre bioinformática, inteligencia artificial, medicina personalizada y perspectiva de sexo y género. Su planteamiento: corregir el sesgo no consiste únicamente en examinar el resultado final de un algoritmo, sino en intervenir mucho antes, desde la pregunta de investigación y la composición de los datos hasta los propios equipos que diseñan la tecnología. (Fuente: Bioinfo4Women, BSC)
El programa ha impulsado investigación y espacios de trabajo específicamente dedicados a los sesgos de sexo y género en IA y salud. En una serie de encuentros coordinada junto con Fundación “la Caixa”, investigadoras e investigadores, profesionales sanitarios, especialistas tecnológicos, representantes institucionales y sociedad civil identificaron cuatro áreas particularmente problemáticas: falta de datos adecuados, impacto y conciencia social, sesgos algorítmicos y regulación. De aquel trabajo surgieron recomendaciones para incorporar el análisis de sexo y género a la investigación biomédica, las políticas públicas, la educación y el propio desarrollo de inteligencia artificial. (Fuente: Frontiers in Global Women’s Health, 2023)
No es una solución cerrada ni permite afirmar que el problema esté resuelto. Precisamente por eso resulta interesante. Su propuesta desplaza la intervención hacia el origen del sistema. Porque auditar un algoritmo cuando ya está desarrollado puede descubrir una desigualdad; evitar que determinados vacíos lleguen a sus datos aspira a impedir que esa desigualdad llegue a aprenderse.
Existe además otra dimensión menos tecnológica de la respuesta: quién diseña esos sistemas. Bioinfo4Women trabaja simultáneamente para aumentar la presencia y el liderazgo de mujeres en bioinformática y biología computacional. No podemos afirmar que las investigadoras estén inmunizadas contra el sesgo por el hecho de ser mujeres, pero ampliar las experiencias, disciplinas y perspectivas presentes en los lugares donde se decide qué investigar también modifica las preguntas que una comunidad científica es capaz de hacerse. (Fuente: Bioinfo4Women, BSC)
Italia: cuando la perspectiva de género entra en la norma
A cientos de kilómetros de Barcelona, Italia ofrece otro laboratorio interesante. El país incorporó normativamente la medicina de género y estableció la consideración de las diferencias de género en el diseño y desarrollo de los ensayos clínicos. Un análisis publicado en 2026 sobre 7.444 ensayos realizados entre 2016 y 2025 muestra que más del 91% incluían participantes de ambos sexos. Podría parecer la fotografía de un problema ya superado, pero los mismos datos introducen inmediatamente el matiz.
Que un estudio incorpore hombres y mujeres no significa necesariamente que su muestra refleje adecuadamente a la población afectada, ni que sus resultados se analicen de forma diferenciada. Algunos grupos continúan prácticamente fuera de la fotografía: durante esa década solo 71 ensayos incorporaron mujeres embarazadas y 44 mujeres en periodo de lactancia. Los autores señalan precisamente que estas poblaciones siguen estando extraordinariamente infrarrepresentadas. (Fuente: PubMed Central, 2026)
El caso italiano permite entender una de las principales limitaciones de cualquier solución regulatoria: incluir no equivale necesariamente a comprender.
Se puede aumentar la presencia de mujeres y continuar sin investigar diferencias relevantes. Se puede disponer de una cohorte aparentemente equilibrada y obtener un algoritmo cuyo rendimiento sea distinto entre subgrupos y se puede exigir representatividad y seguir utilizando categorías demasiado gruesas para detectar dónde aparece realmente el error.
La respuesta no puede reducirse a alcanzar una cifra.
Europa empieza a preguntar de dónde vienen los datos
También la regulación europea está desplazando el foco hacia este terreno. El Reglamento europeo de Inteligencia Artificial establece para los sistemas de alto riesgo exigencias específicas sobre gobernanza de los datos: obliga a examinar posibles sesgos capaces de afectar a la salud, los derechos fundamentales o producir discriminación; exige medidas para detectarlos y mitigarlos; y establece que los conjuntos de entrenamiento, validación y prueba sean pertinentes y suficientemente representativos para la finalidad prevista. (Fuente: Reglamento (UE) 2024/1689)
Es un cambio conceptual importante. Hemos preguntamos durante mucho tiempo qué precisión alcanzaba un algoritmo, ahora empezamos a entender que necesitamos una pregunta adicional: precisión, ¿para quién?
El Espacio Europeo de Datos Sanitarios añade otra pieza al escenario. El reglamento entró en vigor en marzo de 2025 y permitirá progresivamente un uso mucho más interoperable de información sanitaria dentro de la Unión Europea, también para investigación e innovación. Su potencial es enorme: conjuntos de datos más amplios pueden facilitar el desarrollo de modelos menos dependientes de las características particulares de un único hospital, ciudad o país. Pero el tamaño de una base de datos no garantiza por sí mismo su diversidad. Europa puede construir una infraestructura sanitaria extraordinariamente rica y seguir amplificando determinados vacíos si no sabe primero qué información falta. (Fuente: Comisión Europea)
Aquí aparece una de las paradojas centrales de la transformación digital sanitaria: nunca habíamos tenido tantos datos y nunca había sido tan importante saber quién no está en ellos.
Aprender juntos sin reunir todos los datos
Existen también soluciones técnicas ensayando otras formas de construir inteligencia artificial. El proyecto europeo ODELIA, financiado por Horizon Europe y centrado inicialmente en la detección de cáncer de mama mediante resonancia magnética, está desarrollando una red paneuropea basada en swarm learning. En lugar de trasladar todas las imágenes de pacientes hasta una gran base central, distintas instituciones entrenan conjuntamente los modelos manteniendo los datos clínicos dentro de cada centro.
A finales de 2025, ocho centros participantes habían alcanzado la capacidad operativa necesaria para realizar el primer entrenamiento multicéntrico abierto de este tipo. Los primeros resultados comunicados por el proyecto indican una mejor capacidad de generalización de los modelos entrenados colaborativamente frente a aquellos desarrollados únicamente con datos locales. (Fuente: CORDIS, Comisión Europea)
ODELIA no nació específicamente para resolver el sesgo de género y sería incorrecto presentarlo como tal, pero aborda una de las piezas del mismo problema: un algoritmo entrenado únicamente con la realidad de una institución puede confundir las particularidades de aquella población con patrones universales. Permitir que aprenda de entornos diferentes sin obligar a centralizar información especialmente sensible abre una vía para aumentar la diversidad de los datos sin renunciar a la privacidad.
También muestra los límites. Los propios responsables del proyecto señalan que todavía es necesario ampliar datasets, realizar nuevas validaciones multicéntricas y comprobar el comportamiento de los modelos en contextos adicionales. El periodismo de soluciones pierde su utilidad cuando convierte cada proyecto prometedor en una victoria antes de tiempo. Una solución debe poder explicar también aquello que todavía no ha demostrado. (Fuente: CORDIS, Comisión Europea)
¿Más mujeres en los datos? No será suficiente
Si algo enseñan estas iniciativas es que no existe única respuesta. Necesitamos estudios clínicos representativos, pero también análisis diferenciados cuando sexo y género puedan modificar los resultados. Necesitamos sistemas capaces de medir su rendimiento por subgrupos y no esconder comportamientos desiguales bajo una cifra global de precisión. Necesitamos datos procedentes de contextos diferentes, auditorías capaces de identificar quién queda peor representado y mecanismos para corregir esos desequilibrios antes y después del despliegue.
Necesitamos, además, mujeres investigadoras, ingenieras, médicas, pacientes y ciudadanas participando en las decisiones sobre qué tecnología merece desarrollarse y qué problemas resolver.
Debemos, como sociedad, aceptar que algunas desigualdades no pueden corregirse desde el algoritmo porque se encuentran fuera de él.
Una inteligencia artificial no puede fabricar retrospectivamente la evidencia clínica que nunca se produjo, ni puede reconstruir con certeza los síntomas que una paciente manifestó y nadie registró. No puede recuperar de una historia clínica aquello que nunca se preguntó ,como tampoco puede solucionar por sí sola las diferencias sociales que determinan quién accede antes a una consulta, quién participa en un ensayo o quién puede utilizar una herramienta digital.
La OMS ha insistido por ello en que la IA debe entenderse como una herramienta y no como una solución automática a las desigualdades sanitarias. La tecnología puede ayudar a corregirlas, pero también puede hacerlas más difíciles de detectar precisamente porque una predicción algorítmica conserva la apariencia de una conclusión matemática. (Fuente: OMS, 2024)
Ésta es una de las discusiones más importantes que Europa y el Mediterráneo tendrán que mantener mientras digitalizan sus sistemas sanitarios. No es desconfianza, es exigir a la IA aquello que prometemos cuando hablamos de medicina de precisión.
Una medicina no puede llamarse precisa únicamente porque calcula mejor, también debe saber a quién estuvo mirando cuando aprendió a calcular. Y, sobre todo, a quién todavía no había mirado.
