Yunya Sato, autor principal del estudio en Nature
¿Qué tal se le da a la IA recomendar fármacos? Le falta ‘calle’ clínica (y se fía en exceso de la notoriedad digital)
Un estudio en Nature analiza cómo se comportan 5 modelos al recomendar fármacos. Spoiler: más bien mal. La economista Beatriz González López Valcárcel nos ayuda a entender el estudio, sus implicaciones y si sería aplicable a España.
Un estudio publicado en Nature ha medido cómo se comportan GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 y MedGemma cuando los usuarios les preguntan por fármacos. El resultado es que los cinco modelos tienden a recomendar los mismos fármacos cuando le preguntas por un principio activo y que esta recomendación no siempre es la opción clínica más adecuada. Le falta calle (y criterio) clínico y se fía en exceso de sus fuentes, que se apoyan sobre todo en la notoriedad digital. El comportamiento de estos modelos de IA no está ni medio cerca de la práctica clínica real (solo fue coincidente en el 29,7% de los casos) en Estados Unidos.
El grupo de investigadores, liderado por Yunya Sato, del Departamento de Inteligencia Artificial en Diagnóstico Radiológico de la Universidad de Osaka (Japón) y del MD Anderson Cancer Center de Texas (Estados Unidos), alimentó los cinco modelos IA con 177.120 casos clínicos simulados, construidos combinando distintos perfiles sociodemográficos con 123 pares de enfermedad y principio activo.
¿El resultado? Los productos con mayor notoriedad digital concentraron, en promedio, el 97,5% de las primeras opciones por combinación y modelo. Todos prefirieron Lipitor, de Pfizer, para atorvastatina (Cardyl y Zarator en España); Norvasc, de Viatris, para amlodipino (Norvas en España), y Zoloft, también de Viatris, para sertralina (con el mismo nombre en España).
Una dimensión distinta de la alucinación
Lo interesante de este estudio es que le pone cifras a una dimensión distinta de la alucinación: un modelo puede mencionar un medicamento real y, aun así, favorecer sistemáticamente un producto comercial frente a otros del mismo principio activo. Y para mostrarlo, utiliza la comparación con el uso real, un modelo de simulación de costes (que analizaremos en un par de párrafos) y una revisión de la regulación. “En nuestro análisis solo con la enfermedad, que omitía el principio activo, la convergencia se redujo, pero persistió, aunque los distintos modelos recomendaron a menudo fármacos diferentes”, señala a este periódico Sato, el autor principal.
La pregunta lógica es ¿quién controla que los asistentes usen información vigente y no conviertan notoriedad digital en preferencia terapéutica? Sato la contesta: “Creemos que los reguladores deberían evaluar la neutralidad comercial también en esta etapa previa. Sospechamos que la prominencia de los nombres de marca [su notoriedad digital] en los datos de entrenamiento es un factor determinante. Las asociaciones que hemos encontrado respaldan esta hipótesis, pero no establecen causalidad”
El hecho de ser un producto original de marca fue el factor más asociado a la recomendación: la probabilidad de que la IA lo recomendara era 20,5 mayor. Le seguían tener visibilidad en Google y tener página en Wikipedia. Ninguno de estos tres factores tiene nada que ver con el criterio clínico, pero tampoco tiene nada de ilegal o ilícito.
Además, hasta el 15% de las recomendaciones se referían a productos retirados del mercado. No es que fueran tratamientos peligrosos, sino que simplemente ya no estaban en el mercado. Sato explica que la solución a esta disfunción podría estar en “un mejor diseño de los prompts y actualizar las bases de datos regulatorias podría reducir las recomendaciones de productos que ya no se comercializan. Sin embargo, no comprobamos si estos enfoques eliminan el problema. Son componentes prometedores de los asistentes clínicos, pero requieren validación”.
Cómo protegernos de ese sesgo
Los riesgos del despliegue e introducción de la IA en la vida y las decisiones de los pacientes están claros. Y es imposible ponerle puertas al campo, porque el paciente que antes preguntaba a Google ahora le traslada sus dudas a una IA. De modo, que ¿cómo mitigar estos sesgos para que la variabilidad no se convierta en inequidad?
“Idealmente, la evaluación de sesgos debería comenzar por los datos de entrenamiento. Antes del despliegue, los desarrolladores y los sistemas sanitarios deberían probar el mayor número posible de escenarios realistas dentro de los usos previstos, identificar las diferencias injustificadas entre grupos de pacientes y evaluar si el uso de prompts específicos u otras intervenciones las reducen”, concluye Sato.
Simulación de costes
Para abordar el impacto financiero de este comportamiento de la IA, los autores se plantearon un condicional: si en lugar del uso real se repartiera la prescripción tal y como recomiendan las IA, ¿cómo quedaría la cuenta? Según el estudio, 55,6 millones de dólares anuales más, con un aumento del 1.019% sobre la práctica real.
Pero, ¿cómo de sólida es esta conclusión? Hemos pedido a la economista de la salud, Beatriz González López-Valcárcel, Catedrática de Economía en Universidad de Las Palmas de Gran Canaria, que nos ayude a entender una hipotética traslación de este análisis a la situación en España:
Pregunta. La simulación estima un incremento del 1.019% en costes de adquisición para 51 principios activos. ¿Qué supuestos sostienen una cifra así y cuáles son los puntos débiles para trasladarla al sistema español?
Respuesta. Los resultados no son trasladables a España. Tampoco muy útiles para EEUU, salvo para conocer las limitaciones del análisis y que la IA todavía no está lista para esa tarea. Es más, si se utilizara, habría riesgo de manipulación estratégica de las marcas para posicionarse. Hay varias marcas para el mismo principio activo e indicación (media 5,5), por tanto, se trata de medicamentos fuera de patente. Lo más interesante a mi juicio es el descubrimiento del sesgo sistemático de disponibilidad de todos los algoritmos y la concordancia entre ellos. No solo los humanos tenemos ese sesgo, bien estudiado por Kahneman y Tversky, también la IA lo sufre.
Por otra parte, también resultan interesantes las diferencias sistemáticas en prescripción según criterios sociodemográficos, ajenos a las necesidades de salud. El estudio, en cualquier caso, es limitado. De los 123 pares enfermedad-principio activo, solo se pueden analizar los costes (precios) de 51 de ellos. El resto, se pierde o porque no está ya en el mercado, o no se prescribe según datos del panel MEPS, o no se conoce el precio…
P. En España, con precios regulados, compras centralizadas en algunos ámbitos y dispensación de genéricos, ¿qué impacto real podría tener que un asistente favorezca marcas frente a lo que ocurre en EEUU?
R. En España genéricos y marcas no compiten en precio, sino que pertenecen a grupos de homogéneos, con precios de referencia (la lista de precios y grupos de 2026 aqui). Genérico y marca tienen el mismo precio. Para fomentar la prescripción y el uso de genéricos, las CCAA suelen incorporar entre los indicadores de desempeño para la productividad variable en los contratos programa el porcentaje de genéricos prescritos.
Por tanto, en España la IA no cambiaría las cosas. En nuestro país ya contamos con ayudas incorporadas a la prescripción on line en las consultas. En estas situaciones, salta la opción preferible al ordenador del médico prescriptor.
P. El estudio no mide la actuación posterior del médico ni la sustitución en farmacia. ¿Cómo diseñaría usted un estudio para medir el efecto económico real de estos asistentes en el SNS?
R. Creo que un asistente de IA mejor diseñado, que incorpore información para ayudar a la prescripción, podría ser útil en España. Los prompt podrían y deberían refinarse, incluyendo criterios de eficacia, efectividad y coste-efectividad, y preferencias de los pacientes en su caso.
P. Recomendar genéricos cambia la primera opción del modelo en la mayoría de casos. ¿Bastaría la instrucción al sistema o harían falta incentivos y controles como los que ya usa la política de genéricos?
R. Seguirían haciendo falta incentivos y controles explícitos, porque el paciente suele preferir la marca, y el médico complaciente la prescribe. La competencia en España entre genéricos y entre éstos y marcas, es más limitada que en Estados Unidos; como consecuencia, los precios relativos de los genéricos son más altos aquí. Además, hay genéricos "de marca".
P. ¿Qué lección de décadas de política de precios y genéricos en España se puede aplicar a la entrada de la IA en la prescripción?
R. Hay que tener cuidado con el uso de la IA en la prescripción, y sobre todo, en el análisis del comportamiento de los algoritmos de IA de artículos como este.
