Fernando Eiras, médico intensivista y experto en IA
La incertidumbre que el algoritmo no puede manejar: por qué la IA encarece los costes frente al criterio médico
Un estudio publicado en NEJM AI estima que los grandes modelos de lenguaje indican abordajes hasta tres veces más caros que los pautados por los facultativos.
Y además: Primer Manual de Buenas Prácticas para Inteligencia Artificial en Medicina
Ante la creciente presencia de las herramientas de inteligencia artificial en el ejercicio de la Medicina, la pregunta clave es hasta dónde pueden ser de ayuda y en qué aspectos sigue siendo insustituible el criterio profesional. A este respecto, un reciente artículo publicado en The New England Journal of Medicine (NEJM) AI aporta algunas pistas al constatar cómo los grandes modelos de lenguaje multiplican los costes del abordaje clínico respecto a las decisiones de facultativos con experiencia.
Los resultados de este estudio, basado en la evaluación de 24 sistemas de IA sobre 200 notas clínicas reales, muestran un coste promedio tres veces superior por consulta en base a las recomendaciones algorítmicas: 314 dólares frente a los 97 dólares que costaban de media los abordajes propuestos por los médicos en ejercicio. Esta tendencia se reprodujo también en los modelos entrenados específicamente para el ámbito biomédico, donde los sobrecostes se mantuvieron entre 2,7 y 3,5 veces por encima del criterio profesional.
Para el médico intensivista y experto en IA Fernando Eiras, estos resultados no resultan sorprendentes teniendo en cuenta cómo se entrenan estos modelos de lenguaje. En conversación con Redacción Médica, analiza las explicaciones a este fenómeno y cómo estos datos reafirman el carácter indispensable del criterio clínico frente a la automatización.
Para el especialista, el sobrecoste se explica por sesgos en la configuración de estos sistemas que llevan a que "la IA no pueda pasar nada por alto". "Los modelos de lenguaje tratan de optimizar las respuestas para evitar trabajar de nuevo, con lo cual van a intentar darte el máximo de diagnósticos diferenciales", explica Eiras. De ahí que recomienden realizar el mayor número de pruebas complementarias posible para "no saltarse nada".
Este mecanismo entronca con otro de los sesgos comprobados de los LLM: la complacencia. Por defecto, los modelos tienden a satisfacer la petición del usuario y a no contradecirlo, buscando abarcar todos los escenarios concebibles a fin de no ser corregidos ante una omisión grave. Esto explica, a su juicio, la inflación en pruebas diagnósticas, donde se concentra el grueso del gasto extra, especialmente en aquellas consultas donde el médico no consideró necesario solicitar ningún estudio. En resumidas cuentas: "La IA no puede permitirse errar".
El intensivista destaca que en esa incapacidad del algoritmo para descartar escenarios reside, precisamente, "el arte de la Medicina". "Como médico tomas decisiones continuamente y hay una parte de la Medicina que lleva aparejada la gestión de la incertidumbre", detalla. Se trata de un margen de duda razonada que la IA, por cómo está entrenada, no tolera.
Además, en el manejo de esa incertidumbre, el factor humano aporta intangibles que un modelo de lenguaje no es capaz de procesar. De las notas clínicas de las que se nutrió la IA en el estudio, Eiras apunta que obedecen a una foto fija en un momento determinado. Es ahí donde la exploración física, el contexto social y el seguimiento longitudinal del paciente ejercen como factor diferencial en favor del facultativo, permitiéndole ahorrar pruebas innecesarias.
"El médico de atención primaria, por ejemplo, ya conoce al paciente de antes, sabe las tendencias en sus analíticas y su contexto social. Eso le permite no tener que pedir una prueba complementaria y hacer una entrevista mucho más dirigida. La IA tiene que fijarse solamente en un momento en concreto, mientras que el médico maneja un abanico temporal mucho más amplio y se apoya en su criterio clínico", apunta.
Teniendo en cuenta estas limitaciones Eiras considera que el verdadero nicho donde la IA puede ser un gran aliado de la práctica médica no es en la prescripción autónoma, sino en el alivio de las tareas burocráticas y organizativas: "El gran fuerte a día de hoy está en la optimización de los recursos administrativos, en no perder horas haciendo informes o en actuar como un escriba que ayude a humanizar la consulta médica".
En caso de apoyarse en ella para el razonamiento clínico, el especialista formula una regla de oro pedagógica indispensable: "Tiene que haber un doble check. Primero, exigir y comprobar que la fuente de información de la que extrae la recomendación es veraz y trazable; y segundo, verificar que lo que propone tiene coherencia clínica real para ese paciente concreto".
Si bien la IA plantea una revolución en el ejercicio de la Medicina, los resultados que muestran sus herramientas ratifican la idea que, al menos por ahora, hay un gran campo de competencias donde el conocimiento y criterio clínico de los facultativos sigue siendo un componente irrenunciable del ejercicio de la profesión.