¿Qué necesita una inteligencia artificial para poder utilizarse en una consulta médica? ¿Qué fuentes debe consultar? ¿Dónde deben permanecer los datos del paciente? ¿Cómo puede comprobarse una respuesta antes de utilizarla? Estas preguntas han centrado la jornada “Aplicando la IA de forma crítica y responsable. Construimos una IA para la consulta. En vivo”, celebrada en el Ilustre Colegio Oficial de Médicos de Madrid y organizada conjuntamente por Elsevier, el propio Colegio, BiblioMadSalud y la Universidad Europea.
Juan José Beunza, catedrático y director de IASalud de la Universidad Europea, ha trasladado estas cuestiones a la práctica construyendo junto a los asistentes un agente de inteligencia artificial. La sesión, dirigida especialmente a profesionales sanitarios y bibliotecarios, ha mostrado cómo seleccionar el modelo que actuará como cerebro del sistema, dotarlo de memoria, definir sus instrucciones e incorporar herramientas que le permitan realizar tareas concretas.
El objetivo ha sido alejar la IA clínica de la idea de una herramienta capaz de responder por sí sola a cualquier cuestión. Beunza ha explicado que su utilidad depende en buena medida del contexto que recibe, de las fuentes a las que puede acceder y de los límites establecidos antes de utilizarla: “Hacer consultas médicas sin limpiar el contexto es un error gravísimo”, ha advertido al explicar cómo una conversación previa puede condicionar las respuestas posteriores de un modelo de lenguaje.
Uno de los aspectos centrales de la demostración ha sido cómo construir una IA capaz de trabajar con información clínica fiable sin perder el control sobre los datos. El modelo puede ejecutarse en local, dentro de la infraestructura de una organización, e incorporar protocolos internos, guías clínicas, revisiones científicas o documentación propia del centro. De esta forma, la información sensible no necesita enviarse a plataformas externas y las respuestas pueden vincularse a las fuentes utilizadas.
De una respuesta convincente a una respuesta verificable
Beunza ha puesto el foco en la calidad de la información que alimenta estos sistemas. Durante la sesión ha explicado el funcionamiento de técnicas como la generación aumentada por recuperación, conocida como RAG, que permite proporcionar al modelo documentación concreta para fundamentar sus respuestas: “Cuando utilizo RAG con una guía fiable, las respuestas son mucho más fiables”, ha señalado. El reto pasa por comprobar la fecha, autoría y nivel de evidencia de los documentos, detectar versiones obsoletas y evitar recomendaciones contradictorias.
La participación de BiblioMadSalud ha incorporado a la jornada la perspectiva de los profesionales de la información sanitaria, especialmente relevante cuando la IA debe trabajar con conocimiento científico fiable y actualizado. “La inteligencia artificial puede generar respuestas en segundos, pero la calidad de esas respuestas depende del conocimiento que hay detrás y de nuestra capacidad para evaluarlas críticamente”, han señalado desde la organización, destacando la necesidad de trabajar conjuntamente entre profesionales sanitarios y profesionales de la información.
La sesión ha abordado otros elementos que condicionan el uso de la IA en salud, desde la privacidad y la seguridad hasta los sesgos o la responsabilidad profesional. El profesional debe determinar qué tarea quiere resolver, con qué datos puede hacerlo, qué instrucciones recibe el agente y cuáles son sus límites. El planteamiento parte de una premisa clara: la inteligencia artificial puede apoyar el trabajo clínico, pero las decisiones sanitarias deben permanecer bajo supervisión humana.
La visión desde la práctica asistencial ha llegado de la mano de Samuel González, de la UCI del Hospital HLA Moncloa y miembro de IASalud, quien ha planteado la distancia que todavía existe entre las capacidades de la inteligencia artificial y su impacto cotidiano sobre los pacientes: “Sigue habiendo una brecha muy grande entre lo que la inteligencia artificial puede hacer y lo que al final va a beneficiar realmente al paciente”, ha explicado.
González ha mostrado el trabajo que se está desarrollando en la UCI para ordenar, estandarizar y analizar la gran cantidad de información generada diariamente por los pacientes. Para el especialista, los profesionales clínicos tienen un papel fundamental en este proceso porque son quienes conocen qué significa cada dato, sus posibles errores y su verdadero valor asistencial: “Todo lo que no hemos avanzado en los últimos 50 años en aplicación clínica de la inteligencia artificial lo vamos a avanzar en los próximos cinco años”, ha afirmado.
Un manual para aplicar la IA en entornos sanitarios
Durante la jornada se ha presentado la tercera edición del Manual práctico de inteligencia artificial en entornos sanitarios, publicado por Elsevier, coorganizadora del encuentro y especializada en conocimiento científico y tecnología para el ámbito sanitario. La obra está concebida para acercar estas tecnologías desde una perspectiva clínica, científica, ética y organizativa.
La nueva edición aborda cuestiones que están entrando directamente en la práctica profesional, desde cómo utilizar IA con seguridad o evitar que los datos clínicos salgan de la organización hasta qué fuentes deben incorporarse a un sistema, cómo comprobarlas y quién asume la responsabilidad cuando una herramienta ofrece una respuesta incorrecta.
La presentación se ha completado con una mesa de expertos en la que han participado Samuel González; José Luis Lafuente, profesor de la Escuela de Arquitectura, Ingeniería, Ciencia y Computación – STEAM y Eva Avilés Álvarez, alumni de Ingeniería Biomédica y actual docente de la Universidad Europea. El encuentro ha permitido trasladar las dudas de los asistentes a casos vinculados con la práctica clínica, la gestión de los datos y el desarrollo de nuevas soluciones.
La sesión ha puesto de relieve que no hace falta convertirse en programador para comprender cómo funciona un agente de IA, pero sí conocer qué hace con los datos, de dónde obtiene sus respuestas y hasta dónde puede llegar. Porque en salud una respuesta convincente no basta. Tiene que poder rastrearse, verificarse y permanecer bajo criterio clínico.
