José Antonio Trujillo, vicepresidente primero del Colegio de Médicos de Málaga.
"El médico debe incorporar una nueva competencia en IA sin delegar en ella el juicio clínico"
José Antonio Trujillo explica qué ha cambiado en el uso de IA en Medicina desde el pasado 2 de agosto
Desde el pasado 2 de agosto, la Comisión Europea y las autoridades nacionales deben comenzar a aplicar nuevas normas y mecanismos de control respecto al uso de Inteligencia Artificial (IA) en Medicina, sobre todo, en lo relativo a la transparencia, gobernanza y supervisión de contenidos generados o manipulados con esta tecnología. Una herramienta útil para los profesionales siempre que hagan un buen uso de ella. "El gran desafío es evitar los dos extremos de la implantación de la IA en Sanidad: rechazar la IA por miedo o aceptarla con una confianza acrítica", explica José Antonio Trujillo, vicepresidente primero del Colegio de Médicos de Málaga, quien ha elaborado una guía práctica para los facultativos. Y es que el médico, advierte, deberá incorporar una nueva competencia profesional: saber utilizar la IA sin delegar en ella el juicio clínico.
Aunque no existe una obligación concreta de colocar una marca de agua en cada apunte en la historia clínica o en cada informe elaborado con ayuda de IA, esto no se traduce que se deba ocultar su uso. "Tenemos que establecer un mínimo común de transparencia: cuando la IA haya intervenido de forma relevante en la elaboración de un contenido dirigido a un paciente, a otro profesional o a la ciudadanía, debe poder conocerse que se ha utilizado, para qué se ha utilizado y quién ha validado el resultado", explica Trujillo. Una fórmula sencilla, ejemplifica, podría ser añadiendo una línea al texto que indique 'Documento elaborado con apoyo de IA y revisado y validado por el facultativo responsable'. "Cuanto mayor sea la intervención de la IA, mayor debiera ser el compromiso con la transparencia"; subraya el facultativo.
Presión asistencial y uso de IA en Medicina
La presión asistencial que ahoga, hoy por hoy, a los médicos españoles, puede empujar a los facultativos a aceptar, incondicionalmente, los diagnósticos generados por inteligencia artificial. Una amenaza al buen hacer médico que los profesionales tienen que esquivar. "Existe el riesgo de confiar ciegamente en el resultado de un sistema de IA, lo que conocemos como sesgo de automatización. La presión asistencial puede convertir una herramienta de apoyo en un sistema de decisión de facto", advierte Trujillo. La supervisión humana no consiste en pulsar “aceptar”, explica, "sino en comprobar que la recomendación es coherente con la historia, la exploración, las pruebas y las circunstancias del paciente". Si el profesional no tiene tiempo, formación o información suficiente para cuestionar el resultado, la supervisión es solo aparente y no es real. "Una decisión automática firmada por un médico no se convierte por ello en una decisión médica si no hay una supervisión real previa", subraya el médico malagueño.
La norma europea, explica Trujillo, no obliga al médico a seguir la recomendación de la IA. Al contrario, la supervisión humana exige que pueda ignorar, corregir, revertir o decidir no utilizar el sistema en un caso concreto. "La protección del profesional dependerá de que su decisión sea clínicamente razonable y esté correctamente documentada. Debe constar qué recomendó la IA, por qué se descartó y qué datos clínicos justificaron la alternativa. Apartarse razonadamente del algoritmo no es incumplir la norma, es cumplir con la exigencia de la supervisión humana", explica a Redacción Médica.
IA en la sombra en los hospitales españoles
Trujillo admite que, en los hospitales españoles, existe una 'IA en la sombra', aunque todavía no hay una medición precisa de su alcance. "Muchos profesionales utilizan herramientas generalistas para resumir textos, redactar borradores, traducir documentos o resolver dudas porque necesitan ganar tiempo y sus centros aún no les ofrecen alternativas corporativas. El problema comienza cuando se introducen datos clínicos, identificadores, imágenes o documentos de pacientes en sistemas que no han sido autorizados. En ese momento pueden quedar comprometidas la confidencialidad, la protección de datos y la seguridad clínica", relata a Redacción Médica.
La respuesta del Colegio, añade, no debe limitarse a advertir de un mal uso de la IA: "Debemos formar, advertir de los límites, promover protocolos y exigir a las organizaciones sanitarias herramientas seguras que respondan a necesidades reales. Desde nuestro colegio de Málaga llevamos ya años haciéndolo a través del Commalaga Health Hub.
En caso de no haber recibido la formación y la información suficiente sobre estos softwares, "Un médico no debería utilizar acríticamente un sistema cuya finalidad, validación, limitaciones o procedimiento de supervisión desconoce. Antes de usarlo debe recibir información comprensible sobre su indicación, población validada, precisión, riesgos, manejo de errores, protección de datos y mecanismo de notificación de incidentes", reivindica el experto en IA.
"Si esa información no está disponible, el profesional debe dejar constancia, solicitarla formalmente y comunicar la situación a la dirección médica, al responsable de seguridad del paciente y, cuando corresponda, al delegado de protección de datos", añade Trujillo. La decisión de no utilizarlo, en cualquier caso, "debe ser motivada y proporcional, especialmente cuando pueda existir un riesgo para el paciente. La institución no puede imponer una herramienta opaca y trasladar después toda la responsabilidad al facultativo."
Alfabetización en IA en la Medicina española
La alfabetización en IA es ya una obligación aplicable desde la entrada en vigor de la AI Act en 2026 y debe adaptarse al conocimiento, experiencia y contexto de quienes utilizan estos sistemas. "Todo médico debería dominar al menos seis competencias: conocer la finalidad y los límites de la herramienta; verificar sus resultados; reconocer errores, alucinaciones y sesgos; proteger los datos del paciente; documentar su utilización cuando sea relevante; y mantener la capacidad de rechazar o corregir la recomendación", enumera Trujillo.
Además, la formación debe ser específica para cada uso. "No necesita la misma preparación quien emplea IA para transcribir una consulta que quien utiliza un algoritmo para predecir sepsis, interpretar una mamografía o priorizar pacientes", ejemplifica el experto en IA, que llama a personalizar el uso de estas herramientas dentro del SNS.
