Doctora utiliza su ordenador en la consulta. Imagen de Envato
Prácticas prohibidas al usar IA en consulta: ni datos de pacientes ni uso clínico de ChatGPT
La Guía de Orientaciones para profesionales sanitarios en el uso de la IA, elaborada por Sanidad, alerta de las prácticas de alto riesgo que se deben evitar en hospitales y centros de salud
La inteligencia artificial puede agilizar tareas y apoyar determinadas decisiones clínicas y su uso en sanidad se está extendiendo, por lo que los profesionales sanitarios deben ser conscientes de que no puede desplazar la responsabilidad clínica, la protección de los datos ni el derecho del paciente a comprender cómo se toman las decisiones que afectan a su salud. Aunque el Reglamento Europeo de Inteligencia Artificial entró en vigor el 1 de agosto de 2024, este 2 de agosto de 2026 ha comenzado su aplicación general, mientras que las obligaciones más exigentes para los sistemas de alto riesgo se incorporarán de forma escalonada. Por ello, su uso debe mantenerse dentro de los procedimientos autorizados por el centro y bajo un control profesional capaz de detectar errores, corregir resultados y suspender una herramienta cuando no ofrezca garantías.
En este contexto, el documento Orientaciones para profesionales sanitarios en el uso de la IA, elaborado por la Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud y publicado a raíz de la aprobación de la Estrategia de Inteligencia Artificial para el Sistema Nacional de Salud (Eiasns), identifica una serie de prácticas prohibidas, de alto riesgo o no aceptables que los profesionales y centros sanitarios deben evitar. Entre ellas figuran delegar decisiones asistenciales en un algoritmo, utilizar sistemas sin validación clínica, introducir datos identificables en herramientas no autorizadas o emplear modelos generalistas para diagnosticar y recomendar tratamientos.
Prohibido introducir datos de pacientes en sistemas no autorizados
Así, la guía prohíbe introducir datos personales o clínicos identificables en herramientas que no estén diseñadas, validadas y autorizadas para su utilización sanitaria, o de las que se desconozca si cumplen el Reglamento General de Protección de Datos. La prohibición no afecta al tratamiento de datos dentro de sistemas sanitarios autorizados, sino a su envío a aplicaciones que no ofrecen las garantías necesarias. La guía sí contempla el empleo de información correctamente anonimizada, siempre que no permita identificar directa ni indirectamente a una persona y se mantengan medidas para evitar su reidentificación.
Los resultados, textos o imágenes que permitan reconocer al paciente tampoco deben compartirse mediante canales no seguros, como WhatsApp o el correo electrónico convencional. Para intercambiar esta información deben utilizarse únicamente los sistemas internos autorizados y protegidos por la institución sanitaria.
Prohibido usar ChatGPT para tomar decisiones clínicas
El documento dedica una advertencia específica a la utilización de modelos generalistas, como ChatGPT, en contextos clínicos. Estas herramientas no han sido diseñadas ni validadas para tomar decisiones asistenciales y pueden carecer de precisión médica, ofrecer información desactualizada, reproducir sesgos o generar respuestas inventadas con apariencia científica. Entre sus riesgos se encuentran las denominadas "alucinaciones", como la invención de autores, publicaciones o referencias bibliográficas inexistentes. Por ello, Sanidad no recomienda emplearlas para decisiones clínicas críticas, sustituir el juicio profesional, diagnosticar, prescribir tratamientos o comunicarse directamente con el paciente sin supervisión.
Esto no supone una prohibición absoluta de ChatGPT o de otras IA generalistas. El documento admite su utilización como apoyo para buscar información, resumir artículos, preparar borradores o realizar tareas administrativas y repetitivas, siempre con revisión profesional, sin introducir datos identificables y sin convertir sus respuestas en decisiones clínicas.
Prohibido delegar decisiones clínicas en la IA
No obstante, la principal línea roja es permitir que una inteligencia artificial tome decisiones autónomas sobre la salud de un paciente. Estos sistemas pueden actuar como apoyo, pero no sustituir la responsabilidad asistencial ni el juicio clínico del profesional. La supervisión humana debe ser activa y significativa. Esto implica revisar de forma independiente las recomendaciones de la herramienta, valorar si encajan con el contexto del paciente y poder corregirlas o descartarlas. En este sentido, el Reglamento Europeo de Inteligencia Artificial exige esta supervisión en los sistemas de alto riesgo, mientras que el Reglamento General de Protección de Datos reconoce el derecho de los pacientes a no quedar sujetos a decisiones basadas únicamente en tratamientos automatizados.
Prohibido utilizar herramientas sin validación clínica
Tampoco deben utilizarse sistemas que no hayan sido validados clínicamente. Según la guía, esta validación permite comprobar, en condiciones reales o simuladas de práctica clínica, que la herramienta funciona de manera segura, precisa, eficaz y fiable con pacientes reales. Emplear una IA sin estas garantías puede generar errores diagnósticos, falsas alarmas, perjuicios para el paciente y posibles incumplimientos del Reglamento Europeo de IA y de la normativa sobre productos sanitarios. Ante una respuesta ilógica o contradictoria, el profesional no debe incorporarla automáticamente a la atención. Tiene que comprobar los datos introducidos, documentar el incidente y suspender el uso asistencial si la inconsistencia persiste.
Prohibido ocultar al paciente el uso asistencial de IA
Un punto relevante es que el hecho de que el médico no puede ocultar al paciente que está usando inteligencia artificial cuando tenga un papel relevante en su asistencia. La obligación de informar aparece cuando la herramienta interviene en un diagnóstico o tratamiento, procesa datos sensibles, aporta información empleada en decisiones clínicas o permite una interacción directa con el paciente. La comunicación debe explicar de forma clara la finalidad del sistema, sus beneficios, sus limitaciones y la posibilidad de que genere errores. Cuando el paciente interactúe directamente con una IA, debe saber que no está hablando con una persona. No facilitar esta información puede vulnerar el consentimiento informado y el principio de autonomía del paciente.
Prohibido ignorar los sesgos y la falta de trazabilidad
Las guía de Sanidad también considera inaceptable ignorar los riesgos de sesgo, opacidad y pérdida de trazabilidad. Un sistema entrenado con datos poco representativos puede ofrecer resultados menos precisos para determinados grupos y provocar subdiagnósticos relacionados con el sexo, la edad o el origen étnico, recomendaciones menos eficaces o una priorización inadecuada de los recursos sanitarios. Por ello, la herramienta debe permitir reconstruir cómo se ha comportado ante un error y comprender, al menos de forma suficiente, qué variables ha utilizado para alcanzar una conclusión. Sin explicabilidad ni auditabilidad, el profesional pierde capacidad para valorar críticamente la recomendación, justificar su decisión e informar adecuadamente al paciente.
Prohibido generar contenidos sin advertir del uso de IA
También se rechaza el uso de inteligencia artificial generativa para mantener comunicaciones automáticas sin advertir previamente al interlocutor de que está interactuando con un sistema no humano. Del mismo modo, considera no aceptable generar imágenes o vídeos realistas sin identificar expresamente su origen artificial. A estas prácticas se suman la elaboración de informes con información confidencial, el envío de datos sensibles sin anonimizar y cualquier toma de decisiones que afecte a las personas sin supervisión humana directa.
