Julio Mayol, director científico del Instituto de Investigación Sanitaria del Hospital Clínico San Carlos y catedrático de Cirugía de la UCM
La IA en sanidad, más allá de Matrix: "Me preocupa más que los profesionales dejemos de cuestionarla"
Los expertos advierten de los riesgos de las recomendaciones clínicas erróneas, los sesgos y el exceso de confianza, mientras las comunidades autonómas desarrollan mecanismos para evaluar y supervisar estos sistemas
Y además: Los estudiantes de Medicina aterrizan en el curso de la IA: "La Inteligencia Artificial podría descontrolarse"
A finales de los 90, las hermanas Wachowski imaginaron en Matrix un mundo en el que las máquinas habían conseguido escapar al control humano y rebelarse. Más de dos décadas después de su estreno, ese escenario sigue perteneciendo a la ciencia ficción y el avance de la Inteligencia Artificial en la sanidad ofrece ventajas evidentes: permite a los profesionales aumentar la capacidad del propio sistema, mejorar su precisión y obtener más tiempo para dedicarlo a tareas con un "mayor valor clínico y humano". Sin embargo, también plantea preocupaciones: ¿hasta qué punto esta tecnología puede escapar al control humano y qué riesgos plantea para la asistencia sanitaria?
Que una Inteligencia Artificial escape al control humano no significa que adquiera conciencia o se rebele. Según explica Julio Mayol, director científico del Instituto de Investigación Sanitaria del Hospital Clínico San Carlos y catedrático de Cirugía de la Universidad Complutense de Madrid, existen actualmente algunos agentes que ya cuentan con cierto grado de autonomía y pueden actuar sobre programas de datos o dispositivos sin que seamos capaces de supervisarlos, corregirlos o "detenerlos a tiempo". "También podemos perder el control cuando aceptamos sus respuestas sin cuestionarlas", ha advertido a Redacción Médica.
¿Cuál es el mayor riesgo de la IA en sanidad?
El mayor riesgo actualmente dentro de la sanidad está en las recomendaciones clínicas "incorrectas pero convincentes". No obstante, no es el único. Mayol ha detallado otros aspectos importantes que hay que supervisar, como los sesgos, la pérdida de privacidad, los ciberataques y el "exceso de confianza" de los propios profesionales. También pone especial énfasis en un punto quizá menos visible, pero que constituye otro de los riesgos para el sector: usar la IA para aumentar la productividad, como realizar más pruebas, consultas o intervenciones, pero sin mejorar los resultados de salud de dichas actividades.
Para evitar los riesgos que podría conllevar la IA en la sanidad, el control por parte de las comunidades autónomas es esencial. Nuria Ruiz, directora general de Salud Digital de la Consejería de Digitalización de la Comunidad de Madrid, defiende que la clave no es "correr" para implantar nuevos modelos, sino hacerlo con "gobernanza y seguridad". "Tenemos el circuito definido", reconoce a Redacción Médica.
¿Cómo controlar la IA dentro de la sanidad?
Los sistemas que se incorporan al Servicio Madrileño de Salud (Sermas) deben superar un proceso de evaluación que analiza su utilidad, seguridad y cumplimiento normativo. Además, su implantación está sujeta a auditorías de seguimiento. Actualmente, estas herramientas sirven de apoyo a los profesionales sanitarios y son ellos quienes supervisan los procesos y asumen la responsabilidad de validar sus resultados.
Por tanto, Ruiz considera que "no hay que tener miedo" de los avances de la IA dentro de la sanidad. Con responsabilidad, prudencia, seguridad y cumpliendo la normativa existente en estos momentos, se minimizan los posibles riesgos. "Todos los modelos tienen un seguimiento muy exhaustivo y ninguno sustituye a ningún profesional sanitario", ha sentenciado.
"La IA no sustituirá ningún profesional sanitario"
En la Comunitat Valenciana, la estrategia también pasa por utilizar la Inteligencia Artificial como apoyo a los profesionales, sin sustituir el criterio clínico ni deshumanizar la asistencia. Entre sus aplicaciones se encuentra la lectura de radiografías y, próximamente, está prevista la puesta en marcha de una iniciativa para gestionar citas de Atención Primaria: el proyecto Tagia, un asistente virtual basado en la IA conversacional para mejorar la gestión de la demanda en la AP.
"Su objetivo es que el ciudadano pueda contactar con mayor facilidad con su centro de salud, identificarse de forma segura, explicar el motivo de su llamada y gestionar una cita de acuerdo con los circuitos establecidos por la Conselleria", ha explicado Bernardo Valdivieso, secretario autonómico de Planificación, Información y Transformación Digital a Redacción Médica, quien aclara que automatizar no significa "cerrar puertas", sino añadir un "nuevo canal de acceso y utilizar mejor los recursos disponibles".
Para evitar cualquier tipo de riesgo en este tipo de proyectos, la Consellería creó la Oficina Autonómica para la Aplicación de la IA en la Salud. Su función es promover una incorporación "ordenada y responsable", evaluar el interés, la viabilidad y la seguridad de las soluciones, y realizar el seguimiento de su impacto una vez desplegadas.
¿Puede la IA en sanidad escapar al control humano?
Para que los sistemas de inteligencia artificial escapen al control humano, Mayol cree que tendrían que ser capaces de perseguir objetivos, planificar, usar herramientas, recursos y superar controles. No obstante, menciona otro factor decisivo: los permisos que concedemos.
En definitiva, que una IA tome por sí sola el control de un hospital es, por ahora, "especulativo". Sin embargo, Mayol concluye con una importante reflexión: "me preocupa más que los profesionales sanitarios dejemos de cuestionarla".
