Debate abierto por la IA en sanidad: del algoritmo libre al consentimiento

La Comunidad de Madrid se encuentra inmersa en el desarrollo de su propia ley para regular el uso de la inteligencia artificial, pero antes pretende recabar todas las aportaciones posibles de la sociedad civil, el tejido empresarial y las organizaciones profesionales. El Gobierno ha abierto a consulta pública el desarrollo de la futura norma que tendrá un impacto directo en la sanidad. La ley pretende avanzar hacia una “administración digital” pero garantizando “altos niveles de seguridad y privacidad”. Dos criterios básicos para los que ya ha recibido una batería de propuestas de los agentes presentes en esta revolución. 

La memoria del anteproyecto de ley recoge la voluntad del Gobierno de Isabel Díaz Ayuso de alumbrar un texto legislativo que permita aplicar de manera confiable las “tecnologías emergentes” como la inteligencia artificial en áreas clave como la salud. “Los beneficios de la inteligencia artificial son evidentes: en el ámbito sanitario, permite diagnósticos más precisos, la personalización de tratamientos y una gestión más eficiente de los recursos”, justifica el documento. 

El objetivo pasa por posicionar a la región como “referente en el uso ético, seguro e innovador de la inteligencia artificial, garantizando que esta revolución tecnológica redunde en más y mejores servicios públicos, en mayor competitividad económica y en una sociedad más justa”. Una apuesta que incidirá de manera directa en algunas de las herramientas que ya se están empezando a utilizar en el Servicio Madrileño de Salud (Sermas).

Entre las propuestas presentadas en la consulta pública destaca la iniciativa del Colegio de Médicos de Madrid (Icomem), que ha pedido que la futura ley se detenga en particular a legislar las particularidades de su aplicación en la sanidad. “Sería muy oportuno aprovechar el texto de la futura ley para contemplar, en el ámbito sanitario, que en el uso de la Inteligencia Artificial se garantizase tanto la autonomía del paciente como, a la vez, el respeto y autonomía de los profesionales médicos”, reza el texto presentado por la organización que preside en funciones Manuel Martínez Sellés.

El organismo colegial ha pedido además que el texto sirva para definir la “procedencia” del uso de medios telemáticos o de los sistemas de comunicación no presencial que ayudan a los médicos en la toma de decisiones. La institución pretende de esta manera que se garantice la “confidencialidad” y la “máxima seguridad disponible” tanto de los profesionales como de los pacientes.

“Se debe prever que la investigación y otras actividades relacionadas con las bases de datos de salud y la Inteligencia Artificial deban ser en beneficio de la sociedad y de los objetivos de salud pública, siendo esencial que en la Inteligencia Artificial se desarrollen modelos que incluyan el consentimiento y la gestión de los datos”, han apostillado.

El código abierto de la IA para sanidad

Una de las principales reivindicaciones planteadas en la consulta pública pasa por hacer más transparentes los actuales modelos de Inteligencia Artificial que se utilizan en la sanidad pública. Por ello, varias instituciones han apuntado a la importancia de abrir el contenido de los algoritmos a la sociedad para que conozcan cómo funcionan.

En ese sentido, desde Comisiones Obreras han planteado que la ley establezca la “obligación de publicar los algoritmos y conjuntos de datos utilizados por la Administración en sistemas de IA, sometiéndolos a auditorías externas independientes y con participación de la sociedad civil y los agentes sociales”.

Paralelamente, el sindicato también ha reclamado que en el anteproyecto se incluya también un veto al uso de los datos personales con fines comerciales, que se cree un Consejo de Participación Digital con colectivos ciudadanos o que se evalúen potenciales sesgos discriminatorios de las herramientas. “La ciudadanía tiene derecho a saber cómo se toman las decisiones que le afectan, especialmente en ámbitos como la sanidad, la educación o los servicios sociales”, reza su propuesta.

También ha insistido en la idea de un código abierto la Fundación Civio, que ha apuntado a que es necesario que se publique “información técnica sobre el diseño y funcionamiento” tanto de los sistemas de inteligencia artificial como de los modelos de toma de decisiones automatizadas existentes en la administración pública. “En el caso de sistemas de aprendizaje automático, debe publicarse también información sobre el proceso de entrenamiento y los datos utilizados”, han apostillado.

La organización sin ánimo de lucro ha recordado que una sentencia reciente del Tribunal Supremo ya reconoce el derecho a acceder a los códigos fuente, mientras que ha lamentado las reticencias a hacer públicos estos datos bajo el pretexto de proteger la propiedad intelectual. “La nueva Ley debería facilitar el acceso al funcionamiento interno de estos sistemas mediante la publicación proactiva de su documentación y código en el registro de algoritmos”, han apostillado.

La IA generativa en sanidad

La asociación DigitalES también ha planteado en sus alegaciones algunos enfoques relacionados con la sanidad. En concreto han planteado la importancia de desarrollar dentro de la ley un régimen específico para regular la inteligencia artificial generativa, por ejemplo, cuando se trate de herramientas que den apoyo a los profesionales sanitarios. En concreto, la organización propone que se prohíba su uso como “única base decisoria”, algo que refuerza la autoridad de los médicos.

La identificación del contenido que ha sido generado con inteligencia artificial, los modelos de seguridad para la gestión de datos sensibles en la sanidad, la creación de un Comité de Garantías, la elaboración de informes anuales, la alineación con los reglamentos europeos o la creación de un registro autonómico de algoritmos son otras de sus ideas para afinar el futuro desarrollo de estas tecnologías en las administraciones públicas.

Por último, desde Ametic, la patronal de la industria digital en España, también se han hecho algunas sugerencias como el establecimiento de un modelo de relación única para todas las compras públicas, algo que puede abrir también un nuevo paradigma en las adquisiciones que se hagan desde la sanidad. Los servicios interoperables, la participación de las pymes, la trasparencia en la contratación o el uso de guías de buenas prácticas son otras de sus señas de identidad.

Ahora, queda por ver qué forma le dará el equipo de Gobierno al primer borrador de la futura ley sobre la inteligencia artificial de la Comunidad de Madrid. Será cuando esté ese primer documento, cuando las organizaciones puedan de nuevo pulir sus aportaciones desde un plano más concreto. Un paso previo a su aprobación en el Consejo de Gobierno y a su debate parlamentario final.