La Inteligencia Artificial (IA) puede contribuir a detectar enfermedades, anticipar riesgos y reducir la carga administrativa de los profesionales sanitarios. Sin embargo, tal y como ha reflejado un informe del Parlamento Europeo, su implementación en la Unión Europea sigue enfrentando varios obstáculos, como la claridad sobre quién debe asumir la responsabilidad cuando esta herramienta ofrece resultados equivocados y dudas legales sobre el uso de los datos médicos necesarios para que funcionen correctamente.
Estas han sido las conclusiones del estudio realizado por Daniela Spajic, del Centro de Derecho de las Tecnologías de la Información y la Propiedad Intelectual, que lo ha presentado ante la Comisión de Salud Pública del Parlamento. El documento subraya que la implementación de IA en entornos médicos todavía no tiene datos completos para conocer hasta qué punto ya son eficientes en la práctica clínica y que los profesionales no tienen claras las pautas para cuándo y cómo utilizarla.
La IA suma un nuevo problema según el informe. Mientras que la atribución de responsabilidades en el pasado dependía de cada caso, actualmente se plantean nuevas preguntas acerca de la actuación de un algoritmo. Por ello, en el informe se advierte de que la IA tiene que ser prácticamente infalible para ser aplicada en el campo de la Medicina, porque si no, puede llegar a comprometer la seguridad de atención del paciente.
La cuestión no consiste únicamente en determinar si una herramienta ha cometido un error, sino también en establecer cómo se ha utilizado, qué grado de confianza merecía su resultado y qué papel ha desempeñado el profesional sanitario en la decisión final. El informe sitúa la asignación de responsabilidades entre los aspectos que requieren mayor claridad, aunque no concluye que la IA esté provocando por sí misma un aumento de los errores médicos.
A este desafío se suma la dificultad de evaluar qué aplicaciones son suficientemente fiables y están validadas para su uso clínico. El documento señala que algunos sistemas pueden ofrecer resultados inexactos y que los profesionales necesitan criterios más claros para identificar qué herramientas son seguras, legalmente admisibles y adecuadas para incorporarse a los flujos de trabajo asistenciales.
Como ocurre con otros usos de la IA, la forma más sencilla para que esta aprenda y no cometa errores es recibir una alta cantidad de datos, ya sea en forma de imágenes, radiografías o resonancias. El problema que detecta el documento es que esto es un desafío a otras normas europeas, como el Reglamento General de Protección de Datos, la Ley de Gobernanza de Datos y el Reglamento de Inteligencia Artificial.
Entre sus recomendaciones, el documento propone aclarar las incertidumbres jurídicas que afectan al uso de datos sanitarios, facilitar la aplicación práctica de la normativa europea y reducir las cargas administrativas que afrontan quienes gestionan y comparten información. También plantea reforzar las garantías legales, organizativas y técnicas para proteger la privacidad y la seguridad.