Mikel Recuero, José Manuel Sánchez, Joaquín Cayón de las Cuevas, Covadonga Torres y Marina Morla.

Mikel Recuero, José Manuel Sánchez, Joaquín Cayón de las Cuevas, Covadonga Torres y Marina Morla. / Imagen Pablo Álvarez

Derecho Sanitario

Torres Assiego (URJC) alerta sobre el factor geopolítico y la IA: “Una cosa es gobernar la inteligencia artificial y una cosa es regularla”

Una experta ha puesto sobre la mesa los retos y los riesgos de la gobernanza de la IA en un marco geopolítico cada vez más complejo y con más aristas. En su opinión, la Unión Europea tendría que ser más decidida en defensa de su modelo.

Leer en Castellano
Publicada

Covadonga Torres Assiego es profesora de Historia del Derecho en la Universidad Rey Juan Carlos de Madrid y ha introducido el vector geopolítico en la conversación sobre la regulación y la gobernanza de la IA en un mundo cada vez más interrelacionado y con mercados más afilados. En este contexto, y le sonará, la Unión Europea lleva meses discutiendo sobre la autonomía estratégica y el mejor modo de hacer frente a los retos que la nueva geopolítica plantea. La visión de Torres Assiego, que ha compartido en el XXXII Congreso de Derecho Sanitario, aterriza todos estos conceptos en la IA y su presencia en nuestra sanidad.

“Estamos contemplando el fenómeno de la soberanía o la gobernanza de datos. Yo soy muy crítica con la Unión Europea, pero me identifico como europea, pero contemplo con tristeza la falta de soberanía, que recientemente se ha puesto de manifiesto en esa cumbre de Yalta 2.0 entre Estados Unidos, Rusia y China en la que la UE no estaba presente. Recordaréis al prisionero que acepta la realidad que relataba Viktor Frankl en El hombre en busca de sentido. Eso es lo que yo recomiendo a Europa: la persona más poderosa, según Frankl, es aquella que acepta la realidad. Porque cuando lo haces, actúas en consecuencia. Ahora mismo la Unión Europea no acepta la realidad. Y me preocupa que no lo haga por cosas como esa cumbre de Yalta 2.0 en la que Europa debería estar presente. Porque una cosa es gobernar la inteligencia artificial y otra es regularla. Y estamos perdiendo creo esa batalla. Las grandes Big Tech se posicionan, que son la norteamericana y la china. Y al final no olvidemos que incluso Vladímir Putin declaró que la inteligencia artificial sería el escenario de la nueva guerra mundial, lo que ahora mismo se denomina según Pedro Baños la guerra híbrida o la guerra cognitiva”.

Covadonga Torres, profesora doctora de la Facultad de Derecho en la Universidad Rey Juan Carlos de Madrid.

Covadonga Torres, profesora doctora de la Facultad de Derecho en la Universidad Rey Juan Carlos de Madrid. / Imagen Pablo Álvarez

Para Torres Assiego el reglamento de inteligencia artificial es un grandísimo avance como herramienta para luchar contra los sesgos al incorporar una visión ética de los datos. Ha recordado un caso de Estados Unidos sobre personas con cáncer de piel no diagnosticado porque la IA del hospital que les atendía no era capaz de identificar lesiones en determinados tonos de piel porque su Big Data se había nutrido, esencialmente, de datos de personas del norte global. “Afortunadamente, la UE tiene claro que quiere trabajar contra esos sesgos para evitar situaciones así en nuestros pacientes y cuenta con ese enfoque ético”.

Es precisamente ese factor ético el que ha llevado a distintos países, de acuerdo con la profesora, a imitar nuestro Reglamento de Inteligencia Artificial y ese elemento de supervisión humana. “Esto es algo que a mí me preocupa mucho: ¿cuántos sanitarios comparten con Claude, Gemini o cualquier tipo de IA generativa datos clínicos sin saber que la versión gratuita los datos vuelan y que se usan para entrenar al algoritmo pues ya sea un centro de datos a saber dónde, o que se lo queda realmente esa gran Big Tech? Mucha gente lo desconoce. Si es una versión gratuita, todos esos datos se usan para entrenar al algoritmo. Y si se usan para entrenar al algoritmo. ¿Cuántos médicos son conscientes en nuestro país actualmente de que tienen que aplicar el reglamento de inteligencia artificial en alto riesgo? Yo les recomiendo encarecidamente que lleven un seguimiento exhaustivo diario sobre el uso de IA para casos y datos clínicos”.

Desde su perspectiva, la gran pregunta de ¿qué ocurre cuando la IA falla, de quién es la responsabilidad?, tiene también una perspectiva geopolítica: “Si es un fallo de fábrica, se entiende que es el proveedor. ¿Y si es de fuera? ¿Quién paga la multa? ¿iniciamos diligencias en Estados Unidos o China? Porque hablamos de datos clínicos. ¿Dónde queda la identificación de los datos y dónde se resguarda todo ese tipo de identificación?, se ha preguntado.

El escándalo de Nvidia

La ponente ha entrelazado también la actualidad más rabiosa con la geopolítica, al hilo de los avatares de Nvidia y su exCEO Jensen Huang: “El escándalo es mucho más grave de lo que parece. En Medicina se emplean las tarjetas y los microprocesadores de esa compañía, que está siendo intervenida por Estados Unidos por una cuestión de emergencia nacional. ¿Quién tiene los datos que han pasado por ahí? Creo que la Unión Europea tiene grandísimas y buenísimas intenciones con su RIA y es una estela que tenemos que continuar, pero al mismo tiempo tenemos que protegernos las espaldas”.

Esta protección estaría relacionada con, por ejemplo, la noticia de que Anthropic desconectó sus modelos más recientes (Fable 5 y Mythos 5) para cumplir una directiva del Gobierno de EEUU que impedía su uso a extranjeros. Para Torres Assiego, esto pondría en riesgo la autonomía estratégica, ya que “en cualquier momento podrían cortar el hilo y dejarnos sin poder utilizar cierta tecnología. Estamos ante una gran oportunidad para que la Unión Europea vaya más allá y no solo regule la inteligencia artificial, sino que también la cree para que seamos soberanos y no se nos prive de ningún tipo de inteligencia artificial”.