La IA está en boca de todos, unos la viven como una carrera, con la sensación (y hasta la ansiedad) de estar experimentando una carrera hacia una meta desconocida pero que resulta deseable a un nivel nunca antes imaginado. Otros la viven desde la prudencia o el miedo dadas las llamadas al “freno” de sus propios creadores.

Hace tiempo, quizá ya más de un año o de dos, que yo la vivo desde la pregunta: ¿qué inteligencia dejo de ejercer cada día de uso?

Vemos, palomitas en mano unos, con advertencia otros, cómo va asumiendo cada vez más tareas. Sus capacidades, lejos del impacto inicial, ya no nos sorprenden tanto. Cuanto más normal se vuelve utilizarla para resumir, ordenar, comparar, redactar, detectar incoherencias o proponer alternativas, más difícil resulta separar el evidente aumento en eficiencia de otra transformación: la que se produce en nosotros cuando dejamos de ejercitar de forma habitual las operaciones que hemos empezado a delegar.

No creo que haya nada especialmente inquietante en delegar una tarea que una máquina puede realizar mejor, más rápido o con un coste menor, ni tendría demasiado sentido convertir en una cuestión moral la defensa de procesos que quizá ya no necesitamos ejecutar de la misma manera; la historia de la tecnología está llena de capacidades que dejamos de utilizar porque encontramos herramientas capaces de ampliarlas o sustituirlas, y sería difícil defender seriamente que deberíamos renunciar a la calculadora o al GPS para preservar intactas nuestras facultades anteriores.

Con la inteligencia artificial generativa, sin embargo, estamos entrando en un terreno distinto, porque lo que empezamos a externalizar no son únicamente operaciones mecánicas o de acceso a la información, sino algunas de las actividades que hasta ahora asociábamos de manera bastante directa con el propio trabajo intelectual: sintetizar un documento, construir una argumentación, formular una hipótesis, identificar relaciones entre elementos dispersos, comparar interpretaciones o generar una primera estructura sobre la que después pensamos.

El pasado 29 de septiembre, tuve la oportunidad de escuchar a diversos profesionales compartir sus experiencias en la High Tech & Human Touch: Tecnología y cuidado humano en la era de la IA, una jornada organizada por el Hospital Sant Joan de Déu de Barcelona.

Conversando sobre la implementación real de IA en organizaciones sanitarias, el debate planteó si podemos dejar de hacer una tarea sin dejar de comprenderla, pero también si podemos dejar de hacerla durante el tiempo suficiente como para empezar a perder parte del conocimiento que necesitamos para supervisarla.

La diferencia no es menor. Durante los últimos meses hemos hablado mucho de mantener al ser humano dentro del circuito, de garantizar que exista siempre una persona que revise, valide o tome la decisión definitiva, y no tengo ninguna duda de que esa supervisión es imprescindible; lo que me parece menos evidente es que la mera presencia de una persona al final del proceso sea suficiente para garantizar una supervisión de calidad, porque revisar no significa necesariamente comprender, y comprender no significa necesariamente conservar la capacidad real de contradecir una propuesta cuando esta llega formulada con la coherencia, la seguridad y la apariencia de solvencia que caracterizan a los sistemas generativos actuales.

Pensemos en alguien que utiliza todos los días una herramienta que acierta casi siempre (atención al casi). Al principio revisará cada resultado con atención, buscará errores, comprobará fuentes y contrastará matices; con el tiempo, si la herramienta demuestra ser fiable, esa revisión se hará más rápida, aparecerá una confianza razonable y probablemente empezará a reservar su atención para aquellos casos que parezcan anómalos. El problema es que los errores más difíciles de detectar no siempre se presentan como errores, algunas veces son perfectamente plausibles, están bien escritos, encajan con lo que esperábamos encontrar y llegan envueltos en la forma discursiva de una respuesta correcta.

Si además esa misma persona lleva meses o años sin realizar directamente la tarea que ahora supervisa, que siga estando dentro del circuito resulta irrelevante, lo crucial es qué calidad mantiene su presencia dentro de él.

Esto me parece especialmente importante en sanidad, donde solemos reservar el debate ético de mayor intensidad para los usos clínicos de la inteligencia artificial (diagnóstico, predicción, tratamiento, priorización, decisiones asistenciales) cuando las organizaciones sanitarias están llenas de otros procesos que también afectan, de manera más o menos directa, a personas y pacientes (comunicación, atención al usuario, contratación, operaciones, calidad, gestión documental, recursos humanos, compras o planificación).

La distancia entre una decisión aparentemente administrativa y su efecto final sobre una persona puede ser mucho mayor de lo que percibimos desde cada departamento, y por eso la gobernanza de la IA en salud no debería empezar únicamente cuando aparece un algoritmo clínico, sino también cuando una herramienta resume información, genera un contenido, reordena prioridades o propone una interpretación que después alimentará otra decisión.

En ese contexto, el llamado shadow AI resulta muy interesante, porque suele presentarse como un problema de seguridad o de incumplimiento (personas que utilizan herramientas que la organización no ha autorizado o fuera de los entornos formalmente establecidos), cuando en realidad también puede funcionar como una señal bastante precisa de dónde existe una necesidad no cubierta, qué tareas generan fricción o qué procesos están pidiendo a gritos otra manera de hacerse.

Eso no convierte esos usos en adecuados ni elimina los riesgos evidentes de confidencialidad, protección de datos o falta de trazabilidad, pero sí debería obligarnos a mirar un poco más allá de la prohibición. Cuando una tecnología resuelve un problema real y la organización no ofrece una alternativa razonable para utilizarla de forma segura, existe la posibilidad de que el uso no desaparezca, sino que simplemente se vuelva menos visible, y gobernar lo invisible siempre será más difícil que gobernar lo que conocemos.

Me interesa muy poco una gobernanza construida alrededor de catálogos de herramientas permitidas o prohibidas y mucho más una gobernanza capaz de comprender casos de uso. Una misma aplicación puede servir para proponer alternativas a un titular o para analizar documentación que contiene información sensible, y la herramienta seguirá siendo exactamente la misma aunque el riesgo, la responsabilidad y el nivel de verificación necesario sean completamente distintos.

Dejemos de preguntarnos si podemos utilizar una determinada inteligencia artificial, preguntémonos para qué queremos utilizarla, qué información necesita recibir, qué ocurriría si se equivoca, quién podría verse afectado por ese error y quién será capaz de explicar después por qué aceptamos su resultado.

Todo esto nos lleva inevitablemente a la alfabetización, otro concepto que corremos el riesgo de reducir a aprender a formular mejores prompts, como si utilizar bien una inteligencia artificial consistiera fundamentalmente en saber pedirle cosas con mayor precisión.

Una persona capaz de producir resultados excelentes con un modelo generativo no es necesariamente una persona capaz de utilizarlo responsablemente, del mismo modo que conocer todas las funciones de una herramienta no implica comprender las consecuencias de emplearla en determinados contextos.

Alfabetizar significa comprender qué información no debe introducirse, reconocer cuándo necesitamos volver a la fuente original, detectar qué tipos de error puede producir un sistema, identificar cuándo el contexto exige un nivel de comprobación distinto y, quizá de manera aún más difícil, aprender a observar nuestra propia conducta frente a la herramienta.

No creo que debamos proteger tareas. Algunas desaparecerán, otras se transformarán y muchas dejarán de tener sentido tal como las conocemos ahora, y probablemente eso sea una buena noticia si nos permite dedicar tiempo y atención a problemas de mayor valor.

Lo que sí creo que tendremos que empezar a proteger de manera mucho más consciente son capacidades, porque no todo el conocimiento que adquirimos realizando una tarea queda contenido en el resultado final de esa tarea; está en el recorrido, en las dudas que aparecen mientras la hacemos, en las excepciones que aprendemos a reconocer, en los errores que cometemos y corregimos o en la comprensión contextual que se construye porque hemos tenido que atravesar el problema en lugar de recibir directamente una solución.

Leer veinte páginas y recibir un resumen de esas veinte páginas no son experiencias cognitivamente equivalentes, aunque en ambos casos podamos terminar con una cantidad de información aparentemente suficiente. La eficiencia sigue siendo real y extraordinariamente valiosa, pero también lo es lo que ocurre durante el proceso.

La inteligencia artificial seguirá mejorando, la cuestión es si nuestra capacidad para supervisarla mejorará con ella o si, paradójicamente, irá debilitándose a medida que la utilicemos.