Alicia Batlle – Responsable de Comunicación Linde Médica & Linde Gas
Hace unos días leía sobre una nueva aplicación de la inteligencia artificial que empieza a abrirse camino en la investigación de mercados: los focus groups sintéticos. En lugar de reunir a consumidores reales, escuchar sus opiniones, observar sus dudas, sus contradicciones o aquello que quizá ni siquiera habían pensado antes de sentarse a conversar, es posible crear perfiles virtuales con determinadas características demográficas, culturales y psicológicas y preguntarles qué comprarían, qué mensaje les convencería o cómo reaccionarían ante un producto que todavía no existe.
La propuesta resulta difícil de ignorar. Es rápida, extraordinariamente barata y permite repetir un estudio tantas veces como sea necesario, modificando variables casi sin coste. También puede ser útil para explorar hipótesis, anticipar posibles objeciones o detectar preguntas que después merecerá la pena plantear a personas reales. El problema comienza cuando dejamos de entenderla como una herramienta para formular hipótesis y empezamos a tratar sus respuestas como conocimiento acerca de los seres humanos a los que pretende representar.
Un modelo puede recibir una descripción minuciosa de una persona: mujer, 58 años, vive en una determinada ciudad, tiene un nivel concreto de estudios, una determinada renta, hijos, una enfermedad crónica, ciertos hábitos o rasgos de personalidad. Puede producir después una respuesta extraordinariamente verosímil. Incluso puede introducir vacilaciones, dudas, desacuerdos y una cierta apariencia de contradicción. Pero detrás de esa respuesta no hay una mujer de 58 años que haya vivido cincuenta y ocho años.
Hay una inferencia que, permítanme, ni podemos ni debemos pasar por alto.
Conviene remarcar esta diferencia ahora, antes de que la capacidad creciente de las máquinas para representar lingüísticamente lo humano termine haciéndonos olvidar aquello que estamos realmente midiendo.
La cuestión adquiere una dimensión mucho más delicada cuando trasladamos esta lógica a la salud. Pensemos por un momento en una investigación destinada a conocer cómo reciben los pacientes una determinada información médica. Queremos saber qué mensaje genera mayor confianza, cuál se comprende mejor o qué forma de comunicar un diagnóstico favorece una determinada decisión. Hasta ahora, la respuesta parece evidente: habrá que preguntárselo a pacientes.
Pero técnicamente empieza a ser posible hacer algo distinto. Construir cientos de pacientes sintéticos con edades, sexos, patologías, niveles educativos y características diferentes, exponerlos a los mismos mensajes y obtener en pocas horas una enorme cantidad de respuestas aparentemente humanas.
El resultado podría ser impecable sobre el papel: muestras amplias, segmentaciones sofisticadas, tablas, porcentajes y diferencias entre grupos. Podríamos acabar describiendo cómo reaccionan los pacientes ante una información sin que ningún paciente hubiera participado realmente en la investigación.
Estamos ante algo bastante más importante que la discusión sobre la precisión actual de los modelos: ¿Qué clase de conocimiento sobre una persona podemos considerar válido cuando esa persona ha sido sustituida por una representación computacional de cómo suponemos que debería pensar, sentir o decidir?
La literatura reciente obliga a ser prudentes. Algunos estudios que han comparado respuestas humanas con las de participantes sintéticos están encontrando distorsiones sistemáticas: menor capacidad para reproducir diferencias individuales, estereotipos, sesgos de representación y una tendencia a ofrecer respuestas más coherentes o racionales que las de los seres humanos reales. Un estudio publicado este año que comparó personas con sus propios “gemelos digitales”, construidos a partir de centenares de respuestas previas de cada participante, encontró una correlación media de apenas 0,20 entre las respuestas humanas posteriores y las de esos modelos.
El dato importa, pero para mí importa todavía más lo que revela acerca del problema.
Podemos pedirle a una inteligencia artificial que represente a una mujer con EPOC, por ejemplo. Podemos informarle de su edad, del tiempo transcurrido desde el diagnóstico, de que fue fumadora, de que vive con su pareja y de que durante años ha asumido responsabilidades de cuidado. El modelo dispone de suficientes rastros lingüísticos y conocimiento acumulado como para generar un relato perfectamente plausible sobre el estigma, la adherencia al tratamiento, el miedo a la dependencia o la dificultad para priorizar su propia salud.
Lo que no podemos concluir de esa plausibilidad es que hayamos accedido a la experiencia de esa mujer.
Haber cuidado a alguien no equivale a conocer estadísticamente cómo suelen hablar quienes han cuidado. Sentir vergüenza al utilizar un dispositivo médico en público no equivale a disponer de millones de textos en los que otros han descrito esa vergüenza y haber retrasado una consulta porque alguien necesitaba más de ti que tú misma no puede reducirse sin más a una combinación particularmente afinada de variables.
La biografía humana tiene una cualidad incómoda para cualquier sistema de clasificación: desborda las categorías con las que intentamos explicarla.
Dos personas con idéntico diagnóstico, edad, sexo, nivel socioeconómico y tratamiento pueden interpretar de forma radicalmente distinta la misma información médica, porque ninguna de esas variables contiene por completo aquello que han vivido antes de recibirla. Somos nuestras experiencias, relaciones, recuerdos, contradicciones y las circunstancias desde las que una determinada información adquiere sentido.
Precisamente por eso resulta preocupante que la enorme capacidad de los modelos generativos para producir lenguaje humano pueda conducirnos a confundir semejanza lingüística con equivalencia humana. Una inteligencia artificial no necesita experimentar miedo para escribir sobre el miedo de manera convincente. Tampoco necesita confiar para producir una respuesta que exprese confianza, ni dudar para construir una duda perfectamente reconocible. Ésa es, precisamente, una de sus capacidades más extraordinarias. Pero la investigación debería ser especialmente cuidadosa para no convertir esa extraordinaria capacidad de representación en una prueba de que detrás de la representación existe aquello que estamos intentando conocer.
Nada de esto implica renunciar a los participantes sintéticos. Pueden resultar enormemente útiles para explorar escenarios, someter mensajes a una primera prueba, detectar posibles sesgos, generar hipótesis o descubrir preguntas que un equipo investigador no había contemplado. En esos usos, la inteligencia artificial puede ampliar nuestra mirada antes de encontrarnos con las personas.
Otra cosa muy distinta sería permitir que reemplazara ese encuentro. Porque entonces el ahorro de tiempo y costes podría introducir silenciosamente otra forma de pérdida. Las personas reales son metodológicamente incómodas: responden de manera inesperada, interpretan mal nuestras preguntas, se contradicen, cambian de opinión, guardan silencio, introducen asuntos que no estaban en nuestro cuestionario y obligan a revisar categorías que creíamos perfectamente construidas.
Pero esa incomodidad no es un defecto del método, es precisamente el lugar donde comienza el conocimiento.
Nos preguntamos insistentemente hasta qué punto una inteligencia artificial puede hablar como nosotros. La aparición de consumidores, ciudadanos o pacientes sintéticos obliga a formular una pregunta diferente y mucho más urgente: ¿en qué momento empezaremos a considerar que hablar como nosotros es suficiente para poder hablar en nuestro nombre?
La medicina ha dedicado décadas a defender que el paciente debe estar en el centro. Conviene asegurarnos de que, mientras incorporamos la inteligencia artificial a la investigación, no terminemos construyendo un centro perfectamente modelizado en el que el paciente real ya no esté.