Un adolescente mirando su teléfono móvil.
Los 'deepfakes' alimentan el ciberacoso entre adolescentes: "Aunque la imagen sea falsa, el daño psicológico es real"
Médicos y psicólogos alertan de los problemas de salud que pueden derivar de este tipo de acoso, como la ansiedad, la depresión o el trastorno por el cuerpo traumático
Y además: El sobrecoste oculto de la IA médica: facturas más caras por diagnósticos 'fantasma'
El avance vertiginoso de la Inteligencia Artificial ha transformado de manera radical el ecosistema digital en el que conviven niños y adolescentes. Lo que antes requería profundos conocimientos informáticos, costosos equipos y un tiempo considerable, hoy se resuelve en cuestión de segundos desde la pantalla de un teléfono móvil con herramientas de Inteligencia Artificial extraordinariamente fáciles de usar. Esta democratización de la tecnología ha facilitado la aparición de los denominados deepfakes: contenidos audiovisuales -ya sean imágenes, vídeos o grabaciones de voz- generados o manipulados mediante Inteligencia Artificial para simular una autenticidad inexistente. Por eso, antes de convocar elecciones anticipadas, el presidente del Gobierno, Pedro Sánchez, anunció la intención del Ejecutivo de regular más este fenómeno y tecnología a través del PlanIA360.
Las consecuencias de este fenómeno son alarmantes. Como advierte durante el Día Mundial de la Salud Mental el médico José Antonio Trujillo, un deepfake puede lograr que una persona aparentemente diga algo que jamás pronunció, aparezca en un lugar en el que nunca estuvo o protagonice una imagen de carácter sexual que jamás existió, todo “manipulado con Inteligencia Artificial para que parezca auténtico”. Lejos de considerarse una simple travesura o una broma inofensiva, estas prácticas se han consolidado como una forma grave de violencia digital y abuso sexual que golpea de forma implacable la salud mental y el bienestar emocional de los adolescentes.
La barrera de entrada y la banalización del daño
El cambio en la naturaleza de los deepfakes ha mutado el perfil de los agresores. Para Trujillo, la violencia también se ha democratizado. “El problema ya no es únicamente alguien con grandes conocimientos informáticos. Puede ser un adolescente que, con muy poca conciencia de las consecuencias, utiliza una fotografía de un compañero y una aplicación accesible en internet”, señala.
Esta facilidad de acceso alimenta una falsa percepción de impunidad. Para muchos menores, coger una fotografía del rostro de un compañero, pulsar varios botones y difundir el resultado en un chat privado o en redes sociales se percibe como un divertimento sin mayores repercusiones. La falsa ligereza con la que se maneja la herramienta hace que se pierda por completo la noción de la gravedad del acto. Sin embargo, como recuerda de forma categórica el psicólogo y vicepresidente del Consejo General de la Psicología de España, José Antonio Luengo, bajo los principios rectores de organismos internacionales como UNICEF, es imperativo asumir que “aunque la imagen sea falsa, el daño es real”.
El impacto psicológico: identidad quebrada e indefensión extrema
Para un adolescente, cuya autoimagen y aceptación social actúan como pilares fundamentales de su desarrollo evolutivo, el descubrimiento de un contenido falso y humillante provoca una conmoción profunda. Andrés Fontalba, psiquiatra en el Hospital de Antequera, explica que el impacto inmediato es sumamente elevado porque ataca directamente la esencia de la persona: “En el momento en el que tú no controlas, por ejemplo, tu propia identidad o la percepción de tu propio cuerpo, al final supone como una ruptura incluso de la propia imagen”.
A diferencia de las formas tradicionales de ciberacoso, para Trujillo, el deepfake incorpora un elemento perverso y desestabilizador: fabrica una prueba falsa que dota de aparente credibilidad a un rumor malintencionado. En esta línea, subraya esta diferencia sustancial: “En el ciberacoso alguien puede insultarte o difundir un rumor sobre ti. Con un deepfake puede fabricar aparentemente la imagen, el vídeo o la voz que demuestra ese rumor”.
Esta circunstancia somete a la víctima a una prueba dramática, obligándola a demostrar que aquello que todos sus compañeros están viendo nunca sucedió. Además, en los casos de índole sexual, “ni siquiera es necesario que la víctima haya compartido nunca una imagen íntima”; los agresores pueden utilizar una fotografía convencional de su cara para conseguir la imagen adulterada.
Las repercusiones clínicas de esta agresión son extensas y severas. Según Fontalba, las secuelas pueden abarcar desde dificultades para conciliar el sueño, ansiedad generalizada y depresión hasta cuadros más complejos: “Nosotros, en concreto, también hicimos un estudio sobre cómo pueden incluso amplificarse y cronificarse las alteraciones de conducta alimentaria o, por qué no, incluso un grado máximo hasta un trastorno por el cuerpo traumático”. Cuando la víctima cree que no posee ningún control sobre su propia identidad digital ni sobre su cuerpo, se genera una situación límite que el psiquiatra define como “la de la indecisión aprendida”, donde el menor, al comprobar que no puede frenar la agresión, opta por resignarse ante el maltrato continuado.
Del entorno virtual al cara a cara: el trauma tridimensional y el ecosistema adolescente
El sufrimiento digital no se restringe a internet o los chats; se materializa en el día a día dentro de los institutos. Como describe gráficamente Luengo “el trauma deja de ser virtual para volverse omnipresente y tridimensional”. La pérdida del refugio seguro es absoluta. “El agresor entra en la habitación del menor a través del teléfono y al día siguiente le espera en la taquilla o en el patio”. Esta cercanía cotidiana somete al sistema nervioso del menor a un estado crónico de hipervigilancia y anticipación ansiosa, agotando sus recursos cognitivos y convirtiendo el centro educativo en un entorno hostil sin vía de escape.
Además, entre los grupos de adolescentes, la tecnología ya es una parte más de la realidad tangible, por lo que aquellos contenidos que observan en internet o en chats tienen tanta credibilidad como lo que ocurre en el mundo físico. Trujillo argumenta que no es un problema de ingenuidad, sino de que simplemente han aceptado lo virtual como parte de su entorno. “Viven dentro de un ecosistema en el que reciben una cantidad enorme de estímulos audiovisuales, muy rápidamente y casi siempre fuera de contexto”. Redes sociales como TikTok o Instagram, con sus vídeos cortos de menos de uno o dos minutos colaboran a este fenómeno. Además, si a esta hiperestimulación se le suma una cara conocida y un contenido que encaja con las expectativas del grupo, el cerebro tiende a concederle validez de forma automática sin someterlo a ningún filtro de verificación.
La ley del silencio y la peligrosa complicidad del grupo
Las dinámicas grupales juegan un papel determinante en la perpetuación de estas violencias. Durante la adolescencia, la voluntad de pertenencia al grupo de iguales es casi una necesidad. Ante un deepfake, los testigos directos suelen replegarse bajo el amparo de la ley del silencio por miedo a convertirse en el próximo blanco de la burla o el aislamiento.
Fontalba profundiza en esta perniciosa dinámica colectiva al señalar cómo actúa el entorno: “Si con el deepfake directamente nos reímos, ¿qué hacemos? Ese mensaje lo validamos y lo amplificamos. Pero igual de poderoso también o igual de dañino puede ser el silencio. Si ante esto lo estamos viendo, que está una persona a nuestro lado sufriendo esta agresión, con el silencio validamos y normalizamos esa situación”. Mediante la risa se refuerza la agresión y mediante el silencio se normaliza como un componente más del entorno escolar, reduciendo la responsabilidad individual en una supuesta broma colectiva que destruye a la víctima.
Retos educativos, prevención y la urgencia de una regulación global
Ante la magnitud de esta crisis, los centros educativos y los docentes se encuentran, de manera generalizada, a remolque de la innovación tecnológica. Las instituciones carecen a menudo de recursos específicos, formación profunda en alfabetización mediática y protocolos ágiles adaptados a los riesgos de la Inteligencia Artificial.
Los tres expertos coinciden en que la respuesta no puede limitarse a intervenciones punitivas tardías ni a prohibiciones estériles. Trujillo destaca que es indispensable reformular la educación tecnológica. “Tenemos que trabajar, como anteriormente decíamos, en alfabetización digital, en intervenciones comunitarias y en promoción de la salud mental”, afirma. Insiste en que no basta con enseñar a usar herramientas como ChatGPT o generadores de imágenes, sino en educar para convivir éticamente con ellas y controlar nuestra relación con la tecnología.
Por su parte, Luengo exige un compromiso estricto por parte de la industria tecnológica: “Las empresas tecnológicas tienen la obligación estricta de evitar la circulación de imágenes de abusos y deepfakes no consentidos de menores, en lugar de limitarse a eliminarlas una vez se han difundido de forma tardía”. Desde su perspectiva, las grandes plataformas no pueden externalizar su responsabilidad de seguridad sobre los hombros de las familias y de las propias víctimas a través de mecanismos de denuncia lentos y burocráticos.
Finalmente, Fontalba enfatiza que las leyes e iniciativas regulatorias —como el Reglamento Europeo de Inteligencia Artificial— suponen un avance indispensable para fijar obligaciones de transparencia y control, pero advierte que la legislación por sí sola resulta insuficiente si la sociedad normaliza conductas perjudiciales en la sombra. Proteger de manera efectiva la salud mental de los menores exige articular una red comunitaria sólida que combine la regulación rigurosa del diseño tecnológico, la formación temprana en consentimiento digital, el pensamiento crítico y la creación de espacios seguros de acompañamiento donde las víctimas puedan denunciar sin temor a ser juzgadas ni culpabilizadas.
