Hay una crisis de deepfakes sexuales en las escuelas y nadie lo está deteniendo

El auge de los deepfakes comenzó lentamente hace un par de años sin mucha atención y sin mucha regulación. Ahora, se ha extendido hasta las escuelas en todo el mundo, y un análisis realizado por WIRED e Indicator reveló que los adolescentes en entornos escolares son uno de los principales protagonistas de esta problemática, y todo apunta a que no cambiará pronto.

Los deepfakes pornográficos existen desde finales de 2017. Pero a diferencia de los años anteriores, ya no se requieren habilidades técnicas avanzadas, basta con descargar una aplicación, seleccionar una imagen de cualquier persona y manipular la imagen como tú quieras sin su consentimiento. 

Sin embargo, se han observado patrones claros: en casi todos los casos los adolescentes varones son los responsables de crear este tipo de contenido de sus propias compañeras. Y no solo queda ahí, el material manipulado tiene canales de distribución entre otros compañeros a través de chats privados de WhatsApp, Snapchat o grupos de Telegram. 

Y tampoco acaba ahí. Los usuarios buscan llevarlo hasta su comercialización a través de la creación de “catálogos” digitales donde se ofrece el material con nombre, edad y colegio de la víctima.

Este tipo de casos no llega sola, viene acompañada de dinámicas patriarcales ya existentes que entrelaza el poder y la violencia de género. Y lamentablemente, estos casos suelen tener mayor presencia en entornos escolares en todo el mundo. 

Deepfakes sexuales en contextos escolares: Una crisis global

En un análisis de WIRED e Indicator, especializada en engaño y desinformación digital, destacaron que los casos de deepfakes sexuales afecta a cerca de 90 escuelas y más de 600 estudiantes de todo el mundo. 

En Norteamérica, se han reportado casi 30 casos de abuso sexual mediante deepfakes desde 2023. En Sudamérica, van más de 10 casos. En Europa, más de 20, y una docena más en Australia y Asia Oriental en conjunto. “Creo que sería difícil encontrar una escuela que no se haya visto afectada por esto”, señaló a WIRED Lloyd Richardson, director de tecnología del Centro Canadiense para la Protección Infantil. 

Los hallazgos también revelan que al menos 28 países han sido acusados ​​de usar Inteligencia Artificial Generativa para manipular imágenes de sus compañeras con deepfakes sexualizados. Estas imágenes explícitas incluyen a menores, por lo que es considerado como material de abuso sexual infantil, y mencionan que este es el primer paso para examinar los casos de deepfakes sexuales en entornos escolares. 

¿A qué retos se enfrentan las víctimas de deepfakes sexuales?

A pesar de que el contenido es falso, el estigma social persiste. A menudo, las víctimas suelen experimentar sensaciones de culpa, vergüenza, miedo y aislamiento voluntario, ya que suelen perder la confianza en el entorno cercano. 

Esto es muy peligroso, ya que el problema no solo se queda en lo tecnológico, sino que trasciende hasta lo educativo. Las escuelas no están preparadas para este tipo de problemática, y se nota. Según WIRED, la respuesta a estos casos varía según la ubicación, recursos y postura de las autoridades escolares.

Como en un caso de Estados Unidos, una escuela tardó hasta 3 días en denunciar un incidente a la policía. En otro caso, una víctima afirmó que no hubo consecuencias legales para el compañero que difundió fotos de ella. Aquí en México, el caso del alumno del IPN fue absuelto por el delito de violencia digital con IA, aún existiendo la Ley Olimpia. “A menudo, cuando los niños denuncian lo que sucede, la respuesta es totalmente inadecuada”, agregó Afrooz Kaviani Johnson, especialista en protección infantil de UNICEF. 

Esto ha llevado a que las mismas adolescentes participen en protestas, cursos e incluso buscando participar activamente en la creación y/o modificación de leyes, ya que la respuesta por parte de las instituciones educativas es prácticamente nula. 

El problema de las escuelas con los deepfakes va más allá de la intención detrás de los alumnos que crean imágenes sexuales peligrosas entre sí. Muchas ocasiones ni siquiera tiene un trasfondo placentero, sino que tiene la intención de humillar, vengarse y lograr el control social. 

¿Qué pueden hacer las escuelas?

Aunque se trata de una crisis global, mucho del estudio que apenas empieza a realizarse, está limitado a ciertos idiomas y concentran la información en una región. Sin embargo, algunas recomendaciones generales van desde la implementación de protocolos de reporte anónimos y seguros para las víctima, la integración de la ética de la IA y la educación sobre el consentimiento en las escuelas, la colaboración estrecha con padres y autoridades tecnológicas para restringir el uso de herramientas dañinas, y sobre todo, dejar de minimizar la crisis de deepfakes en las escuelas.