La expansión de la inteligencia artificial generativa y la falta de controles efectivos en plataformas digitales están dando lugar a nuevas formas de violencia de género en entornos virtuales. Un reciente informe de la organización AI Forensics documenta cómo grupos en Telegram se han convertido en espacios donde miles de usuarios comparten, manipulan y distribuyen imágenes de mujeres sin su consentimiento, en muchos casos utilizando herramientas de IA.

El estudio revela un ecosistema digital donde el anonimato, la tecnología y la falta de moderación efectiva confluyen para facilitar prácticas que van desde el acoso hasta la creación de contenido sexual falso, conocido como “deepfake”. Aunque este tipo de violencia no es nuevo, su escala y sofisticación han crecido significativamente en los últimos años.

Una violencia que se transforma con la tecnología

Según la investigación, los grupos analizados operan bajo dinámicas organizadas en las que los usuarios no solo comparten imágenes, sino que también intercambian instrucciones para generar contenido manipulado mediante inteligencia artificial.

La socióloga Silvia Semenzin, una de las autoras del informe, advierte que el fenómeno ha evolucionado: ya no depende únicamente de imágenes reales, sino que ahora cualquier fotografía puede ser utilizada como base para generar contenido íntimo falso.

Este cambio marca un punto de inflexión. Si antes la exposición estaba ligada a la existencia de imágenes privadas, hoy basta con tener presencia en redes sociales para convertirse en objetivo de estos grupos.

Normalización del acoso y cultura digital permisiva

Uno de los hallazgos más preocupantes del informe es la normalización del acoso dentro de estas comunidades. Los investigadores identificaron que muchos usuarios enmarcan estas prácticas como “bromas” o dinámicas de entretenimiento, lo que contribuye a minimizar la gravedad del daño.

Sin embargo, detrás de esa aparente trivialización se esconde una forma estructurada de violencia. La interacción en estos espacios no solo refuerza comportamientos abusivos, sino que también construye una cultura donde la cosificación y la humillación de las mujeres se convierten en elementos de cohesión entre los participantes.

El informe señala que este fenómeno atraviesa distintas edades, desde adolescentes hasta adultos, lo que evidencia que no se trata de conductas aisladas, sino de un problema más amplio vinculado a dinámicas sociales y culturales.

Plataformas en el centro del debate

El papel de Telegram ha sido objeto de cuestionamiento. Aunque la plataforma sostiene que prohíbe la pornografía no consentida y asegura eliminar contenidos cuando son reportados, los investigadores encontraron que múltiples grupos permanecen activos sin intervención.

Además, el sistema de suscripciones y pagos, en algunos casos mediante criptomonedas, facilita la monetización de este tipo de contenidos, lo que introduce un incentivo económico adicional para su proliferación.

Para los expertos, esta combinación de anonimato, baja supervisión y posibilidades de monetización convierte a ciertas plataformas en entornos propicios para la expansión de estas prácticas.

La IA como multiplicador del riesgo

El uso de herramientas de inteligencia artificial ha ampliado significativamente el alcance del problema. Aplicaciones accesibles y de uso masivo permiten generar imágenes y audios falsos con relativa facilidad, reduciendo las barreras técnicas para producir contenido abusivo.

Este escenario transforma la naturaleza del riesgo: ya no se limita a quienes comparten contenido íntimo, sino que se extiende potencialmente a cualquier persona con presencia digital.

Como advierte Silvia Semenzin, la tecnología ha democratizado la capacidad de ejercer este tipo de violencia, haciendo más difícil su prevención y control.

Un desafío para la regulación y la sociedad

El fenómeno plantea retos complejos tanto para las plataformas tecnológicas como para los marcos regulatorios. La velocidad con la que evolucionan estas prácticas supera, en muchos casos, la capacidad de respuesta institucional.

Al mismo tiempo, expertos coinciden en que la solución no puede limitarse a la moderación de contenidos. Se requiere un enfoque integral que incluya educación digital, fortalecimiento de mecanismos legales y una revisión del diseño de las plataformas.

El informe de AI Forensics pone sobre la mesa una realidad incómoda: la tecnología que promete ampliar capacidades también puede ser utilizada para profundizar desigualdades y violencias existentes.

Entre lo invisible y lo cotidiano

Lejos de ser un fenómeno marginal, estas prácticas se sitúan en un punto intermedio entre la clandestinidad y lo cotidiano. No pertenecen completamente a la llamada “web oscura”, pero tampoco están plenamente expuestas en espacios públicos tradicionales.

Esa zona gris es, precisamente, lo que permite su expansión. La facilidad para encontrar estos grupos y la baja percepción de riesgo entre los usuarios evidencian la urgencia de abordar el problema.

En un entorno digital cada vez más complejo, la discusión ya no gira únicamente en torno a la tecnología, sino al tipo de sociedad que se construye a partir de su uso.

Porque, como advierten los expertos, el verdadero desafío no es solo técnico, sino cultural: entender que detrás de cada imagen manipulada hay una persona real, y que la violencia digital tiene consecuencias fuera de la pantalla.