La inteligencia artificial, con su potencial en múltiples aplicaciones, también revela un lado oscuro: en los últimos meses, han surgido graves denuncias por el uso de IA en la creación de videos y fotos sexuales falsos, especialmente de mujeres, muchas de ellas menores. Estos materiales, que a menudo incluyen los rostros de compañeras de los presuntos autores, se editan y se comercializan en redes. Conocidos como “deepfakes” o “engaños profundos”, estos contenidos han comenzado a circular con frecuencia, destacando el impacto en la privacidad y las preocupaciones por su posible uso en campañas de desprestigio.
Las técnicas de manipulación que permiten editar rostros y entornos se encuentran disponibles en la web mediante tutoriales y herramientas de pago. Esto permite la creación de imágenes y videos falsificados, aparentemente reales, que representan una amenaza creciente para la intimidad de las personas.
En Argentina, varios incidentes recientes han generado alarma. En la localidad de San Jerónimo Sud, provincia de Santa Fe, un grupo de mujeres denunció que circulaban imágenes pornográficas falsas de aproximadamente 80 residentes. En este caso, el señalado como autor es un hombre de 49 años. Las imágenes comenzaron a difundirse en agosto del año pasado, y el caso ha cobrado visibilidad en los últimos meses.
Otro caso impactante ocurrió en el municipio bonaerense de San Andrés, en el partido de San Martín, donde un adolescente de 15 años fue acusado de editar y vender fotos de sus compañeras de curso, modificándolas con IA para aparentar desnudez. En Resistencia, Chaco, la policía investiga una situación similar en un colegio privado, intentando identificar a un grupo de jóvenes que presuntamente también comercializaba imágenes manipuladas. Ambos incidentes salieron a la luz este mes de octubre.
En todos estos casos, los deepfakes se crean a partir de fotos reales extraídas de las redes sociales personales de las víctimas. Aunque las imágenes parecen auténticas, son generadas artificialmente mediante IA, generando una falsa percepción y una amenaza a la privacidad.
En San Jerónimo Sud, las imágenes se difundían mediante un canal de Telegram, plataforma que se destaca por su privacidad. Este grupo, llamado “Chicas de la zona”, fue investigado por el fiscal Aquiles Balbis. En un allanamiento, se descubrieron aproximadamente 80,000 imágenes. Hasta el momento, la causa se enmarca en una acción civil, al ser consideradas calumnias e injurias. Sin embargo, para avanzar judicialmente en una causa penal, las víctimas deben presentarse formalmente como querellantes, aunque muchas han decidido no hacerlo, sin que se conozcan completamente los motivos.
Se informó además que el sospechoso enfrenta una imputación adicional por tenencia de pornografía infantil, lo cual suma gravedad a un fenómeno que representa un riesgo serio en términos de privacidad y seguridad en el entorno digital.
📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.
📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.