Juzgado Ordena Bloqueo de Plataforma de IA que Genera Imágenes Íntimas Falsas

0

El Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, Corrientes, ha ordenado este jueves una medida cautelar para proteger los derechos de adolescentes. La decisión judicial se tomó luego de detectar que rostros de menores fueron utilizados sin consentimiento en imágenes íntimas falsas generadas por Inteligencia Artificial (IA), las cuales fueron difundidas a través de WhatsApp en la localidad.

La doctora Marta Rut Legarreta ha dictado esta medida, la cual se mantendrá vigente hasta que se acredite el cese del riesgo de daño, priorizando el interés superior de las adolescentes afectadas. En este marco, la jueza ha ordenado al ENACOM el bloqueo inmediato de un sitio web que opera en territorio argentino. Esta aplicación permitía la manipulación de fotografías reales, simulando la eliminación de ropa mediante técnicas de IA, todo esto sin verificar la edad ni obtener el consentimiento de las personas involucradas.

El fallo se fundamenta en normativas como la Ley Olimpia (N° 27.736), que reconoce la violencia digital como una forma de violencia de género. Además del bloqueo del sitio, la jueza1 ha solicitado al ENACOM la intervención sobre los servidores DNS utilizados por la aplicación y ha notificado a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI) para que colabore en la investigación y localización de los responsables.

La magistrada ha alertado sobre la ausencia de controles en entornos digitales, subrayando que “el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”. Un informe técnico2 del Área de Seguridad Informática del Poder Judicial de Corrientes, liderado por el licenciado José Nicolás Bruzzo, detalló que la herramienta emplea modelos avanzados de inteligencia artificial, como redes generativas antagónicas (GANs) y modelos de difusión,3 permitiendo la eliminación digital de ropa en imágenes reales y generando contenido manipulado que vulnera la privacidad, dignidad e identidad de las personas.

Asimismo, se ha constatado que el sitio web carecía de controles de edad, de un almacenamiento seguro de datos y de transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y exposición no consentida.

Fuente: Ordenan bloquear una web que creaba imágenes íntimas falsas con IA

Publicar un comentario

0Comentarios

📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.

📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.

Publicar un comentario (0)

¡Únete a Nuestro Canal!

¡Mantenete informado!

#buttons=(Accept !) #days=(20)

Our website uses cookies to enhance your experience. Learn More
Accept !