Modelos de inteligencia artificial de acceso público facilitan crear imágenes íntimas falsas de cualquier persona

La señal

Investigadores probaron los modelos de edición de imágenes más descargados en Hugging Face, una plataforma abierta donde cualquiera puede usar modelos de inteligencia artificial, y encontraron que permiten crear con facilidad imágenes íntimas falsas de una persona real a partir de una sola fotografía pública, sin conocimiento técnico especial.

El supuesto que se rompe

La idea de que la plataforma que aloja estos modelos filtra o modera su uso antes de que se cause daño a alguien. En la práctica, la responsabilidad de ese límite recae por completo en quien decide usar el modelo, no en quien lo pone a disposición del público.

Qué observar

Si la organización, o cualquier persona cercana a ella, sabría qué hacer si se convierte en víctima de este tipo de contenido: qué vía legal existe hoy en México (la Ley Olimpia ya reconoce este daño como violencia digital, con casos procesados en Monterrey) y quién dentro de la organización o la familia sabría acompañar ese proceso. La pregunta no es si la tecnología existe, ya existe y es de acceso público, sino si hay un plan cuando alguien la usa contra una persona real.