San Francisco exige a Apple y Google eliminar apps que generan desnudos falsos con IA
La señal
La oficina del fiscal de la ciudad de San Francisco exigió a Apple y Google eliminar 13 aplicaciones de “desnudez por IA” (nudify apps) que generan imágenes íntimas falsas sin consentimiento, usadas mayoritariamente contra mujeres y niñas. Es la segunda acción legal de la ciudad contra este tipo de servicios desde 2024, cuando demandó a 16 sitios web similares.
El supuesto que se rompe
Se asumía que las tiendas de aplicaciones filtran este tipo de contenido antes de publicarlo. Varias de las apps señaladas estaban clasificadas como aptas para todo público y se promocionaban activamente dentro de las propias tiendas.
Qué observar
Cómo evoluciona la presión legal sobre las tiendas de aplicaciones, y si logra eliminar estas herramientas con más eficacia que la moderación automática. Vale la pena observar también cómo se aplica en México la Ley Olimpia, el marco legal que ya tipifica este tipo de contenido generado por IA, con casos ya procesados en el país: el debate que apenas comienza en Estados Unidos ya tiene un antecedente legal aquí.