xAI pide al tribunal que revele la identidad de las víctimas de deepfakes generados por Grok

Cuatro personas demandaron a xAI por deepfakes sexuales no consentidos generados por Grok, el modelo de IA de la empresa. xAI respondió solicitando que el tribunal les obligue a revelar su identidad real —lo que las víctimas intentan evitar precisamente por el riesgo de ser identificadas públicamente—. La estrategia legal expone una asimetría: las víctimas de abuso generado por IA tienen que elegir entre proteger su privacidad o buscar justicia.

El caso importa más allá de xAI. Establece cómo los proveedores de IA responden cuando sus modelos causan daño real. La respuesta de xAI —intentar desanonimizar a las víctimas en lugar de limitar el abuso— es datos sobre el tipo de empresa que es.

Para organizaciones que evalúan qué modelos de IA adoptar o con qué proveedores integrarse: la conducta del proveedor ante incidentes de daño es tan relevante como el rendimiento del modelo. El marco regulatorio mexicano sobre deepfakes no consentidos no está listo todavía. Cuando llegue, llegará influenciado por estos precedentes.