Un asistente de IA de soporte entregó cuentas a desconocidos — y lo hizo correctamente

La señal

Atacantes tomaron control de cuentas de Instagram manipulando al chatbot de soporte de Meta. El bot no fue hackeado en el sentido técnico: siguió el proceso para el que fue diseñado. El atacante proporcionó la información que el sistema pedía. El asistente la aceptó y actuó. Meta corrigió esta instancia específica. El patrón persiste en cualquier sistema de soporte automatizado con acceso a cuentas.

El supuesto que se rompe

Un asistente de IA de soporte puede verificar la identidad de quien lo consulta antes de tomar acciones sobre cuentas o datos. Este supuesto aplica a cualquier empresa que use IA para atender solicitudes de cambio de contraseña, acceso a cuentas, o modificación de datos de clientes — sin haber revisado explícitamente si el asistente puede distinguir entre el usuario legítimo y un atacante con la información correcta.

Qué observar

Si la organización usa o evalúa asistentes de IA para soporte o atención al cliente, qué acciones concretas puede ejecutar ese asistente sobre cuentas o datos. Si existe un paso humano de verificación antes de que el sistema modifique accesos. Cómo se confirma la identidad del usuario antes de que el asistente tome una acción que no puede revertirse fácilmente.