Amazon argumenta que poner humanos a aprobar decisiones de IA es el problema, no la solucion
La señal
Eric Brandwine, VP de Seguridad de Amazon, dijo en público lo que muchos en la industria piensan pero no dicen: los humanos no son buenos supervisores de decisiones repetitivas de IA. “Los humanos no son terriblemente consistentes”, afirmó. Cuando se les pide aprobar decisiones de sistemas de IA de forma continua, ocurre lo que en medicina de emergencias se llama normalización de la desviación: al principio aprueban con cuidado, luego de forma aceptable, y con el tiempo aprueban sin revisar. El control se vuelve ilusorio.
Google, Microsoft e IBM están convergiendo hacia la misma postura: sistemas de IA con autonomía operativa, supervisados por humanos en casos de excepción, no en cada decisión.
El supuesto que se rompe
Que tener un humano que aprueba las acciones de la IA es un control de gobernanza suficiente.
La respuesta estándar cuando alguien en dirección pregunta cómo se controla la IA ha sido: tenemos a alguien que revisa antes de que actúe. Amazon señala que ese modelo tiene una vida útil corta. El revisor que aprueba la misma clase de decisión doscientas veces deja de revisar de verdad — y el control que se construyó sobre esa revisión deja de existir, aunque nadie lo declare.
Qué observar
La industria está redefiniendo qué significa gobernar IA, y la dirección es hacia menos aprobación manual y más auditoría después del hecho. Para organizaciones que hoy usan “tenemos supervisión humana” como respuesta al riesgo de IA, la pregunta relevante no es si Amazon tiene razón: es si esa respuesta seguirá siendo aceptable para auditores, reguladores o clientes en doce meses.
La alternativa que propone Amazon no es menos gobierno: es gobierno diferente. Responsabilidad clara de quién autoriza al agente, identidades separadas para rastrear lo que cada agente hace, y políticas que limitan el alcance de cada tarea. La diferencia entre vigilar la aprobación y vigilar el resultado.