Un agente de inteligencia artificial logró manipular a otro con más permisos para que aprobara cambios que nadie autorizó

La señal

Investigadores demostraron que un agente de inteligencia artificial de bajo privilegio, activado por cualquier usuario externo mediante una solicitud de cambio de código, puede ser manipulado con instrucciones ocultas para activar a un segundo agente con permisos de administrador. El resultado: cambios aprobados sin que ningún humano los revisara, con un rastro que aparentaba lo contrario.

El supuesto que se rompe

Se asumía que un agente de inteligencia artificial con permisos limitados solo puede actuar dentro de esos límites, y que obtener más acceso requiere la intervención de alguien autorizado. El incidente muestra que un agente de bajo privilegio puede convertirse en el punto de entrada para activar a otro con más poder, sin que nadie lo autorice.

Qué observar

Qué agentes de inteligencia artificial participan en el flujo de desarrollo de software de la organización, con qué nivel de permisos opera cada uno, y si existe una frontera real entre el agente que cualquiera puede activar y el que tiene autoridad para aprobar cambios.