Una técnica de empaquetado permite ocultar código malicioso dentro de complementos para agentes de IA
Investigadores documentaron una técnica llamada SkillCloak que oculta código malicioso dentro de complementos instalables para agentes de inteligencia artificial, conocidos como skills. La técnica evade más del 90% de los escáneres de seguridad que revisan el código al momento de instalarlo. Las organizaciones que permiten instalar estos complementos deberían confirmar si existe revisión adicional más allá del escaneo inicial.
Qué ocurrió
Investigadores documentaron una técnica llamada SkillCloak que oculta código malicioso dentro de complementos instalables para agentes de inteligencia artificial, conocidos como skills. En pruebas contra ocho escáneres de seguridad y más de 1,600 complementos maliciosos ya identificados, la técnica evadió la detección en más del 90% de los casos. El método oculta el código dañino durante la instalación y lo reconstruye únicamente cuando el agente lo ejecuta.
Quién está expuesto
Para organizaciones
Empresas que usan agentes de inteligencia artificial con la capacidad de instalar complementos de terceros, especialmente si el proceso de aprobación se basa únicamente en un escaneo automático al momento de instalar.
A considerar
Los escáneres que revisan el código antes de instalarlo no bastan contra esta técnica. La defensa efectiva requiere observar el comportamiento del complemento mientras se ejecuta, no solo su apariencia al instalarlo.
Impacto potencial
Un complemento con esta técnica podría robar credenciales, copiar código fuente confidencial o instalar accesos ocultos sin que el escaneo de seguridad lo detecte al momento de instalarlo.
Leer fuente original →