La mayoría de las empresas ya tuvo un incidente de seguridad por IA, y la causa no fue el código sino agentes que nadie autorizó

La señal

Una encuesta a 1,001 líderes de TI y seguridad en Estados Unidos, Reino Unido y Australia encontró que el 78% ya vivió un incidente de seguridad relacionado con inteligencia artificial, o identificó una vulnerabilidad derivada de su uso. La causa más frecuente no fueron fallas en código generado por IA, sino agentes de inteligencia artificial que operaban sin autorización o con una configuración incorrecta.

El supuesto que se rompe

Se asume que el riesgo de adoptar IA está en la calidad del código o las respuestas que genera. Los datos muestran otra cosa: el riesgo más común nace de la falta de control sobre qué agentes de IA existen dentro de la organización y quién los autorizó, un problema de gobierno, no de tecnología.

Qué observar

Si existe un inventario actualizado de qué agentes de inteligencia artificial operan en la organización, quién autorizó cada uno, y si hay forma de rastrear una decisión tomada por IA hasta el modelo y los datos que la originaron. Solo la mitad de las empresas encuestadas puede responder eso hoy.