La pérdida de control de los agentes de IA provocará un 'gran incendio digital'... ¿Cuál es la solución propuesta por Rubric?

A medida que las empresas introducen la inteligencia artificial (AI) para construir entornos de trabajo autónomos, los permisos de control y la gestión de seguridad de los agentes de IA se están convirtiendo en un tema central de la operación digital. En particular, los agentes de IA altamente desarrollados pueden reemplazar la identificación del usuario para ejecutar tareas o tomar decisiones comerciales, y una vez que la seguridad se ve comprometida, podría llevar a la peor situación en la que todo el sistema organizacional sea controlado.

El cofundador y CEO de Rubrik ( CEO ) Bipul Sinha ( enfatizó recientemente en una entrevista: “En una era donde los agentes manejan los negocios a una velocidad sobrehumana, pueden ocurrir daños diez veces mayores en solo diez minutos”. Señaló que la ‘gobernanza de agentes’, que es difícil de controlar con los sistemas de seguridad tradicionales, está surgiendo como un nuevo medio de control. Explicó: “Los agentes de IA operan procesos comerciales como los humanos y a veces imitan la identificación del usuario, por lo que tienen atributos de ‘superhumanos’.”

Para fortalecer la seguridad de los agentes, Rubrik ha lanzado una nueva plataforma llamada ‘Rubrik Agent Cloud’. Este sistema puede analizar los tipos y el alcance de las actividades de los agentes de IA dentro de la organización, detectar comportamientos amenazantes según las barreras de protección preestablecidas y ofrecer la funcionalidad de retirada rápida del agente cuando sea necesario. El CEO Sinha explicó: “Todos los agentes de IA deben ser tratados como nuevos empleados, deben estar equipados con un manual de normas de conducta, un sistema de monitoreo y un procedimiento de pausa en caso de problemas.”

Pero el verdadero desafío de la gobernanza de agentes radica en la velocidad de difusión a gran escala. Si se permite que los agentes se difundan de manera desordenada sin suficiente visibilidad y control, podría llevar a que fallos menores se conviertan en un ‘incendio digital significativo’ que paralice todo el sistema. Al respecto, el CEO Sinha sugiere que las organizaciones no deben establecer planes de automatización demasiado grandes, sino limitarse a 3-4 flujos de trabajo principales y, una vez completada la ejecución del piloto, ampliar gradualmente el alcance.

Sinja también advirtió: “El entorno operativo debe utilizar IA precisa; si no se tiene la capacidad de gestionar costos, los costos de inferencia se dispararán sin control.” Esto significa que la estabilidad de costos, un factor real, no debe ser ignorada en la estrategia de difusión de agentes de IA.

En la actualidad, cuando la tecnología de IA se integra profundamente en la totalidad de las empresas, la estrategia de ‘gobernanza de agentes’ propuesta por Rubrik ha superado las simples medidas de seguridad y se está convirtiendo en el centro de control esencial para la resiliencia digital y la sostenibilidad organizativa.