A perda de controlo da IA vai provocar um 'grande incêndio digital'… Qual é a solução proposta pela Rubric?

Com a introdução da inteligência artificial (AI) pelas empresas para construir um ambiente de trabalho autónomo, os direitos de controle e a gestão de segurança dos agentes de IA estão se tornando questões centrais da operação digital. Em particular, agentes de IA altamente desenvolvidos podem substituir a identificação do usuário para executar tarefas ou tomar decisões comerciais, e uma vez que a segurança seja comprometida, pode levar à pior situação em que todo o sistema organizacional seja controlado.

O cofundador e CEO da Rubrik ( CEO ) Bipul Sinha ( destacou recentemente em uma entrevista: “Na era em que os agentes lidam com os negócios a uma velocidade sobre-humana, danos de 10 vezes podem ocorrer em apenas 10 minutos”, ele apontou que a ‘governança de agentes’, que é difícil de controlar com sistemas de segurança tradicionais, está emergindo como um novo meio de controle. Ele explicou: “Os agentes de IA operam processos de negócios como humanos, e às vezes imitam a identidade do usuário, portanto possuem atributos de ‘super-humano’.”

Para aumentar a segurança dos agentes, a Rubrik lançou uma nova plataforma chamada ‘Rubrik Agent Cloud’. Este sistema pode analisar o tipo e o alcance das atividades dos agentes de IA dentro da organização, detectando comportamentos ameaçadores com base em barreiras de proteção predefinidas, e oferecendo a capacidade de retirar rapidamente esse agente quando necessário. O CEO Sinha explicou: “Todos os agentes de IA devem ser tratados como novos funcionários, devendo ser equipados com um manual de conduta, um sistema de monitorização e um procedimento de pausa quando surgirem problemas.”

Mas o verdadeiro desafio da governança por delegação reside na velocidade de disseminação em larga escala. Se os delegados forem deixados a se espalhar de forma desordenada na ausência de visibilidade e controle suficientes, isso pode resultar em falhas em pequena escala que se transformam em um 'incêndio digital significativo' que paralisaria todo o sistema. Para isso, o CEO Sinha sugere que as organizações não devem estabelecer planos de automação excessivamente grandes, mas sim limitar-se a 3-4 fluxos de trabalho principais, completando a execução do projeto piloto antes de ampliar gradualmente o alcance.

Sinha também advertiu: “O ambiente operacional deve utilizar IA precisa; se não houver capacidade de gestão de custos, os custos de raciocínio dispararão fora de controle.” Isso significa que a estabilidade de custos, como um fator real, não pode ser ignorada na estratégia de difusão de agentes de IA.

Na atualidade em que a tecnologia AI está profundamente integrada na totalidade das empresas, a estratégia de ‘governança de agentes’ proposta pela Rubrik já ultrapassou meras medidas de segurança, tornando-se um pilar central para a concretização da resiliência digital e da sustentabilidade organizacional.