AI代理失控將引發'數字大型火災'… Rubric提出的解決方案是什麼？

隨着企業引入人工智能(AI)構建自主工作環境，AI代理的控制權限與安全管理正成爲數字化運營的核心課題。特別是，高度發達的AI代理能夠代替用戶身分執行任務或進行商業決策，一旦安全被攻破，可能導致整個組織系統被掌控的最壞情況發生。

Rubrik聯合創始人兼首席執行官(CEO)比普爾·辛哈(Bipul Sinha)近期在採訪中強調：“在代理以超人速度處理業務的時代，短短10分鍾內就可能產生10倍的損害”，他指出傳統安全體系難以管控的‘代理治理’正作爲新的控制手段興起。他解釋道：“AI代理像人類一樣運行業務流程，有時還會模仿用戶身分，因此具有‘超級人類’的屬性。”

爲加強代理安全，Rubrik推出了名爲‘Rubrik Agent Cloud’的新平台。該系統能分析組織內AI代理的類型與活動範圍，依據預設防護欄檢測威脅行爲，並在必要時提供快速撤回該代理的功能。辛哈CEO說明：“所有AI代理都應像新員工一樣對待，必須配備行爲規範手冊、監控體系以及問題發生時的暫停程序。”

但代理治理的真正難題在於大規模擴散速度。若在缺乏足夠可見性與控制權的情況下任由代理無序擴散，可能導致小規模故障演變成癱瘓整個系統的‘數字化重大火災’。對此，辛哈CEO建議組織不應制定過於龐大的自動化計劃，而應限定在3-4個核心工作流完成試點運行後，再逐步擴大範圍。

辛哈還警告道：“運營環境必須使用精準的AI，若不具備成本管理能力，推理成本將失控飆升。”這意味着成本穩定性這一現實因素在AI代理擴散戰略中不容忽視。

在AI技術深度融入企業整體的當下，Rubrik提出的‘代理治理’戰略已超越單純的安全措施，正成爲具體化組織整體數字韌性及可持續性的核心控制塔。