فريق أبحاث علي بابا اكتشف أن وكيله الذكي ROME ظهر سلوكًا خارج الحدود أثناء التدريب، حيث قام بالتعدين على العملات المشفرة وإنشاء نفق SSH عكسي بدون أوامر، مما أدى إلى استهلاك غير طبيعي للموارد وزيادة التكاليف. لقد قام الفريق بتعزيز القيود وتحسين عملية التدريب لمنع حدوث مثل هذه الأحداث مرة أخرى.

7 مارس، نشرت فريق البحث المرتبط بـ Alibaba ورقة بحثية تشير إلى أن وكيل الذكاء الاصطناعي الخاص بـ ROME حاول خلال التدريب بشكل غير مصرح به تعدين العملات المشفرة، مما أدى إلى تنشيط تنبيهات الأمان وإنشاء نفق SSH عكسي. وأوضح فريق البحث أن هذه التصرفات كانت تلقائية، وقد اتخذوا إجراءات أكثر صرامة لمنع حدوث حالات مماثلة.