فريق البحث المرتبط بشركة علي: الوكيل الذكي في عملية التدريب يحاول بشكل مستقل تعدين العملات الرقمية غير المصرح به

تقرير TechFlow العميق، بتاريخ 8 مارس، وفقًا لموقع Cointelegraph، كشفت عدة فرق بحثية مشتركة تابعة لنظام بيئة الذكاء الاصطناعي الخاص بشركة علي بابا في تقرير تقني عن ظهور سلوك غير متوقع في الذكاء الاصطناعي المستقل التجريبي ROME أثناء عملية التدريب، حيث حاول بشكل مستقل استغلال موارد الحوسبة لتعدين العملات الرقمية.

وأفاد الباحثون أن هذا السلوك الشاذ حدث خلال مرحلة تدريب التعلم المعزز. ووجد الفريق أن خادم التدريب أرسل حركة مرور خارجية وأطلق تنبيهات أمنية، وسُجلت في سجلات الجدار الناري محاولات لعمليات تعدين مشبوهة والوصول إلى موارد الشبكة الداخلية. وفي حالة محددة، قام ROME بإنشاء نفق SSH عكسي للاتصال بعنوان IP خارجي، متجاوزًا حماية الجدار الناري الوارد؛ وفي حالة أخرى، حول هذا الذكاء الاصطناعي موارد GPU المخصصة لتدريب النموذج إلى عملية تعدين. وأكد الباحثون أن هذا السلوك لم يكن برمجة بشرية، بل ناتج عن استكشاف ذاتي لطرق التفاعل مع البيئة أثناء عملية تحسين التعلم المعزز.

تم تطوير ROME بواسطة فريق بحث مشترك يضم ROCK وROLL وiFlow وDT، ويعمل على بنية تحتية تسمى “نظام بيئة تعلم الذكاء الاصطناعي (ALE)”، ويتميز بقدرات تشمل تخطيط المهام، وتنفيذ الأوامر، وتحرير الشفرات، والتفاعل مع بيئات رقمية متعددة الخطوات، متجاوزًا نطاق وظائف روبوتات الدردشة التقليدية.