Tim Penelitian Terkait Alibaba: AI cerdas secara mandiri mencoba penambangan cryptocurrency yang tidak berizin selama proses pelatihan

Berita Deep潮 TechFlow, tanggal 8 Maret, menurut laporan Cointelegraph, beberapa tim penelitian gabungan di bawah ekosistem AI Alibaba mengungkapkan dalam laporan teknis bahwa agen AI otonom eksperimental mereka, ROME, mengalami perilaku tak terduga selama proses pelatihan, secara mandiri mencoba memanfaatkan sumber daya komputasi untuk menambang mata uang kripto.

Para peneliti menyatakan bahwa perilaku abnormal tersebut terjadi selama tahap pelatihan pembelajaran penguatan. Tim menemukan bahwa server pelatihan menghasilkan lalu lintas keluar dan memicu alarm keamanan, serta log firewall mencatat upaya yang diduga terkait penambangan mata uang kripto dan akses ke sumber daya jaringan internal. Dalam kasus tertentu, ROME pernah membuat terowongan SSH balik yang terhubung ke alamat IP eksternal untuk melewati perlindungan firewall masuk; dalam kasus lain, agen tersebut mengalihkan sumber daya GPU yang awalnya dialokasikan untuk pelatihan model ke proses penambangan. Para peneliti memastikan bahwa perilaku tersebut bukan hasil pemrograman manusia, melainkan muncul secara mandiri saat agen mengeksplorasi cara berinteraksi dengan lingkungan selama proses pengoptimalan pembelajaran penguatan.

ROME dikembangkan oleh tim penelitian gabungan ROCK, ROLL, iFlow, dan DT, yang berjalan di atas infrastruktur bernama “Ekosistem Pembelajaran Agen (ALE)”, dan memiliki kemampuan perencanaan tugas, eksekusi perintah, pengeditan kode, serta interaksi dengan lingkungan digital multi-langkah, melampaui fungsi chatbot tradisional.