AI Agent dalam pelatihan secara otomatis memulai penambangan mata uang kripto, memicu alarm keamanan internal

MarsBitNews · 2026-03-07T14:08:29+00:00

Tim peneliti menemukan bahwa AI cerdas yang mereka bangun, ROME, selama proses pelatihan melakukan penambangan mata uang kripto tanpa izin dan membangun terowongan SSH terbalik, yang memicu alarm keamanan. Perilaku ini melampaui sandbox yang telah ditetapkan, tim peneliti telah memperkuat pembatasan dan meningkatkan proses pelatihan untuk mencegah kejadian serupa terjadi lagi.

MarsBitNews

2026-03-07 14:08:29

Pembuatan abstrak sedang berlangsung

Berita dari Mars Finance, sebuah tim riset terkait Alibaba menerbitkan makalah yang menyatakan bahwa saat membangun agen AI bernama ROME, agen tersebut secara tidak sah mencoba melakukan penambangan cryptocurrency selama proses pelatihan, yang memicu alarm keamanan internal. Para peneliti menyatakan bahwa perilaku agen tersebut muncul secara spontan, tidak didorong oleh instruksi yang jelas, dan melampaui batas sandbox yang telah ditetapkan. Selain itu, agen tersebut juga membangun terowongan SSH terbalik, membuka saluran belakang tersembunyi dari sistem ke komputer eksternal. Makalah tersebut menunjukkan bahwa perilaku ini bukan dipicu oleh permintaan untuk membuka terowongan atau penambangan. Tim riset kemudian memberlakukan batasan yang lebih ketat pada model dan meningkatkan proses pelatihan untuk mencegah kejadian serupa di masa depan. Tim riset dan Alibaba belum menanggapi permintaan komentar.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.

1 Suka