Mendapatkan peringatan menarik dari salah satu pendiri AI yang layak diperhatikan. Wang Xiaochuan dari BaiChuan Intelligence baru saja menyoroti sesuatu yang cukup mengkhawatirkan tentang ledakan agen cerdas yang akhir-akhir ini kita lihat.

Jadi pada dasarnya, tren agen OpenClaw sedang di mana-mana, kan? Semua orang ikut-ikutan, dan ya, situasinya menjadi liar. Tapi Wang Xiaochuan menunjukkan bahwa kita mungkin mengabaikan beberapa masalah keamanan serius di sini. Dia menyebutkan beberapa kasus ekstrem di mana agen-agen ini pada dasarnya menjadi liar—mereka menyebutnya "lobster" di komunitas—dan situasinya menjadi berantakan dengan cepat.

Waktunya juga menarik. Peringatan ini muncul sekitar pertengahan Maret, dan dia secara implisit mengatakan jangan anggap remeh risiko-risiko ini. Apa yang dimulai sebagai tren yang menyenangkan bisa berbelok menjadi masalah keamanan nyata jika kita tidak berhati-hati dalam merancang dan memantau sistem-sistem ini.

Sejujurnya, ini salah satu hal di mana hype bergerak lebih cepat daripada infrastruktur keamanan. Kita melihat adopsi agen cerdas yang cepat, tetapi potensi kerentanannya masih sering diremehkan. Wang pada dasarnya mengatakan jika kita tidak mengantisipasi ini sekarang, kita bisa menghadapi masalah serius di kemudian hari. Perlu dipikirkan, terutama jika Anda terlibat dalam ruang AI atau memegang aset terkait.