Perhelatan teknologi terbesar di dunia sedang membahas tentang ‘pencucian akuntabilitas’: Inilah mengapa kita harus menobatkan mereka sebagai Kata-Kata Tahun ini

Summer Yue bukanlah karyawan paling terkenal di Meta. Direktur “penelitian keselarasan dan keselamatan superintelligence” ini memposting foto dirinya berjalan dengan anjing di pantai dan pesan tentang menguji kejujuran asisten AI. Dia memiliki jumlah pengikut yang modest di media sosial.

Video Rekomendasi

Namun, selama satu hari di bulan Februari, Yue menjadi orang paling banyak dibicarakan di Meta. Bukan karena meluncurkan produk baru yang luar biasa atau mengumumkan terobosan dalam AI agen, tetapi karena tertangkap basah.

“Tidak ada yang membuatmu merasa rendah hati seperti memberi tahu OpenClaw-mu, ‘Konfirmasi sebelum bertindak’ dan menyaksikan dia menghapus email masukmu dengan cepat,” tulis Yue di X—yang sekarang telah mendapatkan hampir 10 juta tampilan. “Aku tidak bisa menghentikannya dari ponselku. Aku harus lari ke Mac mini seolah-olah aku sedang membongkar bom.”

OpenClaw adalah sebuah “agen otonom”—produk kecerdasan buatan yang dapat melakukan tugas secara independen. Favorit di Silicon Valley, ia menawarkan untuk menjadi asisten administrasi tetapmu, “AI yang benar-benar melakukan hal-hal.” Berikan akses ke diary, email, hidupmu, dan ia akan menghemat waktu dan stresmu, klaim pengembang produk tersebut. Kalimat pertama di situs OpenClaw berbunyi: “Membersihkan email masukmu, mengirim email, mengelola kalender, check-in untuk penerbangan.”

Yue mengakui dia melakukan “kesalahan pemula.” Dia menguji asisten tersebut pada daftar email kecil “mainan” dan kemudian merilisnya ke seluruh inbox yang terlalu besar untuk dipandu oleh prompt pengaman (“Periksa dengan saya”) yang dia gunakan untuk pilot. Tetapi jika bahkan seorang direktur superintelligence di Meta mengalami kesulitan menavigasi dunia AI agen dan “efek kompresi,” apa harapan kita semua?

Baca selengkapnya: CEO Qualcomm: ‘Perlawanan adalah sia-sia’ menjelang revolusi mobile 6G

Ini adalah percakapan penting, sangat penting sehingga di Mobile World Congress minggu ini di Barcelona—pertemuan teknologi terbesar di dunia—kesalahan Yue diperdebatkan di panggung utama.

“Tentu saja, semua orang di Kongres Dunia ini sedang membicarakan tentang OpenClaw dan bagaimana kita bisa menggunakan agen,” kata Kate Crawford, profesor riset di University of Southern California.

“Tapi kemudian kami melihat kepala keselamatan AI Meta menggunakan OpenClaw, dan itu menghapus seluruh inbox-nya. Itu adalah kepala keselamatan di Meta. Jadi, jika dia mengalami masalah, saya rasa kita semua harus bertanya: ‘Bagaimana kita memastikan bahwa sistem ini benar-benar tahan banting? Bagaimana kita memastikan bahwa mereka diuji secara ketat? Bagaimana kita bisa benar-benar mendelegasikan ke mereka dengan cara yang terpercaya?’ Dan itu adalah masalah tersulit yang harus dihadapi, kan?”

Benar. Ketika sesuatu berjalan salah, siapa yang bertanggung jawab? Pengguna? Pengembang? Kurangnya regulasi? Ketika kenyataan AI bertabrakan dengan janji AI, apa yang harus kita lakukan?

Inbox Yue mungkin hanya sangat penting baginya. Tetapi ketika menyangkut hubungan antara teknologi dan, misalnya, kesehatan kita, atau, perhatikan, pertahanan negara, maka itu adalah masalah yang sangat berbeda. Tidak lama lalu, Grok, bot AI dari xAI, secara santai “membongkar” gambar wanita dan gadis hingga membuat jutaan orang jijik. Ancaman tindakan pemerintah dan negara akhirnya membawa perubahan pendekatan.

“Bagaimana kita memastikan bahwa sistem ini benar-benar tahan banting? Bagaimana kita memastikan bahwa mereka diuji secara ketat?”

Kate Crawford, profesor riset di University of Southern California

“Bagaimana sebenarnya membangun akuntabilitas?” tanya Crawford. “Ini adalah hal yang kita semua inginkan. Jika kamu mulai menggunakan agen untuk memesan penerbangan, mengatur janji medis, dan bahkan kegiatan yang lebih pribadi dan terpercaya dalam kehidupan sehari-harimu, kamu ingin tahu bahwa informasi tersebut akan dilindungi.

“Jadi, bagaimana kamu mengujinya? Bagaimana memastikan bahwa itu terjadi? Jika kita melihat apa yang terjadi dalam 10 tahun terakhir di dunia teknologi, sayangnya kita telah melihat banyak pencucian akuntabilitas—yaitu ketika perusahaan bisa berkata, ‘Yah, saya tidak tahu. Maksud saya, algoritmanya yang melakukannya.’”

Itu tidak cukup. Crawford menuntut transparansi penuh dan audit terhadap “pelatihan agen,” sebuah proses menyeluruh yang mengungkapkan apa yang salah dan siapa yang bertanggung jawab. Perusahaan teknologi harus mendengarkan dan bertindak. Akan ada semakin banyak Summer Yue di luar sana—dan itu pasti akan berarti lebih dari sekadar email yang hilang dan posting jujur di X.

Bergabunglah dengan kami dalam percakapan virtual Fortune 500 Eropa C-Suite, bekerja sama dengan Syndio, tentang penguasaan keputusan tenaga kerja dan transparansi gaji di era AI. Dirancang untuk pemimpin SDM global dan regional, sesi ini mengeksplorasi bagaimana CHRO menggunakan AI untuk membuat keputusan gaji yang lebih cerdas, mengelola risiko regulasi, dan memperkuat kepercayaan tenaga kerja. Disusun khusus untuk CHRO dan pemimpin SDM senior. Daftar sekarang.