Peringatan Vitalik: Orang cerdas lebih membutuhkan aturan "bodoh"

Penulis: Zhixiong Pan

Artikel yang dipublikasikan Vitalik beberapa minggu yang lalu berjudul “Galaxy Brain Resistance” sebenarnya cukup sulit dipahami, dan saya belum melihat penjelasan yang baik, jadi saya akan mencoba.

Bagaimanapun, saya melihat pencipta istilah Vibe Coding, Karpathy, juga membaca artikel ini dan mencatat, pasti ada sesuatu yang istimewa.

Pertama-tama, mari kita bahas arti dari judul ini, yaitu Galaxy Brain dan Resistance. Setelah memahami judul ini, Anda akan dapat memahami kira-kira apa yang dibahas dalam artikel ini.

1️⃣ Terjemahan Galaxy Brain dalam bahasa Mandarin adalah “银河大脑”, tetapi sebenarnya berasal dari sebuah meme internet, mirip dengan gambar yang menggabungkan (???) yang pasti sudah Anda lihat.

Awalnya tentu saja ini adalah makna positif, digunakan untuk memuji pemikiran orang lain yang sangat brilian, yaitu cerdas. Namun, seiring dengan penyebaran penggunaannya, secara bertahap berubah menjadi semacam ironi, kira-kira artinya adalah 'terlalu memikirkan, logika yang terlalu jauh.'

Dan Vitalik di sini menyebut ??? , yang merujuk pada perilaku “menggunakan kecerdasan tinggi untuk berolahraga pikiran, mengklaim hal-hal yang tidak masuk akal sebagai hal yang sangat masuk akal”. Misalnya:

• Jelas-jelas untuk menghemat biaya besar-besaran, tetapi harus mengatakan bahwa itu adalah “mengirimkan bakat berkualitas tinggi ke masyarakat.”

• Jelas-jelas adalah koin angin yang memotong rumput, tetapi mengklaim sedang “memberdayakan ekonomi global melalui pemerintahan terdesentralisasi”.

Semua bisa dianggap sebagai pemikiran gaya “Otak Galaksi”.

2️⃣ Apa arti Resistance (resistensi) itu? Konsep ini mudah membingungkan, bisa dis类比 dengan istilah populer sebagai “kemampuan untuk tidak terpengaruh” atau “kemampuan untuk tidak tertipu.”

Jadi Galaxy Brain Resistance harus dianggap sebagai Resistance to [becoming] Galaxy Brain yaitu: “kemampuan untuk menahan (berubah menjadi) Galaxy Brain (omong kosong).”

Atau lebih tepatnya, untuk menggambarkan seberapa sulitnya gaya pemikiran / argumen tertentu disalahgunakan untuk “membuktikan kesimpulan apa pun yang Anda inginkan.”

Jadi “perlawanan” ini bisa ditujukan pada suatu “teori”, seperti,

• Teori Resistensi Rendah (Low Resistance): Dengan sedikit pengkajian, dapat berubah menjadi logika “Otak Galaksi” yang sangat tidak masuk akal.

• Teori Resistensi Tinggi (High Resistance): Tidak peduli seberapa dalam kamu menganalisisnya, itu tetap sama, sulit untuk berkembang menjadi logika yang tidak masuk akal.

Misalnya Vitalik berkata, hukum masyarakat idealnya harus memiliki garis merah: hanya ketika dapat dijelaskan dengan jelas bagaimana suatu tindakan dapat menyebabkan kerugian atau risiko kepada korban tertentu, barulah tindakan tersebut dapat dilarang. Standar ini sangat tahan terhadap Galaxy Brain karena tidak menerima alasan yang “saya secara subjektif tidak suka” atau “memiliki dampak negatif” yang tidak terbatas atau kabur.

3️⃣ Vitalik juga memberikan banyak contoh dalam artikelnya, bahkan menggunakan teori yang sering kita dengar, seperti “long-termism” dan “inevitabilism.”

“Prinsip jangka panjang” sulit untuk melawan pergeseran pola pikir ??? karena resistensinya sangat rendah, hampir seperti “cek kosong”. Karena “masa depan” terlalu jauh dan terlalu kabur.

• Pernyataan yang sangat tahan: “Pohon ini dapat tumbuh setinggi 5 meter setelah 10 tahun”. Ini dapat diverifikasi, tidak mudah untuk mengada-ada.

• Ketahanan rendah “jangka panjang”: “Meskipun saya sekarang harus melakukan sesuatu yang sangat tidak etis (seperti menghapus sebagian orang, atau memulai perang), tetapi ini demi kehidupan utopis umat manusia 500 tahun dari sekarang. Setelah perhitungan saya, total kebahagiaan di masa depan adalah tidak terbatas, jadi pengorbanan saat ini adalah sepele.”

Lihat, selama kamu memperpanjang waktu cukup lama, kamu bisa membenarkan tindakan jahat apapun saat ini. Seperti yang dikatakan Vitalik: “Jika argumenmu dapat membuktikan bahwa apapun adalah sah, maka argumenmu tidak membuktikan apa-apa.”

Namun Vitalik juga mengakui bahwa “jangka panjang itu penting”, ia mengkritik “menggunakan keuntungan masa depan yang terlalu kabur dan tidak dapat diverifikasi, untuk menutupi kerugian yang jelas saat ini.”

Area lain yang sangat terdampak adalah “Inevitabilism”.

Ini juga merupakan teknik pertahanan yang paling disukai di Silicon Valley dan dunia teknologi.

Pernyataan adalah sebagai berikut: “AI menggantikan pekerjaan manusia adalah suatu kepastian dalam sejarah, bahkan jika saya tidak melakukannya, orang lain juga akan melakukannya. Jadi saya sekarang mengembangkan AI secara radikal bukan untuk mencari uang, tetapi untuk mengikuti arus sejarah.”

Di mana resistensi rendah? Itu sempurna menghapus rasa tanggung jawab manusia. Karena itu “pasti”, maka saya tidak perlu bertanggung jawab atas kerusakan yang saya sebabkan.

Ini juga merupakan contoh tipikal dari otak galaksi: mengemas keinginan pribadi “Saya ingin menghasilkan uang / Saya ingin berkuasa” menjadi “Saya sedang melaksanakan tugas sejarah.”

4️⃣ Lalu, apa yang harus kita lakukan menghadapi “perangkap orang pintar” ini?

Obat yang diberikan oleh Vitalik sangat sederhana dan bahkan terlihat “bodoh”. Dia percaya, semakin pintar seseorang, semakin perlu aturan yang ketat untuk mengendalikan diri sendiri, agar tidak terjebak dalam akrobatik mental.

Pertama, berpegang pada “Etika Deontologis”, yaitu hukum moral tingkat taman kanak-kanak.

Jangan menghitung soal matematika kompleks tentang “untuk masa depan seluruh umat manusia”, kembali ke prinsip yang paling kaku:

• Jangan mencuri

• Jangan membunuh orang yang tidak bersalah

• Jangan menipu

• Hormati kebebasan orang lain

Aturan-aturan ini sangat ketat. Karena mereka hitam dan putih, tidak bisa dinegosiasikan. Ketika kamu mencoba menjelaskan mengapa kamu mengalihkan dana pengguna dengan argumen besar tentang “prinsip jangka panjang”, aturan kaku “jangan mencuri” akan langsung memukul wajahmu: mencuri tetaplah mencuri, jangan bicarakan tentang revolusi keuangan yang hebat.

Kedua, memiliki “posisi” yang tepat, bahkan termasuk lokasi fisik.

Pepatah mengatakan bahwa bokong menentukan otak. Jika kamu setiap hari berada di dalam ruang gema di San Francisco Bay Area, dikelilingi oleh orang-orang yang terobsesi dengan akselerasi AI, sulit untuk tetap jernih. Vitalik bahkan memberikan saran ketahanan tinggi dari sudut pandang fisik: jangan tinggal di San Francisco Bay Area.

5️⃣ Ringkasan

Vitalik artikel ini sebenarnya memberi peringatan kepada para elit yang sangat cerdas: jangan merasa bisa melewati batas moral yang sederhana hanya karena IQ Anda tinggi.

Teori “otak galaksi” yang terdengar dapat menjelaskan segalanya seringkali merupakan alasan serba bisa yang paling berbahaya. Sebaliknya, aturan “resistensi tinggi” yang terdengar kaku dan dogmatis adalah garis pertahanan terakhir untuk mencegah kita menipu diri sendiri.