Vitalik'in uyarısı: Zeki insanların "aptal" kurallara daha çok ihtiyacı var

Yazar: Zhixiong Pan

Vitalik'in birkaç hafta önce yayınladığı “Galaxy Brain Resistance” adlı makale aslında oldukça karmaşık ve anlaşılması zor, iyi bir analizini de göremedim, o yüzden ben deneyeyim.

Sonuçta, Vibe Coding teriminin yaratıcısı Karpathy'nin de bu makaleyi okuduğunu ve not aldığını gördüm, bu kesinlikle özel bir şey olduğunu gösteriyor.

Öncelikle başlıkta geçen Galaxy Brain ve Resistance terimlerinin ne anlama geldiğini söyleyelim, bu başlığı çözdüğünüzde, bu makalenin ne hakkında olduğunu genel hatlarıyla anlayabileceksiniz.

1️⃣ Galaxy Brain'in Türkçe çevirisi "Galaksi Beyni"dir, ancak aslında bir internet memesi (Meme) olan bir kavramdan gelmektedir, benzer bir şekilde (???) bir araya getirilmiş bir resimdir, kesinlikle görmüşsünüzdür.

Bu başlangıçta elbette olumlu bir anlam taşıyordu, karşı tarafın fikrini çok mükemmel bulmak, yani zeki olduğunu ifade etmek için kullanılıyordu. Ancak daha sonra kullanımının yaygınlaşmasıyla birlikte, yavaş yavaş bir tür ironi haline geldi; genel anlamı “çok fazla düşünmek, mantığı çok uzakta dolaştırmak”.

Ve Vitalik burada ???'dan bahsediyor, bu, “yüksek zeka kullanarak zihinsel jimnastik yapmak, mantıksız şeyleri zorla mantıklı hale getirmek” anlamına gelen bir davranışı ifade ediyor. Örneğin:

• Açıkça tasarruf amaçlı büyük işten çıkarmalar yapıldığı halde, “topluma yüksek nitelikli insan kaynağı sağlama” demek zorundalar.

• Açıkça hava parasıyla insanları dolandırırken, “merkeziyetsiz yönetişimi küresel ekonomiyi güçlendirmek için kullanıyoruz” diye beyan ediyor.

Hepsi “Galaksi Beyni” tarzı düşünce olarak sayılabilir.

2️⃣ O zaman direnç (抗性) ne anlama geliyor? Bu kavram oldukça kafa karıştırıcı olabilir, popüler bir ifadeyle “ritme kapılmama yeteneği” veya “kandırılmama yeteneği” ile benzetilebilir.

Yani Galaxy Brain Resistance, [becoming] Galaxy Brain'e karşı direnç olmalıdır, yani: “Galaksi Beyni'ne (saçmalıklara) dönüşme yeteneği.”

Ya da daha doğru bir şekilde söylemek gerekirse, belirli bir düşünme / argüman tarzını kullanarak “istediğin herhangi bir sonucu kanıtlamanın” ne kadar zor olduğunu tanımlamak için.

Bu nedenle bu “direniş” belirli bir “teoriye” yönelik olabilir, örneğin,

• Düşük Direnç (Low Resistance) teorisi: Biraz inceleme ile son derece absürt “Galaksi Beyni” mantığına dönüşebilir.

• Yüksek Direnç (High Resistance) teorisi: Ne kadar sorgulasanız da, olduğu gibi kalır, mantık dışı bir hale dönüşmesi zordur.

Örneğin Vitalik diyor ki, idealindeki toplumsal yasaların bir kırmızı çizgisi olmalı: Bir davranışın belirli bir mağdura nasıl zarar verdiğini veya risk oluşturduğunu net bir şekilde açıklayabildiğimizde, o zaman yasaklanabilir. Bu tür bir standart, “benim subjektif olarak hoşlanmadığım” veya “ahlaka aykırı” gibi sonsuz bir şekilde çekilebilecek ya da belirsiz olan gerekçeleri kabul etmediği için oldukça Galaxy Brain direncine sahiptir.

3️⃣ Vitalik, makalede birçok örnek vererek, sıkça duyduğumuz teorilerden biri olan “uzun vadeli düşünme” ve “zorunluluk” gibi kavramları da örnek olarak gösterdi.

“Uzun vadeli düşünce” ??? tarzı düşüncenin etkisine karşı direnç göstermek için çok zor, çünkü direnci son derece düşük, adeta bir “boş çek” gibi. Çünkü “gelecek” çok uzak ve belirsiz.

• Yüksek dayanıklılık iddiası: “Bu ağaç 10 yıl sonra 5 metre yükselebilir.” Bu doğrulanabilir, kolayca uydurulamaz.

• Düşük dirençli “uzun vadeli düşünce”: “Şu anda son derece etik olmayan bir şey yapmam gerektiğini biliyorum (örneğin bir kısmı temizlemek ya da savaş başlatmak), ama bu, 500 yıl sonra insanlığın ütopik bir yaşam sürmesi içindir. Hesaplamalarıma göre, gelecekteki mutluluk toplamı sonsuzdur, bu yüzden mevcut fedakarlık önemsizdir.”

Görüyorsun, zamanını yeterince uzattığında, o anki her türlü kötülüğü savunabilirsin. Vitalik'in dediği gibi: “Eğer argümanın her şeyin meşru olduğunu kanıtlayabiliyorsa, o zaman argümanın hiçbir şeyi kanıtlamaz.”

Ancak Vitalik, “uzun vadeli önemli” olduğunu kabul ediyor; eleştirisi, “aşırı belirsiz, doğrulanamaz gelecekteki kazançları kullanarak mevcut net zararları örtmek” üzerine.

Diğer bir felaket bölgesi “İknaizm” (Inevitabilism)dir.

Bu aynı zamanda Silikon Vadisi ve teknoloji çevrelerinde en çok kullanılan savunma sanatı.

Şu şekilde ifade ediliyor: “Yapay zeka, insan işlerini devralmak tarihsel bir zorunluluktur; ben yapmasam bile başkaları yapacak. Bu yüzden ben şimdi yapay zekayı radikal bir şekilde geliştiriyorum, bunun nedeni para kazanmak değil, tarihsel akıma uyum sağlamaktır.”

Düşük direnç nerede? Bu, insanın sorumluluk duygusunu mükemmel bir şekilde ortadan kaldırıyor. “Kaçınılmaz” olduğuna göre, yarattığım tahribattan sorumlu olmak zorunda değilim.

Bu da tipik bir galaksi beyni örneğidir: “Para kazanmak istiyorum / Güç sahibi olmak istiyorum” özel arzularını, “Tarihin görevini yerine getiriyorum” şeklinde paketlemek.

4️⃣ O zaman bu “zeki insanların tuzakları” ile karşılaştığımızda ne yapmalıyız?

Vitalik'in sunduğu çare, beklenmedik bir şekilde basit ve hatta biraz “aptalca”. O, ne kadar zeki olursa, insanların kendilerini kısıtlamak için o kadar yüksek dirençli kurallara ihtiyaç duyduğunu, böylece zihinsel akrobatiklerin kontrolden çıkmasını engellediğini düşünüyor.

İlk olarak, “Görev Etiği” (Deontolojik Etik) ilkesine bağlı kalmak, yani anaokulu seviyesindeki ahlaki kurallara uymaktır.

“Tüm insanlığın geleceği için” karmaşık matematik problemlerini hesaplamayı bırak, en katı ilkelere geri dön:

• Hırsızlık yapmayın

• Masum insanları öldürmeyin

• Dolandırıcılık yapmayın

• Başkalarının özgürlüğüne saygı gösterin

Bu kurallar son derece katıdır. Çünkü ya siyah ya da beyazdır, pazarlık edilemez. Kullanıcı fonlarını neden aldığınıza dair “uzun vadeli düşünme” gibi büyük bir kavramla açıklamaya çalıştığınızda, “çalmayın” gibi katı kural doğrudan yüzünüze çarpar: çaldıysanız çaldınız, büyük finansal devrim için bahaneler uydurmayın.

İkincisi, doğru “pozisyonu” tutmak, hatta fiziksel konumu da içermektedir.

Deyim yerindeyse, popo kafayı belirler. Eğer her gün San Francisco Körfezi'ndeki o yankı odasında takılırsan ve etrafında tamamen AI hızlandırıcılığı ile ilgilenen insanlar varsa, ayık kalman oldukça zor. Vitalik, fiziksel bir seviyede yüksek direnç önerisi bile sundu: San Francisco Körfezi'nde yaşamayın.

5️⃣ Özet

Vitalik bu makalede aslında son derece zeki elitleri uyarıyor: Zekânız yüksek olduğu için basit ahlaki sınırları aşabileceğinizi düşünmeyin.

Her şeyi açıklayabilecek gibi görünen “galaksi beyinleri” teorileri genellikle en tehlikeli evrensel bahanelerdir. Aksine, sıkıcı ve dogmatik gibi görünen “yüksek direnç” kuralları, kendimizi kandırmamızı engelleyen son savunma hattıdır.