O aviso de Vitalik: pessoas inteligentes precisam mais de regras "estúpidas"

Autor: Zhixiong Pan

O artigo “Galaxy Brain Resistance” que Vitalik publicou há algumas semanas é na verdade bastante obscuro e difícil de entender, e não vi uma boa interpretação, então vou tentar.

Afinal, o criador do termo Vibe Coding, Karpathy, também leu este artigo e fez anotações, então deve haver algo de especial.

Primeiro, vamos falar sobre o que significam os termos Galaxy Brain e Resistance. Depois de entender este título, você terá uma ideia do que este artigo está a tratar.

1️⃣ A tradução em chinês simplificado de Galaxy Brain é “Cérebro Galáctico”, mas na verdade vem de um meme da Internet, semelhante à imagem de (???) combinada, que você com certeza já viu.

No início, isso era, claro, um elogio, usado para louvar a ideia do outro como sendo muito brilhante, ou seja, inteligente. Mas depois, com o uso excessivo, gradualmente se transformou em uma espécie de ironia, com um significado aproximado de “pensou demais, a lógica foi longe demais.”

E Vitalik menciona aqui ???, referindo-se ao comportamento de “usar uma alta inteligência para fazer ginástica mental, tentando transformar coisas sem lógica em coisas com grande lógica”. Por exemplo:

• É claro que é para economizar com grandes despedimentos, mas tem de se dizer que é “para fornecer talentos de alta qualidade à sociedade”.

• É claramente um projeto de moeda sem valor para enganar investidores, mas afirmam que estão “capacitando a economia global com governança descentralizada”.

Podem ser considerados como um pensamento do tipo “Cérebro Galáctico”.

2️⃣ O que significa resistência? Este conceito pode ser facilmente confuso; de uma forma popular, pode ser comparado à “capacidade de não ser influenciado” ou “capacidade de não ser enganado”.

Portanto, a Galaxy Brain Resistance deve ser a Resistência ao [becoming] Galaxy Brain, ou seja: “a capacidade de resistir (evoluir para) o Galaxy Brain (absurdo).”

Ou, mais precisamente, a dificuldade de usar um determinado estilo de pensamento / argumentação para “provar qualquer conclusão que você queira”.

Portanto, essa “resistência” pode ser direcionada a uma “teoria”, como,

• Teoria da baixa resistência (Low Resistance): Com uma leve análise, pode evoluir para uma lógica extremamente absurda do “Cérebro Galáctico”.

• A teoria da Alta Resistência: Não importa como você a analisa, ela permanece a mesma, sendo difícil evoluir para uma lógica absurda.

Por exemplo, Vitalik disse que a lei da sociedade ideal deveria ter uma linha vermelha: só pode ser proibido um comportamento se se puder explicar de forma clara como esse comportamento causa dano ou risco a vítimas específicas. Este padrão tem uma resistência muito Galaxy Brain, pois não aceita razões indefinidas ou vagas como “não gosto subjetivamente” ou “é imoral”.

3️⃣ Vitalik mencionou muitos exemplos no artigo, até mesmo usando teorias que costumamos ouvir, como “long-termismo” e “inevitabilismo”.

O “long-termismo” é difícil de resistir à erosão do pensamento ???-estilo, porque sua resistência é extremamente baixa, é praticamente um “cheque em branco”. Porque o “futuro” é muito distante e muito vago.

• A afirmação de alta resistência: “Esta árvore pode crescer 5 metros em 10 anos”. Isso é verificável, não é fácil de inventar.

• Baixa resistência ao “long-termismo”: “Embora eu esteja prestes a fazer algo extremamente antiético (como eliminar uma parte da população ou desencadear uma guerra), isso é para que a humanidade possa viver uma vida utópica daqui a 500 anos. De acordo com meus cálculos, a soma total da felicidade futura é infinita, portanto, os sacrifícios atuais são insignificantes.”

Veja, desde que você estique o tempo o suficiente, pode justificar qualquer maldade do momento. Como Vitalik disse: “Se a sua argumentação pode provar que qualquer coisa é justa, então a sua argumentação não prova nada.”

No entanto, Vitalik também reconheceu que “o longo prazo é importante”; ele criticou “usar benefícios futuros excessivamente vagos e não verificáveis para encobrir os danos claros do presente.”

Outra zona de desastre é o “inevitabilismo”.

Esta é também a técnica de defesa mais usada no Vale do Silício e no mundo da tecnologia.

A fala é a seguinte: “A substituição do trabalho humano pela IA é uma inevitabilidade histórica, mesmo que eu não o faça, outros o farão. Portanto, estou atualmente desenvolvendo a IA de forma radical, não para lucrar, mas para acompanhar a corrente histórica.”

Onde está a baixa resistência? Ela dissolve perfeitamente o senso de responsabilidade das pessoas. Já que é “inevitável”, então não preciso me responsabilizar pelos danos que causei.

Esta também é uma típica Galáxia Cerebral: transformar o desejo pessoal de “quero ganhar dinheiro / quero ter poder” em “estou a cumprir uma missão histórica”.

4️⃣ Então, o que devemos fazer diante dessas “armadilhas dos inteligentes”?

O remédio sugerido por Vitalik é surpreendentemente simples, até um pouco “tosco”. Ele acredita que quanto mais inteligentes as pessoas, mais regras de alta resistência elas precisam para se restringirem e evitarem que suas acrobacias mentais saiam do controle.

Primeiro, mantenha-se firme na “ética deontológica”, que é a regra moral básica de nível de jardim de infância.

Deixem de lado problemas matemáticos complexos do tipo “pelo futuro da humanidade” e voltem ao princípio mais rígido:

• Não roubar

• Não mate pessoas inocentes

• Não engane

• Respeitar a liberdade dos outros

Estas regras têm uma resistência extremamente alta. Porque são preto ou branco, não há lugar para negociação. Quando você tenta usar a grande ideia do “long-termismo” para explicar por que está desviando os fundos dos usuários, a regra rígida de “não roubar” vai te dar um tapa na cara: roubar é roubar, não venha com essa de que é por uma grande revolução financeira.

Em segundo lugar, ter a “posição” correta, incluindo até a localização física.

Dizem que o traseiro decide a cabeça. Se você estiver todo dia misturado naquela câmara de eco da Baía de São Francisco, cercado por pessoas que promovem o aceleracionismo da IA, será difícil manter a clareza. Vitalik até deu uma sugestão de alta resistência em nível físico: não more na Baía de São Francisco.

5️⃣ Resumo

Vitalik este artigo está, na verdade, a alertar aqueles elites extremamente inteligentes: não pensem que, por serem muito inteligentes, podem contornar a simples linha moral.

As teorias do “Cérebro Galáctico”, que parecem capazes de explicar tudo, são frequentemente as desculpas universais mais perigosas. Por outro lado, aquelas regras “de alta resistência”, que parecem rígidas e dogmáticas, são a nossa última linha de defesa contra a autoengano.