Compreendendo o longo artigo de Vitalik: Por que pessoas inteligentes devem aderir a “regras simples”?

As teorias "galáxia-cérebro" que parecem explicar tudo, muitas vezes são as desculpas universais mais perigosas. Por outro lado, aquelas regras "de alta resistência" que soam rígidas e dogmáticas são, na verdade, a última linha de defesa contra o autoengano.

Autor: Zhixiong Pan

O artigo que Vitalik publicou há algumas semanas, "Galaxy Brain Resistance", é na verdade bastante obscuro e difícil de entender, e não vi boas interpretações sobre ele, então vou tentar explicar.

Afinal, até Karpathy, criador do termo Vibe Coding, leu este artigo e fez anotações, então certamente há algo de especial nele.

Primeiro, vamos falar sobre o título: o que significam Galaxy Brain e Resistance? Depois de entender o título, você já terá uma ideia geral do que trata o artigo.

1️⃣ Galaxy Brain, traduzido literalmente como "cérebro de galáxia", na verdade vem de um meme da internet, semelhante a uma imagem que combina (🌌🧠), que você provavelmente já viu.

No início, era um termo elogioso, usado para exaltar ideias brilhantes, ou seja, inteligentes. Mas, com o uso excessivo, tornou-se uma espécie de ironia, significando algo como "pensou demais, a lógica foi longe demais".

Vitalik, ao mencionar 🌌🧠 aqui, refere-se especificamente ao comportamento de "usar alta inteligência para fazer ginástica mental e forçar uma justificativa lógica para algo que não faz sentido". Por exemplo:

- Claramente faz uma grande demissão para economizar dinheiro, mas diz que está "fornecendo talentos de alta qualidade para a sociedade".

- Claramente está lançando uma shitcoin para enganar investidores, mas afirma estar "empoderando a economia global através da governança descentralizada".

Tudo isso pode ser considerado pensamento "galáxia-cérebro".

2️⃣ E o que significa Resistance (resistência)? Este conceito pode ser confuso, mas, em termos populares, pode ser comparado à "capacidade de resistir à manipulação" ou "capacidade de resistir à enganação".

Portanto, Galaxy Brain Resistance deve ser Resistance to [becoming] Galaxy Brain, ou seja: "capacidade de resistir a se tornar um galáxia-cérebro (falar besteira)".

Ou, mais precisamente, é usado para descrever o quão fácil ou difícil é para um determinado estilo de pensamento/argumentação ser abusado para "provar qualquer conclusão que você queira".

Assim, essa "resistência" pode ser direcionada a uma "teoria", por exemplo,

- Teorias de baixa resistência: com um pouco de análise, podem facilmente se transformar em lógicas absurdas de "galáxia-cérebro".

- Teorias de alta resistência: não importa o quanto você as questione, elas permanecem inalteradas, é difícil transformá-las em lógicas absurdas.

Por exemplo, Vitalik diz que, em sua visão ideal de leis sociais, deveria haver uma linha vermelha: só se pode proibir algo quando se pode explicar claramente como determinada ação causa dano ou risco concreto a uma vítima específica. Esse padrão tem alta resistência ao Galaxy Brain, pois não aceita razões vagas ou subjetivas como "eu não gosto" ou "é imoral".

3️⃣ Vitalik também dá muitos exemplos no artigo, inclusive usando teorias que ouvimos com frequência, como "long-termismo" e "inevitabilismo".

O "long-termismo" é altamente vulnerável ao pensamento 🌌🧠, pois sua resistência é extremamente baixa, quase um "cheque em branco". Afinal, o "futuro" é muito distante e vago.

- Afirmação de alta resistência: "Esta árvore crescerá 5 metros em 10 anos". Isso é verificável, difícil de distorcer.

- "Long-termismo" de baixa resistência: "Embora eu vá fazer algo extremamente imoral agora (como eliminar parte da população ou iniciar uma guerra), é para que a humanidade viva em uma utopia daqui a 500 anos. Segundo meus cálculos, a felicidade futura é infinita, então o sacrifício atual é insignificante."

Veja, basta estender o tempo o suficiente para justificar qualquer mal presente. Como Vitalik diz: "Se o seu argumento pode justificar qualquer coisa, então ele não justifica nada".

No entanto, Vitalik também reconhece que "o longo prazo é importante"; o que ele critica é "usar benefícios futuros excessivamente vagos e não verificáveis para encobrir danos presentes claros".

Outro campo problemático é o "inevitabilismo" (Inevitabilism).

Esta também é a tática favorita do Vale do Silício e do setor de tecnologia.

O discurso é assim: "A substituição do trabalho humano pela IA é inevitável na história, mesmo que eu não faça, outros farão. Portanto, desenvolver IA agressivamente agora não é para ganhar dinheiro, mas para acompanhar a tendência histórica."

Onde está a baixa resistência? Ela elimina perfeitamente o senso de responsabilidade individual. Se é "inevitável", então não preciso ser responsável pelos danos que causo.

Isso também é um típico pensamento galáxia-cérebro: transformar o desejo pessoal de "ganhar dinheiro / obter poder" em "cumprir uma missão histórica".

4️⃣ Então, diante dessas "armadilhas para pessoas inteligentes", o que devemos fazer?

A solução de Vitalik é surpreendentemente simples, até um pouco "ingênua". Ele acredita que, quanto mais inteligente a pessoa, mais precisa de regras de alta resistência para se restringir, evitando que sua ginástica mental saia do controle.

Primeiro, aderir à "ética deontológica" (Deontological Ethics), ou seja, regras morais básicas de jardim de infância.

Não tente resolver equações complexas "pelo futuro da humanidade", volte aos princípios mais rígidos:

- Não roube

- Não mate inocentes

- Não fraude

- Respeite a liberdade dos outros

Essas regras têm altíssima resistência. São preto no branco, não há negociação. Quando você tenta usar o "long-termismo" para justificar o desvio de fundos dos usuários, a regra rígida "não roube" vai te confrontar: roubo é roubo, não importa o quanto você fale sobre a grande revolução financeira.

Segundo, mantenha a "posição" correta, inclusive em termos físicos.

Como diz o ditado, "o lugar onde você senta determina como você pensa". Se você está sempre no círculo do Vale do Silício, cercado por aceleracionistas de IA, é difícil manter a clareza. Vitalik até sugere uma dica física de alta resistência: não more no Vale do Silício.

5️⃣ Resumo

O artigo de Vitalik é, na verdade, um alerta para as elites extremamente inteligentes: não pense que, por ser inteligente, pode ignorar os princípios morais básicos.

As teorias "galáxia-cérebro" que parecem explicar tudo, muitas vezes são as desculpas universais mais perigosas. Por outro lado, aquelas regras "de alta resistência" que soam rígidas e dogmáticas são, na verdade, a última linha de defesa contra o autoengano.