Falar sobre o apocalipse está se tornando cada vez mais comum. As ameaças simultâneas do colapso ambiental e da inteligência artificial (IA) têm se intensificado na consciência pública. O prognóstico parece sombrio. Como Barack Obama observou há muito tempo, a complexidade das mudanças climáticas explora o ponto fraco do sistema internacional: sua incapacidade de coordenar o planejamento diante da crise. A IA apresenta desafios semelhantes, já que sua vasta infraestrutura digital global torna a regulamentação uma tarefa aparentemente impossível. Filósofos como Nick Bostrom e William MacAskill chamaram essas ameaças de “riscos existenciais”, problemas que poderiam levar à extinção da humanidade ou ao colapso irreversível da civilização. O desastre parece mais iminente do que em qualquer momento desde a Guerra Fria.
No entanto, é difícil separar essa nova cultura de pessimismo em relação ao futuro do risco real de um evento de extinção. Entre as atuais tecnologias de IA e um cenário à la Skynet, existe um mundo de ficção científica, ou talvez até mesmo uma série. Os medos de “superinteligência” ou “agência de máquinas” ainda não têm uma base sólida. Isso não significa, porém, que o que fazemos com a IA não seja arriscado. Conectar nossos algoritmos à economia, às políticas públicas e à distribuição de recursos em todo o mundo contribui diretamente para o agravamento das crises ambientais, enquanto cria instabilidade potencial no nível mais básico da hierarquia de necessidades humanas.
Um exemplo disso é a SpaceX, que controla mais da metade dos satélites em órbita baixa da Terra. O governo dos EUA, de certa forma, permitiu que a estratégia militar na Ucrânia, que depende dos serviços de internet da empresa para comunicação e operações cruciais em tempos de guerra, ficasse fortemente influenciada pelo comportamento de um CEO imprevisível.
Recentes revelações sobre a vida pessoal e profissional de Elon Musk devem nos preocupar com tanta concentração de poder nas mãos de um cidadão privado. No entanto, a cobertura midiática das ações recentes desse magnata, particularmente seu desejo de interpretar o papel de Batman e usar suas empresas para “inovar” soluções para os conflitos e ameaças que a humanidade enfrenta atualmente, muitas vezes ignora como bilionários da tecnologia, como Musk, amplificam os próprios riscos que supostamente pretendem mitigar. Bilionários são o risco existencial.
Enfrentar a catástrofe climática e o pânico da IA requer eliminar completamente a categoria bilionário
.
Muitas vezes ouvimos que a IA e as criptomoedas consomem enormes quantidades de eletricidade, contribuindo assim para o aquecimento global. Também ouvimos que o clima é muito complexo para ser compreendido intuitivamente e, portanto, devemos confiar em dados. No entanto, nossa dependência de canais digitais aumenta o risco de desinformação alimentada pela IA. Vozes céticas em ambos os lados não abordaram a verdadeira conexão entre os dois problemas: o capitalismo.
As novas infraestruturas digitais e a crise climática estão intrinsecamente ligadas. Ambas são filhas bastardas do neoliberalismo em escala planetária, uma lógica econômica cancerígena que agora ameaça consumir sua própria base de recursos naturais. As críticas à IA tendem a se concentrar em seu viés e potencial dano ou na empobrecimento global do trabalho e nas práticas de mineração extrativista. Raramente se menciona ou se questiona o tipo de capitalismo em que vivemos atualmente. O ambientalismo radical deu lugar ao capitalismo verde e aos bilionários que lucram com ele. Não é coincidência que esses modos burgueses de crítica se concentrem na tecnologia e ignorem o capital, o elefante na sala.
A catástrofe ambiental e os sistemas digitais metastáticos se reforçam mutuamente, criando um ciclo de morte. Considerar a IA e as mudanças climáticas como um todo é a única maneira de superar os impasses criados pelas atuais tentativas de abordar ambos os problemas. Os bilionários são um risco existencial porque são o elo que conecta esses dois desastres.
Os representantes do capital sabem que algo está errado. Quando Elon Musk comprou o Twitter, mensagens de texto entre ele e MacAskill revelaram que ele considerava o Twitter como o “futuro da civilização humana”, de modo que não preservá-lo seria um tipo próprio de risco existencial. Apesar da obsessão de Musk em evitar a extinção humana, suas ações desde a compra da plataforma mostram que ele é uma ameaça à humanidade, e sua rede de satélites apenas reforça esse ponto. As mudanças climáticas e a IA são riscos porque o poder para agravá-los ou mitigá-los está concentrado nas mãos de muito poucos.
No final de maio, o Center for AI Safety divulgou uma declaração de vinte e duas palavras endossada pelos principais CEOs de tecnologia, pesquisadores de IA e engenheiros. A declaração diz: “Mitigar o risco de extinção devido à IA deve ser uma prioridade global, ao lado de outros riscos de escala societal, como pandemias e guerra nuclear”. Foi a segunda declaração pública desse tipo este ano, seguindo uma carta aberta divulgada por um think tank de riscos existenciais, o Instituto Future of Life, que pediu uma pausa de seis meses na pesquisa de IA. As reações públicas a esses avisos se concentraram principalmente na razoabilidade das preocupações sobre a extinção humana ou se eram apenas manobras publicitárias exageradas, projetadas de forma cínica para impulsionar os investimentos em pesquisa de IA, tornando a tecnologia mais perigosa — e, portanto, mais avançada — do que realmente é. Isso está errado.
Devemos reconhecer que a IA é um risco existencial, assim como hoje sabemos que o clima ameaça a humanidade em geral. No entanto, a IA não é um risco direto — é um risco embalado em um erro coletivo de longo prazo que levou a um capitalismo que seria irreconhecível para qualquer economista sério de gerações passadas.
Este é um momento sem precedentes em que as corporações não apenas estão implorando desesperadamente por regulamentação governamental de sua própria indústria, mas também estão admitindo tacitamente que são impotentes diante do crescente poder do capital. Os signatários brilhantes e/ou fabulosamente ricos das cartas confessam ser compelidos pelas forças de mercado a continuar desenvolvendo uma tecnologia que eles temem estar fora de controle, independentemente dos riscos para a espécie humana. Os bilionários e seus seguidores admitem que o verdadeiro risco existencial para a espécie humana não é a IA em si, mas um hipercapitalismo que torna a pesquisa perigosa irresistível, mesmo quando aqueles que a conduzem desejam desesperadamente que alguém os pare.
O capitalismo está se devorando, e os seres humanos serão engolidos no processo se não mudarmos de curso. Onde Karl Marx via a subjugação do trabalho pelo capital, estamos testemunhando a invasão do capital em seu domínio histórico de poder, a corporação em si. Líderes da indústria e até mesmo os próprios bilionários sabem que isso não é sustentável, mas sua “consciência” pública vem de uma forma distorcida que apresenta fantasias de Exterminador do Futuro e soluções de geoengenharia como respostas.
Não vamos nos enganar: a IA e o clima são riscos existenciais. No entanto, a parte do risco existencial decorre da estrutura social que permitimos se desenvolver, não da tecnologia em si. Vimos apelos ao longo do nosso jovem século para considerar se é moral permitir que bilionários existam. Mas a verdadeira pergunta é se nossa espécie pode sobreviver à era dos bilionários.
