Como as Big Techs estão destruindo o futuro da tecnologia

UMA ENTREVISTA DE

David Moscrop

Em seu novo livro, “Red Team Blues”, Cory Doctorow explora o mundo das criptomoedas através de um thriller distópico-tecnológico. Recentemente, ele conversou com David Moscrop, da Jacobin, sobre o estado e o futuro da inteligência artificial, bem como sobre por que o Twitter e o Google são tão ruins.

Doctorow é um escritor, jornalista e ativista canadense-britânico. Ele é conhecido por seu trabalho na área de ficção científica, bem como por suas atividades de defesa dos direitos digitais e da liberdade na Internet. Ele também é co-fundador do blog de tecnologia Boing Boing e atua como membro da Electronic Frontier Foundation (EFF), uma organização sem fins lucrativos que defende a liberdade de expressão, os direitos digitais e a privacidade online.

Quero começar com seu novo livro. Em primeiro lugar, título fantástico. A cópia do catálogo o descreve como “um thriller emocionante da próxima terça-feira sobre travessuras de criptomoedas que despertarão você para como o mundo realmente funciona”. Você escreveu ficção sobre tecnologia proprietária, impressão 3D, upload de consciência, vigilância e muito mais. Por que criptomoeda desta vez?

Bem, acho que há um modo do que você pode chamar de jornalismo de serviço que pode ser transportado para a ficção – e a ficção científica é muito boa nisso – que pega ideias que são complicadas e extremamente salientes, e que são tratadas como uma caixa preta pelos leitores, e as desempacota, às vezes em torno de uma narrativa. Penso em Margot Robbie fazendo isso em The Big Short quando ela está em uma banheira cheia de banho de espuma, explicando como funcionam os swaps de inadimplência de crédito e as obrigações de dívida com garantia.

Há esse tipo de complexidade performativa em muitas das maldades em nosso mundo – as coisas se tornam complexas, então serão difíceis de entender. A pretensão é que eles são difíceis de entender porque são intrinsecamente complexos. E existe um termo no setor financeiro para isso, que é “MEGO”: “My Eyes Glaze Over”. É um truque.

Você dá a alguém um prospecto tão grosso que eles assumem que deve ser importante e bom, da mesma forma que quando você dá a alguém uma pilha de merda que é grande o suficiente, eles assumem que deve haver um pônei sob ele. E então eu queria pegar essas coisas técnicas complexas que estão acontecendo com cripto, uma arena na qual eu acho que não há quase nenhum “lá” lá, e fazer exatamente isso: mostrar como não há “lá” lá em uma história sobre alguém que está tentando descobrir se há um “lá” lá.

Isso não está na cópia do catálogo, mas é super importante para mim: um dos elementos da trama deste livro, e não é um spoiler, está no primeiro capítulo, é sobre como enclaves seguros e atestados remotos funcionam. E isso é coisa super nerd que eu tenho obcecado há vinte anos. É basicamente uma maneira de projetar computadores para que eu possa enviar a você um trabalho computacional que seu computador então executa e, em seguida, você envia a saída de volta para mim e eu posso ter certeza de que o trabalho foi executado em seu computador de acordo com minhas especificações e não adulterado por você.

E há muitas aplicações realmente interessantes para isso, mas também é incrivelmente distópico, certo? Porque isso significa que eu posso te enviar um monitor de pressionamento de tecla porque eu sou seu chefe e sei que você não está interferindo nisso. É basicamente uma maneira de o computador tratar seu proprietário ou usuário como um adversário e permitir que um terceiro os controle com ele. Esse é o projeto arquitetônico explícito. E existem algumas criptomoedas que se baseiam nisso. Eles são meio periféricos, mas a criptomoeda é a primeira aplicação para eles que não é totalmente sinistra.

Pode parecer esotérico, mas a maneira como seu iPhone impede que você instale software de terceiros é o mesmo modelo. É esse tipo de assinatura digital de atestado remoto, negócio de enclave seguro. E como você pode dizer apenas ouvindo-me descrevê-lo para você, isso é incrivelmente atraente, técnico, profundo, estranho, complicado. Acho que é inacreditavelmente importante para o futuro da autodeterminação tecnológica. E um dos meus principais projetos desde 2002 – quando saiu o primeiro white paper da Microsoft sobre isso – foi tentar fazer com que as pessoas pensassem: “Oh, espere, isso é um grande negócio”. Esta é, de certa forma, a minha última mordida nessa maçã.

Habilidade manual e “enshitificação”

Quero falar um pouco mais sobre o “lá” quando se trata de criptografia, porque eu nunca consegui entender o que era. O obstáculo principal parece ser fazer com que pessoas suficientes acreditem nisso. Qual é o truque? É um truque do tipo “confie em mim, sabemos o que estamos fazendo e isso resolverá todos os seus problemas”? É esse o truque para torná-lo um MEGO?

Sabe o que é? Em muitos contras, você pega algo que a marca entende e, a partir daí, você os incentiva a inferir algo logicamente com base em seu entendimento da configuração. Mas você faz um pequeno truque no meio. A marca pressupõe que se eu estiver segurando uma moeda na mão e depois virar a mão, que eu não esteja deslizando a moeda entre os dedos para que ela esteja na minha palma quando o dorso da minha mão estiver aparecendo e vice-versa. E como a marca sabe algo sobre como as moedas e as mãos funcionam, ela apenas opera na suposição de como o mundo funciona. E o truque aqui é semelhante a um golpe que, quando eu estava escrevendo para a Wired, nos anos 90, meu editor Bob Parks descobriu.

Havia uma empresa que fazia pulseiras de rastreamento GPS para ajudá-lo a encontrar seus filhos quando eles são sequestrados. E o discurso deles era: “Aqui está uma pulseira que obtém a localização de seus filhos usando os satélites GPS e depois a envia de volta para você usando os satélites GPS”. E se você sabe alguma coisa sobre satélites GPS, você disse: “Ei, espere um minuto, como isso funciona?” Porque com satélites GPS, você pode receber deles com um dispositivo pequeno e de baixa potência, mas para enviar dados para um satélite GPS, mesmo que eles estivessem configurados para recebê-los, o que eles não são, exigiria um prato de vinte e cinco pés. E isso foi antes das redes de dados móveis. Isso foi no início dos anos 90.

“Mas e se pudéssemos usar esse segredo ao processar pagamentos e, ao fazer isso, impedir que governos interrompam pagamentos?“

O que esses caras estavam fazendo era pegar a compreensão superficial e baseada em regras básicas das pessoas de como o GPS funcionava e como os satélites funcionavam – isso é tipo, “Bem, acho que funciona como um walkie-talkie, certo? Onde você pode enviar e receber” – e eles estavam apenas enganando as pessoas.

Muitas das coisas cripto começam com o que um artista malandro faria: “Tudo bem, sabemos que a criptografia funciona e pode guardar segredos e sabemos que o dinheiro é apenas um acordo entre as pessoas para tratar algo como valioso. E se pudéssemos usar esse sigilo ao processar pagamentos e, ao fazê-lo, evitar que os governos interrompessem os pagamentos?”

Após essa configuração, o vigarista pode obter a marca para escolher seu veneno: “Impedirá que o grande governo interfira no livre mercado” ou “Impedirá a hegemonia dos EUA de interditar indivíduos hostis aos interesses americanos em outros países e permitirá que eles façam transações” ou “Permitirá que você envie dinheiro para denunciantes dissidentes que estão sendo bloqueados pela Visa e pela American Express”. Todas essas são aplicações que, dependendo das visões políticas da marca, afirmarão a justeza da empreitada. A marca vai pensar, que é uma aplicação totalmente legítima.

Começa com um truque de mão porque todas as premissas com as quais a marca está concordando são, na verdade, apenas uma espécie de direito. É uma primeira aproximação da direita e há muitos demônios nos detalhes. E entender esses detalhes requer um entendimento técnico bastante sofisticado.

Bem, falando de fraudes, vamos falar sobre o Twitter. O site nunca foi um espaço online utópico, mas antes era pelo menos melhor do que é agora. O que está levando à sua queda além da compra por Elon Musk? Existe algo melhor por aí ou algo melhor por vir?

Acredito que devemos agradecer a Elon Musk pelo que ele está fazendo, já que grande parte dos abusos que levam à decadência das plataformas ocorre lentamente, com limites cada vez mais tênues, dificultando apontar e identificar o que está acontecendo. Diferentemente de outros, como Donald Trump, que se movem lentamente com um lápis muito fino, Musk age de forma mais brusca, o que pode chamar a atenção para questões que, de outra forma, seriam difíceis de chegar a um consenso. Isso facilita identificar a patologia em jogo e mobilizar as pessoas para lutar contra ela.

Acredito que, de uma forma muito estranha, devemos agradecer a Musk e Trump por isso. A patologia que Musk está atuando em alta velocidade é algo que chamo de “enshitification”.

Trata-se de uma forma específica de decadência de monopólio endêmica às plataformas digitais, que ocorre em um ambiente de baixa competição, onde as leis antitruste ou de concorrência não são rigorosamente aplicadas. A plataforma é a forma canônica da empresa digital, atuando como um negócio intermediário puro, em que a empresa faz a intermediação entre usuários/compradores e clientes/vendedores empresariais.

A empresa que atua como um negócio intermediário possui um conjunto de usuários ou compradores e outro conjunto de clientes ou vendedores empresariais. Ela faz a intermediação entre eles em um ambiente de baixa competição, onde as leis antitruste ou de concorrência não são aplicadas rigorosamente.

A partir do momento em que tem acesso a capital, ela pode usar seus recursos para comprar possíveis concorrentes ou praticar preços predatórios para remover potenciais concorrentes do mercado. O Uber é um exemplo disso: perdendo quarenta centavos de dólar por cada dólar, eles simplesmente eliminam os táxis amarelos e sufocam o investimento em transporte público, fazendo parecer que há uma alternativa viável em veículos de carona. Vemos preços predatórios e aquisições predatórias em muitos, muitos domínios.

A Loblaws, uma rede de mercados no Canadá, está comprando seus concorrentes, praticando preços predatórios e abusando tanto de seus fornecedores quanto de seus clientes para extrair rendas monopolistas e deixar todos em situação pior. Isso também ocorria há cento e vinte anos, como no caso de John D. Rockefeller, que usava a exclusividade em linhas de trem para excluir seus concorrentes. No entanto, no mundo digital, as plataformas têm a flexibilidade de alta velocidade que não é possível nas empresas analógicas.

No passado, não era possível para um monopolista como Rockefeller simplesmente clicar em um mouse e construir outra linha de trem que oferecesse o serviço mais barato até que a linha de balsa fosse à falência e então abandonar a linha de trem. Isso era intensivo em capital e exige processos extremamente lentos. Já no digital, é possível fazer algo que o entrevistado chama de “twiddling”, que é simplesmente mudar a lógica de negócios muito rapidamente.

“O mundo digital faz as mesmas coisas que os monopolistas sociopatas medíocres fizeram na Era Dourada, mas fazem mais rápido e com computadores.”

Jeff Bezos é um empresário que lidera duas empresas: a Amazon Fresh, um comércio totalmente digital, e a Whole Foods, um comércio analógico. Enquanto na Amazon Fresh é possível mudar os preços dos produtos facilmente por meio de um clique, na Whole Foods essa tarefa é mais difícil e requer pessoas físicas para alterar os preços dos produtos. Isso destaca como o mundo digital é capaz de executar as mesmas ações que os monopolistas fizeram no passado, mas de forma mais rápida e com o uso de tecnologia.

Essa habilidade de manipulação pode levar a uma espécie de mitologia em torno de empresários bem-sucedidos no mundo digital, pois é possível fazer coisas que parecem mágicas, mas que, na verdade, são simplesmente ações executadas com mais rapidez. À medida que esses empresários ganham mais espaço, eles começam a mudar a lógica do mercado para atrair e reter usuários. Por exemplo, no caso do Facebook ou Twitter, eles permitem que os usuários escolham as pessoas de quem desejam receber atualizações. Essa é uma oferta valiosa e interessante que cria benefícios para os usuários finais.

Porém, ao trazer clientes empresariais para a plataforma, é necessário retirar excedentes dos usuários finais. Para isso, as empresas começam a espionar os usuários e a usar essas informações para fazer recomendações algorítmicas e direcionar anúncios para eles. Isso, por sua vez, pode comprometer a privacidade dos usuários, que é um excedente clássico do consumidor. As empresas podem alocar esse excedente para os anunciantes, usando as informações coletadas sobre os usuários para fornecer atualizações confiáveis com base nos critérios de segmentação.

A privacidade é um direito fundamental do consumidor, que pode ser expropriado e utilizado para benefício alheio. Plataformas como o Twitter monitoram suas atividades e direcionam anúncios personalizados. Elas podem disponibilizar essas informações aos anunciantes, alegando que oferecem atualizações confiáveis sobre pessoas que seus usuários seguem e que também podem fornecer atualizações confiáveis para esses usuários com base em seus interesses e comportamentos.

Além disso, as plataformas podem trabalhar em parceria com editores, oferecendo-se como um canal para o site deles. Ao postar trechos ou links para o conteúdo do editor, a plataforma pode substituir as atualizações dos seguidores do usuário por anúncios e links para o site do editor, utilizando sua vigilância para exibir apenas o que acredita ser relevante. Algumas dessas sugestões podem agradar aos usuários, que podem se inscrever no site do editor.

O usuário final acaba sendo o alvo deste funil. No estágio seguinte da decadência do monopólio, os excedentes são retirados dos usuários e dos clientes empresariais até que apenas o suficiente permaneça na plataforma para mantê-los cativos, sem deixar nada sobre a mesa que poderia ir para os acionistas. É exatamente isso que estamos presenciando o Twitter fazer.

Quantos anúncios eles podem colocar em seu feed? Quão pouco eles podem mostrar a você do que você pediu para ver? Quão poucos usuários que se inscreveram em seu feed podem ver o que você atualiza, para que você possa ser cobrado para impulsioná-lo ou pagar pelo Twitter Blue como uma forma de alcançar seus próprios seguidores. Essa é apenas uma maneira de puxar o tapete.

Musk tornou o código aberto do algoritmo público e muitas das regras chamaram muita atenção. No entanto, acho que a regra mais importante não recebeu atenção suficiente, que é a classificação inferior de links que levam para fora da plataforma.

Isso significa que, se você um jacobino e usuário do Twitter e tem uma postagem em seu feed que diz: “Aqui está nosso novo artigo e aqui está um link para ele”, essa postagem tem uma chance menor de aparecer nos feeds de seus seguidores do que se você recapitular esse artigo sem um link para ele. Isso significa que a oportunidade de obter receita com o seu conteúdo está firmemente vinculada à plataforma.

Uma das coisas que as plataformas fazem quando atingem esse estágio é começar a minar tanto a receita que os editores obtêm com a publicidade, pagando menos do dinheiro que coletam dos anunciantes para mostrar o conteúdo associado ao seu material, quanto cobrando mais dos anunciantes e entregando de forma menos confiável.

O Facebook e o Google tiveram um acordo colusivo ilegal que chamaram de Jedi Blue para aumentar o preço dos anúncios, diminuir a entrega de anúncios e diminuir a parcela paga aos editores. Isso saiu no processo do procurador-geral do Texas. Isso é enshitificação clássica.

Quando olhamos apenas para o que Musk está fazendo abertamente, eu aposto que ele está fazendo isso secretamente, como cobrar por anúncios que nunca são exibidos, cobrar mais pelos anúncios do que seria pago honestamente ou não entregar coisas que ele está prometendo aos anunciantes e cobrando deles. Não é porque ele seja especialmente perverso, mas porque é isso que o Facebook e o Google já fazem.

Acho que o problema de Musk é que ele é especialmente descuidado. Ele não exige que o procurador-geral do Texas deponha seus executivos e faça descobertas em seus memorandos internos. Musk dedilha e posta às duas da manhã. É assim que descobriremos isso com Musk. É nesta direção que vemos o Twitter indo.

A segunda parte da sua pergunta, “Algo melhor está por vir?” Acho que se refere ao Mastodon e existem várias razões pelas quais essa plataforma pode ser uma alternativa melhor. Uma das razões é que o padrão Mastodon foi desenvolvido quando as plataformas tecnológicas não estavam tão envolvidas e não tinham influência sobre ele.

O ActivityPub, que governa o Mastodon, foi criado durante um período de escrutínio e interferência reduzidos. As pessoas que o criaram estavam comprometidas com a descentralização e a autodeterminação tecnológica, e o fizeram sem a interferência de grandes empresas, que de outra forma teriam facilmente capturado o processo.

É um padrão muito bom e tem muitas características excelentes, como o direito de sair embutido. O padrão garante que qualquer usuário possa exportar não apenas a lista de pessoas que segue, mas também a lista de pessoas que o seguem. Os usuários podem atualizar automaticamente todas essas pessoas nas instâncias quando saem de um servidor e vão para outro.

Uma das razões pelas quais as pessoas ainda usam o Twitter, apesar de sua qualidade ter sido significativamente degradada, é porque gostam das pessoas que seguem e que as seguem. Isso é valioso para elas e é algo que Musk está tentando capitalizar. Ele está tentando encontrar um equilíbrio entre tornar a plataforma quase inútil para você, mas não totalmente inútil.

Nesse sentido, as medidas de autoajuda que você pode tomar afetam esse cálculo. Se você não puder sair do Twitter, então Musk pode fazer coisas ruins com você e presumir que você não sairá porque o valor de seus seguidores é maior do que a dor que Musk está infligindo a você. Se for mais fácil para você levar seus seguidores com você, então a dor que ele pode infligir a você é menor. Isso também se aplica aos administradores desses pequenos servidores.

A outra coisa que o Mastodon incorpora é algo designado como ponta a ponta, e a postura padrão do Mastodon é conectar remetentes dispostos com receptores dispostos. Se ambos tentarem se comunicar, ou seja, se eu postar algo para meus seguidores e vocês me seguirem, o Mastodon entrega.

O padrão do Mastodon é que as coisas enviadas pelos remetentes sejam recebidas pelos destinatários, desde que ambas as partes concordem com esse processo. Isso significa que o processo pelo qual você extorque dinheiro de marcas de mídia – dizendo a elas que não podem ver seguidores, não verão suas atualizações – está fora de questão.

Isso significa que grande parte da conduta invasiva de privacidade e da conduta publicitária que contribui para a enshitficação simplesmente não é tratável da maneira que é no Twitter. Acho que precisamos entender que os capitalistas odeiam o capitalismo. Eles não querem estar em um ambiente no qual tenham que competir.

Por fim, elaborar e fazer cumprir uma regulamentação que mantenha as coisas assim é bastante simples. Muitas pessoas disseram: “Bem, deveria haver uma regulamentação que impeça o Twitter de permitir assédio na plataforma”. Mas isso exigiria que decidíssemos fatos sobre se a conduta chega ao nível de assédio. Se você tira sarro de Elon Musk, isso é assédio? Nesse caso, seria necessário que tivéssemos algum tipo de constatação de fato para determinar se eles poderiam ter evitado ou feito algo mais; se agiram de boa fé. E tudo isso pode levar cinco anos para determinar. Enquanto isso, você continua sendo assediado.

Ao passo que dizer que você só precisa deixar as pessoas saírem e também entregar mensagens de remetentes dispostos a destinatários dispostos é realmente fácil de administrar.

Se você sair, digamos, do Mastodon e reclamar que o administrador nunca lhe deu seus dados, e você for ao comissário de privacidade que lida com coisas como acesso aos dados do usuário e disser: “Ei, eu quero registrar uma reclamação porque o administrador do Mastodon nunca forneceu meus dados.” Eles não precisam fazer nenhuma descoberta de fato. Eles apenas enviam uma carta a esse administrador dizendo: “Apenas envie a ele outra cópia dos dados.

Então, se o administrador do Mastodon alegar ter enviado seus dados e você afirmar que não recebeu, uma solução simples seria o administrador enviar outra cópia dos dados. Além disso, para verificar se o recurso de ponta a ponta está sendo aplicado corretamente, é possível enviar uma mensagem e pedir para o destinatário confirmar se a recebeu. Dessa forma, não é necessário convocar engenheiros da empresa para testar o recurso de ponta a ponta, é possível realizar um teste simples por conta própria.

Cooperação entre capitalistas

Falando em declínio, em fevereiro de 2023, você postou um fio no Twitter sobre o futuro dos mecanismos de busca da Internet e escreveu que a Microsoft e o Google concordam que nossas explorações online serão ainda mais direcionadas a “longos parágrafos floreados escritos por um #chatbot que por acaso é um mentiroso habitual.”

Eu deveria ter dito mentiroso confiante habitual, mas sim.

Como isso se parece na prática? Se alguém se sentar no futuro e for pesquisar no Bing, por motivos que ultrapassam a compreensão, o que eles encontrarão e por quê?

Acredito que é importante compreender que os capitalistas não gostam realmente do capitalismo. Eles preferem não estar em um ambiente competitivo. Isso se deve, em parte, ao fato de que, sem alternativas, eles podem extrair mais excedente de você sem ter que competir com um rival. É por isso que eles tendem a apreciar preços predatórios, fusões e monopólios. Na verdade, o termo “rebentamento de confiança” vem dessas ações.

Por exemplo, Rockefeller e outros barões convidaram todos os seus concorrentes, que nominalmente se odiavam, para criar uma nova empresa, uma holding, um fundo. Eles vendiam suas empresas para o fundo, que administrava todas elas como filiais. Essa não é a ação de um capitalista que acredita em dominar o mundo e ir para o anel de latão. Os capitalistas não gostam do capitalismo porque não querem perder tempo competindo. Como Peter Thiel, um dos fundadores bilionários do PayPal, disse, “a competição é para perdedores”.

Além disso, eles também não gostam da competição porque, quando as empresas são fundidas em um cartel, monopólio ou oligopólio, é muito fácil para eles decidirem qual será sua posição comum de lobby. Se houver uma centena de empresas em um setor, elas não conseguirão chegar a um acordo sobre como atender sua reunião anual. Se houver apenas três, todos poderão se unir e falar com as agências reguladoras, dizendo que a neutralidade da rede não funciona ou que “Os opioides são seguros”.

“É muito fácil para eles chegarem a essas posições comuns de lobby, o que é uma forma de conspiração para impedir que outras entidades entrem no mercado, e assim eles podem moldar a regulamentação.“

O Google, como empresa, resume tudo isso. O Google é uma empresa que criou um produto de sucesso: um motor de busca, e foi ótimo. No entanto, eles simplesmente não tinham outras ideias bem-sucedidas em suas tentativas internas. As exceções são o clone do Hotmail e o tempo em que eles pegaram a base de código do Safari que a Apple havia descartado e a usaram para fazer o Chrome.

Todos os outros produtos que tiveram sucesso são algo que eles compraram de outras empresas. O Google está muito ansioso porque sabe, no fundo, que é tudo uma encenação – que o que eles têm é acesso ao mercado de capitais, e não gênios criativos.

Toda a pilha de tecnologia de anúncios, toda a pilha de vídeo, toda a pilha de gerenciamento de servidor, toda a pilha móvel, documentos, calendário, mapas, navegação rodoviária, tudo isso são aquisições. O Google pensa: “Somos a fábrica de ideias de Willy Wonka, somos gênios criativos que apresentam ideias”, mas as ideias que eles realmente apresentaram – Google+, Sidewalk Labs, os balões Wi-Fi flutuantes, até mesmo o leitor RSS deles – todas falharam. O Google Video foi um fracasso. Eles tiveram que comprar o YouTube para ter uma oferta de vídeo bem-sucedida.

O Google está muito ansioso porque sabe que tudo é uma encenação. Que o que eles têm é acesso ao mercado de capitais, e não a verdadeira criatividade. Pode haver gênios trabalhando no Google, mas a estrutura institucional do Google não permite o surgimento de gênios criativos. A genialidade que eles têm é a de operacionalizar as ideias geniais de outras pessoas, e eles definitivamente são ótimos nisso.

Mas isso é apenas outra maneira de dizer que eles são um monopólio. Todo monopólio tem, no mínimo, alguma competência logística e operacional. A Loblaws não poderia aumentar o preço do pão se não conseguisse colocá-lo nas prateleiras de todas as suas lojas em todo o Canadá. Obviamente, a Loblaws é boa nisso e, obviamente, o Google é bom em expandir o YouTube. Eles não poderiam ser um monopolista se não fossem. Mas não fazemos política industrial apenas para excelência operacional; fazemos política industrial para inovação e progresso.

O Google é péssimo nisso. A empresa nunca inovou desde o desenvolvimento do mecanismo de busca; tudo o que eles fizeram foi operacionalizar. Existe todo essa obsessão agora sobre IA, e não é a primeira vez que o Google foi forçado a fazer algo pela moda.

No início dos anos 2000, havia uma grande expectativa de que a China seria a próxima fronteira para as empresas de tecnologia americanas. O Yahoo decidiu entrar no mercado chinês e, para se manter no país, começou a delatar seus usuários para o politburo chinês, resultando em prisões e torturas. O Google seguiu o mesmo caminho. Mesmo sabendo disso, eles pensavam que não poderiam fazer melhor do que o Yahoo e decidiram segui-lo na China.

No entanto, os usuários tiveram seus e-mails hackeados e foram presos e torturados. Pelo que me disseram, Sergey Brin, um dos fundadores do Google, disse que sua família não havia fugido da União Soviética para que ele delatasse as pessoas para a polícia secreta. Então, ele decidiu puxar o paraquedas e retirar a empresa do país.

Atualmente, as empresas de tecnologia estão perseguindo a IA da mesma forma que perseguiam a entrada no mercado chinês no início dos anos 2000. Naquela época, o Yahoo e o Google seguiram a estratégia um do outro, mesmo sem ter uma ideia melhor, o que resultou em delatar usuários para o politburo chinês e violar a privacidade de seus usuários.

Agora, com a IA, os analistas preveem um negócio de US$ 13 trilhões (cerca de R$64,09 trilhões), levando o Google a seguir essa tendência, mesmo sem saber se é uma boa ideia.

Com esse potencial lucrativo, vem uma obsessão com a IA. Ao mesmo tempo, a qualidade da pesquisa está caindo, pois os gerentes de produto estão mais focados em aumentar a receita e receber um bônus de desempenho. A consequência é uma cultura de enshitificação, em que a prioridade é aumentar a lucratividade, em vez de investir em pesquisa de qualidade.

Cada executivo está pensando: “Meu bônus, que é 5 vezes maior do que o meu salário e determina se meus filhos vão ou não para Harvard sem acumular dívidas, depende se eu consigo ou não aumentar a lucratividade da minha unidade de negócios em 3%. A maneira como faço isso é enshitificando.”

No entanto, esses 3% não vêm do aumento do Google, porque ele detém 98% do mercado de buscas. Vem de excedentes móveis. Vem de tornar a plataforma pior para editores, anunciantes, usuários ou todos os três. E para cada um deles, é como um pequeno jogo do dilema do prisioneiro. Se apenas um deles estivesse fazendo isso, provavelmente estaria tudo bem. Mas como todo mundo está fazendo isso, todos os produtos do Google marcham monotonamente em direção à enshitificação.

A qualidade de toda a plataforma está diminuindo. É algo que todos podem perceber. O Android, por exemplo, está longe do que era há alguns anos. O YouTube está piorando tanto para os espectadores quanto para os artistas. A pesquisa também está muito ruim. Diante disso, o Google parece pensar que precisa tentar outra coisa e a única opção é seguir o que outras pessoas já validaram, ou seja, investir em IA. Isso tem levado à criação de chatbots enganosos e floridos, algo que ninguém deseja ou pediu.

Sim, a IA pode ser útil em muitas áreas, como na criação de truques de festa divertidos, na geração de arte interessante e na automação de certas tarefas. No entanto, é importante lembrar que a IA atualmente disponível não é verdadeiramente “inteligente”. Embora possa ser programada para realizar certas tarefas de forma eficiente, não tem a capacidade de entender e responder adequadamente a perguntas complexas como um ser humano.

Como disse Timnit Gebru, a eminente cientista da computação que eles demitiram por inventar a expressão: “Criamos papagaios estocásticos”. Tudo o que isso significa é um truque de festa. E eu gosto de truques de festa. Estava no Castelo Mágico na semana passada e vi um mágico fazer um incrível ato de mentalista e prestidigitação que continuo pensando. É ótimo. Adoro viver em um mundo com truques de festa, mas a ideia de que resolvemos as buscas com truques de festa é manifestamente errada.

A ameaça da IA: Skynet ou os limites da corporação de responsabilidade limitada?

Ao ouvir isso, estou pensando comigo mesmo, muito do calor está focado na IA se tornando autoconsciente ou se voltando contra nós. Estamos preocupados com a Skynet, mas há preocupações muito mais mundanas e insidiosas sobre IA que devemos reconhecer. Essas preocupações, essas preocupações maiores e inimagináveis, são legítimas ou estão nos distraindo das preocupações mais insidiosas e mundanas que enfrentamos agora?

Acho que essas preocupações são apenas uma ansiedade deslocada sobre as sociedades de responsabilidade limitada. Onde está a forma de vida artificial que os humanos criaram para servi-los, mas que, em vez disso, exige que os humanos sirvam à forma de vida artificial? Acho que muitos dos problemas de Musk é resultado de ele pensar que tem um volante com o qual pode dirigir suas empresas, mas toda vez que ele puxa o volante, a empresa não gira.

Eles têm um manuseio muito ruim. A razão pela qual eles têm um tratamento muito ruim é que a empresa tem seus próprios imperativos. Tem acionistas, tem detentores de títulos, tem trabalhadores, tem reguladores com clientes.

“Acredito que quando as pessoas se preocupam com a Skynet, o que elas querem dizer é que os imperativos dos negócios estão levando o mundo à beira da extinção humana.”

Escrevi que a maneira de entender o endereço de IP — que de outra forma é meio sem sentido porque marca comercial e direito autoral e patente realmente não são o mesmo — é que o que IP significa é qualquer lei ou política que permita que você alcance fora das paredes da empresa para controlar seus clientes, críticos ou concorrentes.

Esses clientes, críticos e concorrentes são as coisas que reduzem a eficiência de manuseio do caminhão gigante. Essa é a sua empresa. É isso que são: os coeficientes de atrito, o gelo na estrada, o mau tempo e os outros motoristas que significam que você não pode dirigir seu carro onde quiser na velocidade que deseja.

É por isso que as empresas são tão obcecadas com o IP: eles querem poder agir como gênios unitários, ser protagonistas nos romances de Ayn Rand e não pessoas que vivem em uma sociedade com restrições impostas a elas — e não apenas por um dever para com os outros, mas também por rivais.

Novamente, voltando ao “a competição é para perdedores” de Thiel. Por que eu deveria perder meu tempo tentando refutar ou deslocar as más ofertas de outros homens inferiores que estão tentando vender aos meus clientes Whoppers quando claramente o Big Mac é o melhor hambúrguer? Não seria melhor se essas pessoas simplesmente não estivessem lá? Então eu poderia me concentrar em melhorar o Big Mac em vez de tentar jogar jogos com o Burger King.

Acho que quando as pessoas se preocupam com a Skynet, o que elas querem dizer é que os imperativos dos negócios estão levando o mundo à beira da extinção humana. Do ponto de vista das pessoas no comando, elas estão pensando: “Isso está me deixando pessoalmente louco, mesmo que eu seja o CEO e nominalmente a pessoa que está no comando. Sou miserável com cada hora que Deus envia. Não sei como direcioná-lo, mesmo que eu seja a pessoa na sala de controle que construiu a sala de controle e conectou todos os controles e eles simplesmente não funcionam como me disseram que funcionam. Meu Deus, a criação ganhou vida com vontade própria”.

Isso é Skynet, certo? Essa é a sociedade de responsabilidade limitada. Charlie Stross as chama de inteligências artificiais lentas. Eles são basicamente IAs com velocidades realmente baixas, mas ainda cumprem o mesmo imperativo. Maximização do clipe de papel.