A inteligência artificial tem muitas vantagens potencialmente enormes, mas também é grande e assustadora porque pode ficar fora de controle e possivelmente acabar com toda a vida humana, de acordo com alguns cientistas. Naturalmente, as empresas de tecnologia que pretendem ganhar dinheiro com a ameaça estão imitando uma das grandes e assustadoras indústrias originais: a indústria de tabaco.
Esse é o objetivo de um estudo recente sinalizado para mim pelo físico sueco Max Tegmark após uma fascinante e aterrorizante discussão sobre seus terríveis avisos de inteligência artificial nas manchetes em todo o planeta.
Tegmark compara a situação à trama de “Don’t Look Up”, na qual especialistas divulgam os benefícios do cometa que se aproxima, em vez de alertar sobre seus perigos. O artigo de 2021 que ele me enviou oferece algumas respostas sobre o motivo: mostra como a Big Tech se infiltrou nas instituições acadêmicas que estudam e frequentemente promovem a IA, com pouca consideração pelas desvantagens potencialmente catastróficas.
Os pesquisadores da Universidade de Toronto e Harvard que lideraram o estudo oferecem uma conclusão: “Assim como a indústria do tabaco alavancou seu financiamento e iniciativas para identificar acadêmicos que seriam receptivos às posições da indústria e que, por sua vez, poderiam ser usados para combater a legislação e combater litígios, a Big Tech alavanca seu poder e estrutura da mesma maneira.”
A prova está nos dados. Entre as faculdades de pesquisa permanentes nas universidades estudadas, “58% do corpo docente de ética em IA está buscando financiamento da Big Tech” e, ao “expandir os critérios de financiamento para incluir financiamento de pós-graduação, bem como experiência de trabalho anterior, observamos que 97% do corpo docente com fontes de financiamento conhecidas (65% no total) receberam compensação financeira da Big Tech.”
Os pesquisadores explicam o que isso significa:
“As Big Tech são capazes de influenciar o trabalho do corpo docente. Isso ocorre porque, para obter financiamento de pesquisa, o corpo docente pode ser pressionado a modificar seu trabalho para ser mais receptivo aos pontos de vista da Big Tech. Essa influência pode ocorrer mesmo sem intenção explícita de manipulação, se os candidatos a prêmios e os responsáveis por decidir quem merece financiamento não compartilham as mesmas visões subjacentes sobre ética ou como ela deve ser resolvida.”
Se você quiser alguma prova recente dessa influência, dê uma olhada neste relatório da Reuters, que mostra que o Google “agiu para aumentar o controle sobre os artigos de seus cientistas, lançando uma revisão de ‘temas delicados’ e, em pelo menos três casos, solicitou aos autores que se abstivessem de lançar sua tecnologia sob uma luz negativa”.
Notavelmente, parte do financiamento da pesquisa de IA das empresas de tecnologia é direcionado especificamente para especialistas em ética de IA, frequentemente citados na mídia. Os executivos dessas empresas compreendem o poder político desses especialistas e de suas pesquisas. Citando um assessor do Senado dos EUA, a jornalista Rana Foroohar relata isso em seu livro “Don’t Be Evil”.
“Trata-se de uma captura social e intelectual que, na verdade, é muito mais eficaz tanto a curto quanto a longo prazo. O Google apoia pesquisadores que trabalham em áreas complementares aos interesses comerciais do Google e/ou adversas aos interesses comerciais de seus concorrentes. Isso inclui coisas como leis de direitos autorais relaxadas, reforma de patentes, neutralidade da rede, economia laissez-faire, privacidade, robôs, IA e propriedade da mídia. Eles fazem isso por meio de doações diretas aos pesquisadores, financiamento de seus centros e laboratórios, conferências, contribuições para grupos da sociedade civil e enviando-os para eventos do Google.”
“Dessa forma, a empresa não apenas constrói boa vontade, mas também “forma com sucesso porta-estandartes acadêmicos”, ou seja, acadêmicos proeminentes que conduzirão colegas mais jovens em uma direção mais favorável à empresa, diz o assessor.
No momento, tudo isso está acontecendo com mais destaque na União Europeia, onde os lobistas de tecnologia tentando atenuar atenuar os regulamentos de IA, mesmo com as advertências de que a tecnologia pode representar uma ameaça existencial para toda a vida no planeta. Nos Estados Unidos, o site Politico divulgou uma “corrida do ouro” de lobby de IA em Washington, onde empresas e a máquina de influência da Wall Street têm cifrões em seus olhos.
Os Peter Isherwells do mundo real não querem que os legisladores saibam — ou legislam contra — os perigos potenciais, porque isso pode atrapalhar o que um novo memorando do Morgan Stanley observou: “A computação cognitiva cria oportunidades de investimento em potencial, à medida que as empresas desenvolvem a tecnologia e usá-la para transformar seus negócios.”
Enquanto procuram proteger esse potencial de investimento, os executivos de tecnologia e seus lobistas, sem dúvida, usarão trabalhos de pesquisa acadêmica de especialistas vinculados a empresas para defender seus argumentos – e, em muitos casos, os formuladores de políticas podem nem saber desses links.
Esse era o truque da indústria de tabaco algumas décadas atrás — e agora é a estratégia das Big Tech.
Sobre os autores
David Sirota
é editor-geral da Jacobin americana. Ele edita o Lever e anteriormente atuou como consultor sênior e redator de discursos na campanha presidencial de Bernie Sanders em 2020.
