O ChatGPT diz aquilo que nosso inconsciente radicalmente reprime

Tradução do artigo Slavoj Žižek: Chatgpt Sagt Das, Was Unser Unbewusstes Radikal Verdrängt pela Berliner Zeitung de Slavoj Žižek.

pouco tempo atrás eu estava descrevendo um incidente que aconteceu comigo: Um amigo negro ficou tão encantado com o que acabei de dizer que me abraçou e exclamou: “Agora você pode me chamar de ‘n…r’

Um crítico afirmou recentemente que aqueles que concordam comigo nisso são “loucos”, escrevendo: “O problema é que o argumento de Žižek é baseado em sua liberdade de usar um linguajar racista. Žižek usa a palavra N como um argumento contra o politicamente correto, sugerindo que as pessoas negras que não querem ser abusados racialmente são politicamente corretos. E, portanto, irracionais. E claro, talvez isso não incomode nem um pouco o homem com quem ele estava falando. Mas o fato de você dizer ou não a palavra N sendo uma pessoa não negra não deve depender de encontrar uma pessoa negra que ‘permitirá’ que você o faça. A maneira como você usa as palavras deve ser baseada em como você entende o mundo. A palavra N é uma palavra usada para justificar diretamente a propriedade de uma raça por meio da propriedade de outra. Isso é o que penso, cara.”

Foi uma expressão de amizade

ermita-me deixar as coisas absolutamente claras: assim como um chatbot, meu crítico ignora o contexto óbvio do meu exemplo. Eu não usei a palavra N em nenhuma conversa (nem nunca) e o rapaz negro que me disse: “Agora você pode me chamar de ‘n … r’!” obviamente não queria dizer que eu realmente deveria fazê-lo. Era uma expressão de amizade baseada no fato de que as pessoas negras às vezes usam a palavra entre si de maneira ironicamente amigável.

Tenho certeza de que se eu realmente me dirigisse a ele como ‘n….r’, na melhor das hipóteses ele responderia com raiva, como se eu não tivesse entendido o ponto óbvio. Sua observação obedeceu à lógica de uma “oferta a ser recusada”, que expliquei detalhadamente em outro lugar. Por exemplo, se eu dissesse algo como: “O que você fez por mim foi tão bom que você poderia me matar e eu não me importaria!” Eu definitivamente não espero que a outra pessoa diga “Ok!” e puxe uma faca.

A estupidez dos chatbots é precisamente o seu valor

eu palpite é que, pelo menos por enquanto, os chatbots não podem responder a essas ofertas que foram feitas para serem recusadas. (Vamos desconsiderar aqui os raros casos em que, em um contexto muito específico, não apenas a palavra N pode ser usada por uma pessoa não negra sem ferir uma pessoa negra, mas também, mais importante, onde o NÃO uso dessa palavra, e sim sua sutil alusão através de expressões associadas, quase pode ser mais prejudicial. Aliás, o mesmo se aplica à expressão “Deus, me ajude!”. Se nesse ponto Deus aparecesse e realmente viesse ao mundo e interviesse, eu ficaria totalmente chocado).

Mas ainda assim, será que não confiei demais na resposta acadêmica usual aos chatbots, zombando e denunciando as imperfeições e erros cometidos pelo ChatGPT? Contra essa visão predominante, compartilhada por Chomsky e seus oponentes conservadores, Mark Murphy, em diálogo com Duane Rousselle, defende a afirmação de que “inteligência artificial não funciona como um substituto para a inteligência/senciência como tal”. Portanto, “[sua] estupidez, deslizes, erros e miopias imbecis — e suas constantes desculpas por errar — são justamente o seu valor” que nos permite (as pessoas “reais” interagindo com um chatbot) utilizá-los para manter uma falsa distância e reclamar quando o chatbot disser algo estúpido: “Não fui eu! Foi minha IA.”

Chatgpt é um inconsciente

ousselle e Murphy apoiam essa afirmação com uma linha complexa de raciocínio, cuja premissa inicial é que “ChatGPT é um inconsciente”. As novas mídias digitais exteriorizam nosso inconsciente em máquinas de IA, de modo que aqueles que interagem com IA não são mais sujeitos cindidos, ou seja, sujeitos submetidos por meio de uma castração simbólica que torna seu inconsciente inacessível para eles. Como disse Jacques-Alain Miller, por meio dessas novas mídias, entramos em uma psicose universalizada, já que a castração simbólica agora é impossível.

Um sujeito dividido horizontalmente é assim substituído por um paralelismo vertical (nem mesmo dividido), uma justaposição de sujeitos e a máquina exteriorizada/inconsciente digital: sujeitos narcísicos trocam mensagens através de seus avatares digitais, em um meio digital plano em que simplesmente não há espaço para a “monstruosidade opaca do vizinho”.

O inconsciente digital é “um inconsciente sem responsabilidade”

inconsciente freudiano implica responsabilidade, sinalizado pelo paradoxo da culpa intensa sem que saibamos do que somos culpados. Pelo contrário, o inconsciente digital é “um inconsciente sem responsabilidade, e isso representa uma ameaça ao laço social”. O sujeito não é existencialmente envolvido em sua comunicação, já que ela é dada pela IA e não pelo próprio sujeito.

Assim como criamos um avatar online por meio do qual podemos envolver o Outro e nos afiliar a fraternidades online, não poderíamos usar personas de IA para assumir essas funções arriscadas quando ficamos cansados, da mesma forma que os bots são usados para trapacear em jogos online, ou um carro sem motorista poderia navegar na crítica jornada para o nosso destino? … Nós apenas sentamos e torcemos a favor de nossa persona de IA digital até que ela diga algo completamente inaceitável. Daí nós paramos e dizemos: ‘Não fui eu! Foi minha IA.’

Para Freud, o sonho é a estrada real para o inconsciente

ortanto, a IA “não oferece solução para a segregação e o isolamento e antagonismo fundamentais de que ainda sofremos, pois sem responsabilidade não pode haver pós-dado [post-givenness]”. Rousselle introduziu o termo “pós-dado” para denotar “campo de ambiguidade e incerteza linguística que permite uma aproximação ao outro no campo do que é conhecido como não-relação. Sendo assim, lida diretamente com a questão da impossibilidade conforme nos relacionamos com o outro. Trata-se de lidar com a monstruosidade opaca do vizinho, que nunca pode ser apagada, mesmo quando nos aproximamos dele nos melhores termos”.

Essa “monstruosidade opaca do vizinho” também nos afeta, pois nosso inconsciente é um Outro opaco no âmago do sujeito, um emaranhado de prazeres imundos e obscenidades. Para Freud, o sonho é a estrada real para o inconsciente, então a incapacidade de considerar logicamente a monstruosidade opaca do sujeito implicaria em uma incapacidade de sonhar.

As palhaçadas características do père-verse-ity (voltando-se para o Pai)

“H

oje sonhamos fora de nós mesmos e por isso que sistemas como o ChatGPT e o Metaverse operam oferecendo a si o mesmo espaço que perdemos devido aos velhos modelos castrativos caindo no esquecimento.” Com o inconsciente digitalizado, obtemos uma intervenção direta do inconsciente – mas então por que não somos subjugados pela proximidade insuportável de prazer, como é o caso dos psicóticos?

Aqui, fico tentado a discordar de Murphy e Rousselle quando eles se concentram em como, com as máquinas de IA, “o prazer pode ser adiado e negado: como podemos criar algo completa e horrivelmente obsceno e não assumir a responsabilidade por isso. Sua genialidade é encontrada em imitar o sujeito dividido de tal forma que ainda podemos dizer abertamente, ‘isso não é meu’. De fato, nós vemos muito casos onde pessoas fazem o ChatGPT – e outros programas como a versão do Microsoft Bing – dizer coisas escandalosas; mas o prazer vem justamente de renegar a agência nesse ponto: apontar para ele e dizer: ‘olha que idiota ele é’. “As características desajeitadas do père-verse-ity (voltando-se para o Pai) de muito do conservadorismo online é precisamente a necessidade de ressuscitar o Pai. De Trump a vários triunfalistas gurus de autoajuda e estilo de vida, podemos ver essa função de figuras paternas protéticas. Nesses eventos fúteis vemos tentativas de ressurreição reacionária da protética e fálica lógica do ‘Todo’ e uma era de invenção para perpetuar essa lógica. (…) falhando em manifestar uma figura castradora, há agora uma invenção direta do inconsciente sem o ponto estruturante paterno.”

O retorno perverso do pai obsceno

ortanto, é a perversão (ou père-version, “versão do pai”, como diz Lacan) e não o isolamento psicótico que caracteriza a IA. O inconsciente não é primariamente o real do “gozo” recalcado por uma figura paterna castradora, mas a própria castração simbólica em sua forma mais radical, significando a castração da própria figura paterna, a corporificação do grande Outro – a castração significa que o Pai como um sujeito nunca está no nível de sua função simbólica.

Esse retorno perverso do pai obsceno (Trump na política) não é o mesmo do paranóico psicótico. Mas por que? No caso dos chatbots e outros fenômenos da IA, estamos lidando com uma negação inversa: não é (para reiterar a fórmula clássica de Lacan) que a função simbólica excluída (nome-do-pai) retorna no real (como agente da alucinação paranóica); ao contrário, é o real da monstruosidade opaca do vizinho, a impossibilidade de alcançar um Outro impenetrável, que retorna no simbólico, na forma “livre” e de suave funcionamento espaço de troca digital.

O inconsciente foi reprimido

ssa compartimentalização reversa caracteriza não a psicose, mas a perversão – o que significa que, quando um chatbot produz estupidez obscena, não é apenas que eu possa aproveitá-lo com responsabilidade porque “‘foi minha IA’, não eu”. Em vez disso, o que acontece é uma forma de negação perversa: sabendo muito bem que foi a máquina, não eu, que fez o trabalho, posso desfrutá-la como se fosse minha.

A característica mais importante a notar aqui é que essa perversão está longe de ser uma exibição aberta do (até então reprimido) inconsciente: como Freud disse, o inconsciente em nenhum lugar é tão reprimido, tão inacessível, como em uma perversão.

Os chatbots são máquinas de perversão e ofuscam o inconsciente mais do que qualquer outra coisa: precisamente porque nos permitem cuspir todas as nossas fantasias sujas e obscenidades, eles são mais repressivos do que as formas mais rígidas de censura simbólica.