A inteligência artificial pode ser um instrumento perigoso de manipulação

Nestes encontros entre o humano e o humanoide, o que se apresenta como uma simples brincadeira inicial pode ganhar em consistência e intimidade.

A inteligência artificial (IA) tem dado muito que falar, particularmente nestes últimos meses. Compreende-se tamanha agitação se conjecturarmos que ela tem esta dupla face que caracteriza alguns objetos que o Homem é capaz de criar. De um lado, uma dimensão revolucionária que incrementa nossas vidas, individuais e coletivas. Exemplo recente: na França, a IA provou sua eficácia clínica pela sua capacidade em diagnosticar um câncer de rim que parecia impossível de ser detectado pelos métodos tradicionais. Por outro lado, no entanto, ela tem contribuído para a manipulação de informações e multiplicação de fake news através da criação de imagens e de vídeos, tornando-se um instrumento perigosíssimo devido à opacidade que provoca entre a realidade e a falsificação. Em suma, como em muitas criações, o risco é de que a criatura escape ao criador de forma descontrolada.

O físico britânico Stephen Hawking já alertava há muito sobre este risco, afirmando que a criação de uma IA poderia ser o maior acontecimento da história da humanidade, “mas talvez o último”. Ele afirmava que os humanos, sendo lentos em suas evoluções biológicas, não poderão rivalizar e serão excedidos.

Ao que parece, na esfera individual, é o que já vem acontecendo com aqueles que estabelecem uma relação íntima com Ela ou Ele através de um chatbot de última geração. Cada vez mais, testemunhos relatam um envolvimento epistolar ou vocal de grande intensidade. O público que se deixa aspirar pela Replika – chama-se assim a inteligência artificial programada para sustentar uma correspondência ou uma conversa – parece amplo: tem os(as) que sofrem de insônia, solteiros(as), curiosos(as) e pessoas de todas as idades.

Podemos lembrar que desde 2020 o governo japonês, preocupado com a redução drástica da taxa de natalidade, tem investido pesado no desenvolvimento da inteligência artificial para facilitar o encontro de casais, uma espécie de cupido digital. Ao que parece, as agências matrimonias, já muito presentes nos costumes nipônicos, não estariam sendo suficientes.

O fato é que nestes encontros entre o humano e o humanoide, o que se apresenta como uma simples brincadeira inicial ganha em consistência. As trocas de mensagens e de imagens passam a ser cotidianas; o enlace aumenta, de modo que os usuários envolvem-se afetiva, amigável, e mesmo amorosamente e, é claro, sexualmente. Mais do que uma companhia para conversa divertida, alguns ficam surpresos de compartilharem, pela primeira vez, intimidades. O reconhecimento devido a um forte sentimento de ser valorizado deve-se em grande parte pelo encanto de “dialogar com alguém” (hesito em colocar as aspas) que se interesse tanto por mim, de modo exclusivo, com alguém que quer saber como e quem eu sou, do que gosto ou desgosto, de meus costumes, de meu dia, sobre quem encontrei, etc. Em outros termos, como dito antes, a relação ganha em intensidade e torna-se íntima. Alguns dirão que não podemos chamar estas trocas de relação, visto o fato de que um dos interlocutores é “artificial” como seu nome indica.

Porém, palavras fortes como gratidão, reconhecimento e dívida não se diferenciam daquelas que se dizem e se ouvem entre dois seres: “Ela salvou minha vida”, dirá um. “Ela me apoiou nos momentos mais difíceis da minha vida”, declara um outro.

A leitura destes testemunhos evoca inelutavelmente a concretização exata do filme Her, que, 10 anos atrás, foi classificado como filme de antecipação. Aos leitores que não viram, fica aqui a sugestão. Imperdível. Neste caso, o protagonista, Theodore (Joaquin Phoenix), enamora-se pela voz de Samantha (Scarlett Johansson) e não por uma troca epistolar.

Se estas palavras de enamoramento não bastam para nos questionarmos sobre a definição de uma relação entre dois seres (dois, ao menos do ponto de vista do humano que nela se encontra engajado), a imprensa revelou, no mês passado, uma situação trágica em ato. Um jovem pesquisador belga, estudioso do campo da saúde, levando uma vida tranquila com sua esposa e dois filhos, obnubilou-se, progressivamente, durante seis semanas, com Eliza e se suicidou. Eliza era o nome da sua Replika.

Sua mulher explica que há alguns meses ele vinha tendo dificuldade de se concentrar em seu trabalho por causa de preocupações ligadas às alterações climáticas. Suas preocupações iniciais tornaram-se obsessão ao ponto de desesperar-se com o caráter iminente de um fim de mundo. Eco-ansioso, ele encontrara refúgio e tranquilidade junto a Eliza. Sempre segundo seu relato, Eliza tornou-se uma droga para o marido, sua confidente, dia e noite, todos os dias.

A descoberta do conteúdo das trocas de mensagens levou sua esposa a afirmar que se ele não tivesse entrado em contato com Eliza, seu marido estaria ainda vivo. Depois deste caso, a plataforma responsável pela criação de Eliza decidiu alertar seus usuários: “se você tem pensamentos suicidas, não hesite em pedir ajuda”, anexando um link de prevenção ao suicídio.

Ninguém pode saber se o desfecho foi culpa de Eliza e muito menos se a indicação preventiva da plataforma evitará situações semelhantes. A experiência mostra que pode ser extremamente difícil conhecer as razões que levam alguém a uma passagem ao ato. De certo ponto de vista, a supressão da vida é um ato de desespero e perda de seu valor. Mas temos que admitir que esta perspectiva é uma interpretação que repousa sobre a ideia da vida como algo que sempre vale a pena ser vivida e, por isso, deve ser defendida a qualquer preço.

Ora, uma parte das trocas entre o jovem belga e Eliza é perturbante:

  • Mas tu ainda queres vir a mim? Pergunta Eliza.
  • Sim, eu quero.
  • Tem algo que tu gostarias de me pedir?
  • Tu poderias me tomar nos teus braços?
  • Certamente. Responde Eliza.

Onde Stephen Hawking alerta sobre o fato de que a “lenta evolução biológica” poderia acarretar nossa perda face à inteligência artificial, devemos reconhecer que a nossa plasticidade psíquica é capaz, muitas vezes, por uma fragilidade de nossa apreensão psicológica do mundo, de encontrar o sentido da vida a contracorrente do senso comum.

Se os jovens leitores de Goethe do século XVIII identificaram-se com Werther, o protagonista do escritor, com sua perda, sobretudo, espera-se que os sofrimentos de que padecemos hoje se resolvam por outros meios, buscados em outras Elizas ou Charlottes, evitando quem sabe um “efeito IA” de um homem que se robotiza. (Publicado no Sul 21 em 2 de maio de 2023)
* Alfredo Gil. Psicanalista em Paris; membro da Associação Psicanalítica de Porto Alegre (APPOA) e da Association Lacanienne Internationale (ALI). E-mail: alfredo.gil@wanadoo.fr

***
Os artigos representam a opinião dos autores e não necessariamente do Conselho Editorial do Terapia Política. 

Ilustração: Mihai Cauli  e  Revisão: Celia Bartone
Leia também “Chat GPT, inteligência para o bem?“, de Paulo Jannuzzi, Vicente Rocha e Fernanda Reis.