A queda de computadores e sistemas ao redor do mundo dia 19 foi mais do que o detalhe de uma operação mal feita

A queda de computadores e sistemas ao redor do mundo na última sexta-feira, dia 19, sobrecarregando aeroportos, fechando escritórios e limitando operações financeiras, foi mais do que o detalhe de uma operação mal feita que originou um efeito em escala planetária. Nos anos 90, o filósofo e urbanista Paul Virilio já anunciava em A bomba informática  o que vimos em 2024. Na obra, ele fala de três bombas que atingiriam a humanidade: no passado, a bomba atômica, no presente, a bomba informática e no futuro a bomba genética: “Depois da primeira bomba, a bomba atômica, capaz de desintegrar a matéria pela energia da radioatividade, surge o espectro da segunda bomba, a bomba informática, capaz de desintegrar a paz das nações pela interatividade [ou não] da informação” (Virilio, p. 65).

Virilio é um crítico da ciência e da tecnologia. Contra o otimismo que acompanha o desenvolvimento da tecnologia e da internet, que celebra o seu desenvolvimento como progresso, ele vê que os agentes políticos e econômicos são sempre os primeiros beneficiados de suas mudanças, suas promessas de abundância, mas, entretanto, se fragilizam quando vemos os efeitos do colapso das redes como o do último dia 19. Para Virilio, a internet é produto de uma ciência que evoluiu na perspectiva da busca do desempenho-limite, confusão entre instrumento operatório e pesquisa exploratória. Produto da tecnociência, a criação deste sistema planetário de informações que deixa a maioria ficar feliz com os milagres que a internet possibilita – comunicação instantânea, geolocalização – é, para Virilio, como produto de uma ciência do excesso. Ele compara a internet com uma espécie de variante dos esportes radicais, esportes extremos, onde o cidadão “se expõe voluntariamente ao risco de morte, sob o pretexto de atingir um desempenho recorde” (Virilio, p.10).

A cavalgada ao extremo do acesso e transmissão da informação em escala planetária tem um preço. Se a ciência do extremo assume o risco incalculável do desaparecimento da ciência, a internet ao extremo produz o fenômeno trágico especular que se segue. A internet sem limites e também sem controles, da qual o apagão é o exemplo, é o sintoma desse “fenômeno aterrador, dissimulado pelo sucesso de seus engenhos, de seus instrumentos” (Virilio, p. 10), Para Virilio, a internet é produto de uma tecnociência que elimina as possibilidades de todo o conhecimento. Não foi exatamente assim que se sentiram milhares de pessoas diante da “tela azul da morte” que apareceu em milhões de computadores por todo o mundo no início daquela sexta-feira?

O crash da tela azul da internet da sexta-feira de 2024 é o equivalente do crash da bolsa de valores da quinta-feira negra de 1929. Onde havia antes grande explosão de crédito por meio de oferta de moeda e títulos hoje há a grande explosão de dispositivos móveis e de plataformas dos meios digitais. A novidade ficou pela substituição do Federal Reserve System, espécie de Banco Central Americano, pela CrowdStrike, empresa de segurança cibernética cuja falha afetou cerca de 8,5 milhões de computadores. Empresas que deveriam usar a pesquisa científica para fazer, como Copérnico e Galileu, da internet um produto da ciência da aparição da verdade, com empresas como a CrowdStrike realizam o seu contrário, produzem produtos que fazem apenas o eclipse do real, que é também o desaparecimento do sentido de produzir ciência. Qual o sentido de uma internet onde o cidadão se perde no emaranhado dos dados?

Virilio é um defensor da autenticidade científica, do rigor experimental. Nada mais distante das práticas da CrowdStrike, que jamais imaginou a possibilidade de que sua atualização produzisse o caos informático. Para Virilio, é um abuso do capital a produção de uma ciência do inverossímil, é preciso testar antes, e ele está na linha direta de continuidade que passa pela divulgação propagandística dos resultados das ciências. Ora, os limites dados por Virilio se ampliaram com o advento da Inteligência Artificial, que dá ao inautêntico uma aparência de autêntico. Agora vemos o fim da imagem fotográfica com a imagem digital: o que era antes uma representação da realidade vira sua construção. Perguntamos: é real? A resposta é não. É IA. Da mesma forma, sistemas de alta segurança que deveriam servir para nos proteger no meio virtual, ao contrário, nos deixam indefesos frente à segurança que prometem. A tela azul da morte é o destino da tecnologia abusada pelo capital?

Quando vemos que, por todo o mundo, trabalhadores dos aeroportos tiveram de retornar a práticas antigas e emitir bilhetes de maneira manual, vemos que tais sistemas se limitavam sempre à transferência de nossas responsabilidades, da mesma forma que o exemplo chocante de Virilio da eutanásia voluntária intermediada por uma máquina-transferência em que o paciente terminal Bob-Dent disse sim à máquina desenvolvida pelo doutor Phillip Nitschke, para a aplicação de uma injeção mortal. Se “a tele ação eletrônica apaga, juntamente com a responsabilidade do especialista e a culpabilidade do paciente”, a pergunta que resta agora é: quem é o responsável pelos danos produzidos pela “falha do sistema” gerenciado pela CrowdStrike? Na máquina de Nitschke, o crime inocentava a todos os envolvidos pela mediação de uma máquina. Mas não houve um crime contra milhares de usuários quando se deu a falha do sistema da CrowdStrike?

É oportuno dizer às massas que a culpa é do …” sistema”. Mas a questão é justamente essa, pois passamos a ter nossas vidas guiadas pelo mundo virtual, produto da mutação informacional. Para Virilio, é preciso uma abordagem geoestratégica para avaliar a extensão do fenômeno da digitalização em termos planetários. É preciso, para Virilio “voltar à Terra, voltar ao mundo, não mais da história, [criticando] a aceleração da própria realidade” (Virilio, p.16). A interatividade cibernética produziu uma nova situação em que a separação atingiu seu ponto máximo “toda a presença só é presença à distância”, diz Virilio. A realidade virtual se apoderou do essencial das atividades econômicas das nações. Depois do fim da história, seguiu-se o fim da geografia “A cidade real, situada localmente e que chegava a dar seu nome à política das nações, cede lugar a cidade virtual, essa METACIDADE desterritorializada que se tornaria assim a sede dessa metropolítica, cujo caráter totalitário, ou antes globalitário, não escapa a ninguém” (Virilio, p. 18).

Em nossas cidades, descobrimos que não passamos de um bairro ou distrito dessa metacidade mundial cujo hipercentro é afetado pelo sistema da CrowdStrike. Vimos que a hiperconcentração dos meios de segurança é catastrófica e a necessidade geopolítica de nossa época é, justamente, fugir dessa concentração dos meios: basta ver que outras plataformas alternativas, como a Linux, não foram atingidas pelo crash informático. Virilio afirma que em uma das famosas antevisões de Leonardo Da Vinci encontra-se uma do fim do mundo por submersão nas águas ou nas ondas, e talvez, “o velho mestre italiano tenha se enganado por pouco” (Virilio, p.31). É uma ironia, para dizer agora que o fim do mundo chega por ondas digitais, perigo de uma bomba informática capaz de desintegrar a paz do planeta e que não vem do ciberterrorismo como imaginava Virilio no distante ano de 1998, dos militantes do extremo oriente, e nem dos “pequenos businessmen sem fé nem lei” (Virilio, p.65), prontos para aniquilar a concorrência, e nem mais dos milhares de spam de publicidade que recebemos, mas de falhas do próprio sistema que acreditavam ser perfeito.

Tecnologias sistêmicas trazem riscos sistêmicos, afirma Virilio. A bomba informática encarnada no colapso dos sistemas do dia 19 mostrou a todos que precisamos da instauração de uma dissuasão. Como nossas redes de energia elétrica, temos medo de um incêndio e precisamos de fusíveis automáticos que nos alertem de que o sistema está prestes a ruir por superaquecimento. A internet também produz o pânico, e a partir de agora ela está, junto com a crise econômica, as mudanças climáticas, as catástrofes e novas pandemias, no horizonte das coisas que produzem medo. O crash do dia 19 incluiu a internet no conjunto de nossos medos constantes. Sua força, que está na abolição das distâncias que provoca, que nos faz ficar conectados 24 horas por dia, também está na origem do medo. Agora, a crise da internet produz um profundo mal estar, pois afeta nossa relação com o mundo. A (ausência de) internet produz medo.

Temos medo de ficar sem internet. Virilio tratou do tema em outra obra La Administración del miedo. O retorno do medo, seja individual ou coletivo, é uma característica representativa de nossa época. É, primeiro, o retorno de um infantilismo, já que, como adultos, deveríamos ter superado os medos infantis para nos tornarmos adultos. Mas Virilio prefere procurar as causas em outro lugar e encontra o medo no debilitamento das instituições que deviam proteger o indivíduo. A novidade agora é que não se trata de uma fraqueza do estado de bem-estar social, já que a internet está longe de ser totalmente controlada pelos mecanismos de regulação, ainda em construção. Se trata de a própria ciência ter capacidade de garantir a felicidade e a segurança da humanidade. Começamos a ter medo da internet quando descobrimos toda a vastidão dos crimes online, da pornografia virtual e do deep web. Mas esses mundos só eram encontrados por quem buscava intencionalmente navegar por eles. Agora não: o que causa medo não é a desaparição de nosso planeta, mas da própria internet, da qual somos todos adictos.

O planeta ficou menor, diz Virilio. Hoje há menos espaços de fuga por causa da pressão de viver o tempo instantaneamente. Mas se só podemos o “aguarde um pouco, o sistema vai voltar”, não estamos abordando suas causas, apenas administrando o nosso medo de ficar sem internet. Sonhamos com um lugar que não existe, o mundo fora das redes, fora dos bits de informação. A verdadeira causa do medo está no fato de que vivemos em um regime de informação – “chamamos regime de informação a forma de dominação na qual informações e seu processamento por algoritmos e inteligência artificial determinam decisivamente processos sociais, econômicos e políticos. Em oposição ao regime disciplinar, não são corpos e energias que são explorados, mas informações e dados”: assim inicia Infocracia, obra de Byung-Chul Han dedicada a mostrar como a digitalização se constitui, hoje, num dos pilares da crise da democracia.

É que quem tem informação tem poder. Han avança nas teses de Michel Foucault de Microfisica do Poder para sugerir que a CrowdStrike tem poder porque domina os meios de vigilância e controle dos sistemas operacionais que utilizamos. Sem acesso à rede mundial de computadores nos amontoamos nos terminais dos aeroportos. Por isso o capitalismo de informação é cruel, “degrada os seres humanos em gado, em animais de consumo de dados” diz Han (p. 7). Ninguém se dá conta do quanto somos dominados pelo capitalismo nesse momento? Todos ali, parados nas filas dos aeroportos, esperando o sistema voltar: não é esta a versão atualizada dos corpos dóceis de Michel Foucault? Agora não é a forma de sua versão digital? Não é preciso mais as técnicas de Foucault de isolação espacial e adestramento corporal, tão bem descritas em Vigiar e Punir, basta que sejamos obedientes para aguardar a volta do “sistema”. Não é preciso estar isolado, como dizia Foucault, para estar em um meio de dominação, como previa o panóptico. O isolamento agora acontece por meio de dados: na multidão dos aeroportos é que estamos isolados.

Han desenvolve as teses foucaultianas e, de certa forma, escreve a obra que teria escrito Foucault se ainda estivesse vivo. É verdade que a tese do capitalismo de informação não é de Han, mas de Shoshana Zuboff que, em seu A Era do capitalismo de vigilância (Intrínseca, 2020), estabelece a arquitetura total desse regime que modifica nosso comportamento e impacta nosso modo de vida à semelhança da Revolução Industrial Inglesa do século XIX. É sob a forma de arquitetura digital onipresente que as empresas como CrowdStrike adquirem tanto poder. Antes do dia 19, ninguém sabia que a empresa existia e que tinha tamanho poder. Bastou uma “falha de sistema” para que o mundo ficasse sabendo de sua existência. No entanto, empresas como CrowdStrike passaram de um faturamento global de 1,6 bilhão para 18,15 bilhões nos últimos quatro anos. Só a fortuna de seu presidente é estimada em 16 bilhões. Empresas como ela há muito tempo deviam estar sob a vista do Estado, pelo custo que suas possíveis falhas poderiam impor à democracia, à liberdade. Quanto mais a informação se concentra em sua forma planetária, mais frouxos ficam os mecanismos que deveriam fazer o seu controle. Isto é trágico.

CrowdStrike ampliou em escala seus lucros ao integrar inteligência artificial (IA) em suas soluções de segurança. Han afirma que o problema de termos uma fé inabalável nela é que a IA não se comove. Sua forma de aprendizado é artificial, seu programa Falcon Discovery apenas monitora e verifica aplicações não autorizadas. Ele é incapaz de aprender com o caos e a infelicidade dos cidadãos que suas falhas produzem. Pensamos que a IA é melhor porque é digital e que o pensamento é inferior porque é analógico. É o contrário, pois só o segundo é capaz de aprender pela comoção da vida. Milhões de pessoas vítimas da falha do sistema não têm sentido para o Falcon Discovery. É por isso que analistas já afirmam que problemas como esses começam a ser comuns no caos informático que virá como as enchentes provocadas pelo caos climático atual.

A conclusão é que estamos entregando nosso destino a dispositivos informáticos, mas nos esquecemos, como afirma Han, de que a inteligência artificial não tem coração “o pensar com o coração avalia e sente os espaços antes de trabalhar os conceitos. Nisso ele se distingue do calcular, que não necessita espaço” (Han, p. 77). No conhecimento absoluto em que vivem os big data, onde tudo é previsível e calculado, ela é incapaz de lidar com fatos novos. Para Han, seu saber, ao contrário do que se pensa, é rudimentar, pois não é baseado em conceitos, mas em correlações. E o problema é justamente que o pensamento humano está sendo rebaixado ao seu nível: somente o homem, refletindo sobre o significado do crash do dia 19, pode imaginar o futuro. A IA só pode aprender com o passado “ela é cega para eventos”, diz Han. Para mim, o ato verdadeiramente revolucionário, no momento da crise, ainda foi a retomada da escrita. Nesse instante, alguém pensou e mudou aquele mundo caótico. O gesto ensina que somos mais do que cálculo e solução de problemas, que somos capazes de iluminar o mundo frente à escuridão que a ausência de dados provoca. Finaliza Han que “acima de tudo, a inteligência da máquina representa o perigo de que o pensar humano se iguale a ele e se torne como a própria máquina” (Han, p. 82). (Original do Sul 21, em 22/07/2024)

***
Os artigos representam a opinião dos autores e não necessariamente do Conselho Editorial do Terapia Política. 

Ilustração: Mihai Cauli  e  Revisão: Celia Bartone
Leia também “Brasil Paralelo: epicentro da guerra cultural de Bolsonaro“, por Bernardo Gutierrez.