Na semana passada, um turista suíço levou um tiro no peito após entrar, por orientação do GPS do seu carro, na favela da Cidade Alta, na zona norte do Rio de Janeiro. Não se trata de um episódio isolado, nem no Brasil nem no mundo, e poderia ter engrossado as estatísticas do que James Bridle chama de “morte por GPS” em “A nova idade das trevas – A tecnologia e o fim do futuro” (Todavia, 320 pgs. R$ 69,90). O fenômeno é apenas um dos efeitos colaterais das relações perigosas que se estabelecem, cada vez mais, entre os seres humanos e a tecnologia, um dos temas do livro.
Embora não utilize essa expressão, o que Bridle, jornalista e artista visual britânico, tenta demonstrar é que estamos vivendo um processo de “reencantamento” do mundo, no mau sentido: delegamos a mecanismos cujo funcionamento não compreendemos o poder de orientar nosso comportamento e nossas decisões cotidianas. Preferimos acreditar na tecnologia que em nossos próprios sentidos. O Big Data nos leva a entregar nossas vidas aos algoritmos da mesma forma que o homem primitivo entregava seu destino a forças sobrenaturais.
Esse paradoxo aparente – quanto mais informações podemos acessar, menos entendemos a realidade à nossa volta – é a tese central do livro, sua premissa e também sua conclusão. É nesse sentido que estaríamos mergulhando em uma nova idade das trevas: “Estamos hoje conectados a vastos repositórios de conhecimento, e ainda assim não aprendemos a pensar”, escreve o autor, que denuncia o domínio crescente do “pensamento computacional” na sociedade.
O mais grave é que essa crença cega na tecnologia e no poder da computação não afeta somente escolhas individuais de pouca monta, como decisões de compra ou aplicações no mercado financeiro, mas também as respostas às grandes questões sociais, econômicas e ambientais do nosso tempo.
Segundo Bridle, a inteligência artificial contaminou todo o conhecimento: seja qual for a área, não existe hoje um só indivíduo que tenha uma visão abrangente do processo decisório, a ponto de não mais se saber quem verdadeiramente toma as decisões, se o ser humano ou a máquina. Isso é potencialmente desastroso porque, evidentemente, muitas questões relevantes para a sociedade não são quantificáveis, pois envolvem questões morais que nenhum computador será capaz de resolver
“Aquilo que a computação busca mapear e modelar, ela acaba dominando”, afirma Bridle. “O Google indexou todo o conhecimento humano e se tornou fonte e árbitro desse conhecimento: o que as pessoas sabem e pensam passa pelo Google. O Facebook não apenas mapeia as relações entre as pessoas: ele se torna a plataforma principal para essas relações”.
O autor demonstra de forma convincente que a inferência estatística vem acabando com o conhecimento especializado e com o pensamento crítico, para dar lugar enormes quantidades de dados brutos: “Esta é a magia do Big Data: você não tem que conhecer nem entender nada sobre o que estuda: é só depositar toda a sua fé na verdade emergente da informação digital”.
Perdidos em um mar de informações e narrativas contraditórias, divididos por crenças fundamentalistas e teorias conspiratórias e tendo que lidar com a pós-verdade e o colapso dos consensos que sustentavam o convívio social, acabamos sendo guiados por algoritmos da
internet. Nossa vida em sociedade é mediada pela conectividade e policiada por processos computacionais opacos e ocultos. Não somente as nossas crenças e valores, mas a própria geografia do poder e a própria estrutura social contemporânea, afirma o autor, são cada vez mais determinadas por sistemas computacionais complexos.
Apesar de não fazermos a menor ideia de como esses sistemas funcionam, somos levados a acreditar no potencial inerentemente emancipatório da tecnologia, com consequências imprevisíveis e perigosas. As pessoas tendem a gastar o mínimo de esforço cognitivo para tomar suas decisões, mas as consequências podem ser trágicas, no futuro.
Além da “morte por GPS”, Bridle oferece aos “tecno-pessimistas” motivos de sobra para se preocupar: por exemplo, ele afirma que a atomização dos indivíduos destrói os laços comunitários, isolando as pessoas em bolhas – realizando o que Christopher Lasch chamava de “mínimo eu”.
Mas, ao mesmo tempo, o autor busca apontar na nova idade das trevas oportunidades de crescimento, ou seja: fica no meio do caminho entre uma perspectiva apocalítica e integrada, para usar o conceito de Umberto Eco.
Além disso, Bridle não aprofunda muito suas teses: a cada capítulo ele reitera seus alertas, reunindo exemplos que reforçam os riscos do pensamento computacional e da abdicação do pensamento crítico. Nesse sentido, seu livro promete menos do que entrega, mas ainda assim é uma leitura interessante.