Um conceito que temos enraizado profundamente em nossa forma de pensar e que poucas pessoas já pararam para questionar é o do progresso contínuo da humanidade. Parece natural esperar que, a cada ano, os avanços da técnica representem evolução recorrente em qualquer área, seja na área da saúde, na engenharia, ou na tecnologia da informação. Entretanto, o que dizer de nossa compreensão real das tecnologias que embasam essa evolução? Ou ainda, quais os efeitos e impactos destas tecnologias sobre o ambiente e as sociedades no médio e longo prazos?
Os reflexos indesejáveis dos avanços da técnica e suas consequências reais ou potenciais são o tema do livro “A Nova Idade das Trevas - a Tecnologia e o Fim do Futuro”, de James Bridle (Todavia, 2018). Bridle é jornalista e escritor e colabora com veículos como o The Guardian, Atlantic e a Wired e conseguiu escrever um livrinho bem interessante e perturbador sobre o assunto.
Um dos pontos centrais do texto está na crítica à “opacidade” inerente aos sistemas de computação complexos, especialmente dos sistemas distribuídos (em rede). Como exemplo: um engenheiro mecânico que usa hoje uma ferramenta computacional de análise estrutural por elementos finitos para avaliar a resistência de uma peça automotiva que esteja projetando, compreende melhor ou pior os fenômenos físicos reais envolvidos na análise do que um engenheiro da década de 80 que não dispunha desse ferramental? Até que ponto o uso da ferramenta deixa a análise mais nítida e simples? Até que ponto o conhecimento fundamental envolvido na análise não passou a ficar concentrado apenas nas mãos dos poucos especialistas responsáveis projetar e implementar os algoritmos em que o software se baseia, em vez de compartilhado entre os milhares de usuários da ferramenta, que acabam tendo apenas uma noção superficial dos conceitos envolvidos? Um dos maiores especialistas brasileiros nesta área da engenharia costuma afirmar repetidamente que “se o engenheiro não sabe modelar o problema sem ter o computador, não deve fazê-lo tendo o computador”, mas receio que ele seja minoria. Nas palavras de Bridle:
“Aquilo que a computação busca mapear e modelar, ela acaba dominando. O Google se determinou a indexar todo o conhecimento humano e se tornou fonte e árbitro do conhecimento: tornou-se o que as pessoas pensam. O Facebook se determinou a mapear as conexões entre as pessoas – o grafo social – e se tornou a plataforma para essas conexões, reformatando irrevogavelmente as relações sociais. Assim como um sistema de controle aéreo que confunde uma revoada de pássaros com uma esquadra de bombardeiros, o software é incapaz de distinguir entre seu modelo de mundo e a realidade – e, uma vez condicionados, nós também não.”
Dado o grau de integração entre diferentes sistemas complexos e a intensidade destas interações, os sistemas computacionais são hoje complicados demais para que uma pessoa possa ter uma visão do panorama total – em grande medida, em qualquer projeto de sistema computacional, faz-se uso de componentes e módulos que operam como “caixas pretas”, que recebem entradas, resolvem problemas específicos e retornam saídas para o sistema principal, mas que não foram desenvolvidos e codificados pela mesma empresa que os aplica. Ou seja, a fé no desempenho adequado de cada módulo é um pré-requisito para o seu uso e para o sistema de forma geral. Esse modelo de pensamento de confiança a priori no software é a base para um viés cognitivo que nos leva a considerar que respostas automatizadas seriam inerentemente mais confiáveis que as não automatizadas – o viés da automação. Você já experimentou isso quando digitava um texto que sofreu uma correção ortográfica sobre a qual tinha dúvidas, mas que aceitou. Também experimentou quando deixou que o Waze o guiasse por um caminho pior do que o que faria normalmente. É o responsável, entre outras coisas, também por um número significativo de acidentes de aviação e motivo de preocupação crescente por parte das companhias aéreas.
O segundo ponto abordado por Bridle diz respeito ao clima, mais especificamente às consequências do aquecimento global e do aumento da concentração de CO2 na atmosfera. São abordadas algumas consequências pouco discutidas do aumento da temperatura e das quais poucas pessoas fora da comunidade científica têm conhecimento. Uma exemplo diz respeito ao derretimento de áreas congeladas a séculos, como o permafrost siberiano: no verão de 2016, o derretimento inédito de uma área na península de Yamal causou a exposição de carcaças de renas enterradas sob o permafrost. As carcaças estavam infectadas com bactérias antraz, que ficaram dormentes até serem novamente, causando um surto na região que levou à morte de uma criança e hospitalização de mais de 40 pessoas.
Outras consequências dizem respeito a aspectos tão variados quanto a queda no desempenho das transmissões sem fio, riscos para aviação em função do aumento de áreas de turbulência e um dos mais perturbadores de todos: a queda da capacidade cognitiva em função do aumento da concentração de CO2. A concentração de CO2 na atmosfera antes da revolução industrial variava entre 275 e 285 ppm, tendo começado a subir desde então e atingido 310 ppm em torno de 1950 e 400 ppm em 2015. Em um ambiente com uma concentração de 1.000 ppm de CO2, a capacidade cognitiva humana cai 21%. Pode-se considerar que ainda estaríamos longe disso e que não há garantias de que o ritmo de aumento irá se manter, mas fica a observação de que estamos falando de concentração em espaços abertos – em salas de aula de algumas escolas na California e no Texas já chegou-se a medir concentrações de 2.000 ppm ainda em 2012.
Segundo o filósofo Timothy Morton, o aquecimento global é um “hiperobjeto”: algo que nos envolve e afeta, mas que é tão grande que se torna impossível de ver por completo. Apenas podemos perceber os hiperobjetos por meio de suas influências nas coisas. Por estarem próximos demais e ainda assim tão difíceis de enxergar, são difíceis de dominar e controlar e requerem uma quantidade enorme de computação para modelar.
É um conceito interessante. Talvez ajude a explicar a ainda grande resistência em se aceitar a realidade do aquecimento global, mesmo dada a enorme quantidade de estudos indicando o fenômeno. Quando olhamos para a abundância de informações que nos foi tornada acessível pelo advento na Internet sobre esse e uma infinidade de outros temas, seria de se esperar que o acesso generalizado a vastos repositórios de conhecimento iluminaria o mundo e colaboraria para a solução dos problemas. Curiosamente, entretanto, em vez da emergência de um consenso coerente, o que se viu foi o despertar de narrativas fundamentalistas simplistas, teorias da conspiração e pós-verdades.
Além dos dois pontos que abordei acima (opacidade dos sistemas computacionais complexos e efeitos climáticos negativos da atividade humana), o livro aborda ainda uma série de outras questões, como a queda na eficiência no desenvolvimento de pesquisas de medicamentos, o aumento do poder das burocracias e o uso excessivo de dispositivos eletrônicos por crianças para traçar uma perspectiva preocupante de futuro, ao considerar a confluência de todos estes fenômenos em um mesmo momento histórico. É exageradamente pessimista em alguns trechos e faz algumas extrapolações questionáveis, mas traz uma visão diferente de alguns tópicos sobre os quais pensamos pouco no dia-a-dia, mas que realmente mereceriam pelo menos um pouco mais de atenção.
Os reflexos indesejáveis dos avanços da técnica e suas consequências reais ou potenciais são o tema do livro “A Nova Idade das Trevas - a Tecnologia e o Fim do Futuro”, de James Bridle (Todavia, 2018). Bridle é jornalista e escritor e colabora com veículos como o The Guardian, Atlantic e a Wired e conseguiu escrever um livrinho bem interessante e perturbador sobre o assunto.
Um dos pontos centrais do texto está na crítica à “opacidade” inerente aos sistemas de computação complexos, especialmente dos sistemas distribuídos (em rede). Como exemplo: um engenheiro mecânico que usa hoje uma ferramenta computacional de análise estrutural por elementos finitos para avaliar a resistência de uma peça automotiva que esteja projetando, compreende melhor ou pior os fenômenos físicos reais envolvidos na análise do que um engenheiro da década de 80 que não dispunha desse ferramental? Até que ponto o uso da ferramenta deixa a análise mais nítida e simples? Até que ponto o conhecimento fundamental envolvido na análise não passou a ficar concentrado apenas nas mãos dos poucos especialistas responsáveis projetar e implementar os algoritmos em que o software se baseia, em vez de compartilhado entre os milhares de usuários da ferramenta, que acabam tendo apenas uma noção superficial dos conceitos envolvidos? Um dos maiores especialistas brasileiros nesta área da engenharia costuma afirmar repetidamente que “se o engenheiro não sabe modelar o problema sem ter o computador, não deve fazê-lo tendo o computador”, mas receio que ele seja minoria. Nas palavras de Bridle:
“Aquilo que a computação busca mapear e modelar, ela acaba dominando. O Google se determinou a indexar todo o conhecimento humano e se tornou fonte e árbitro do conhecimento: tornou-se o que as pessoas pensam. O Facebook se determinou a mapear as conexões entre as pessoas – o grafo social – e se tornou a plataforma para essas conexões, reformatando irrevogavelmente as relações sociais. Assim como um sistema de controle aéreo que confunde uma revoada de pássaros com uma esquadra de bombardeiros, o software é incapaz de distinguir entre seu modelo de mundo e a realidade – e, uma vez condicionados, nós também não.”
Dado o grau de integração entre diferentes sistemas complexos e a intensidade destas interações, os sistemas computacionais são hoje complicados demais para que uma pessoa possa ter uma visão do panorama total – em grande medida, em qualquer projeto de sistema computacional, faz-se uso de componentes e módulos que operam como “caixas pretas”, que recebem entradas, resolvem problemas específicos e retornam saídas para o sistema principal, mas que não foram desenvolvidos e codificados pela mesma empresa que os aplica. Ou seja, a fé no desempenho adequado de cada módulo é um pré-requisito para o seu uso e para o sistema de forma geral. Esse modelo de pensamento de confiança a priori no software é a base para um viés cognitivo que nos leva a considerar que respostas automatizadas seriam inerentemente mais confiáveis que as não automatizadas – o viés da automação. Você já experimentou isso quando digitava um texto que sofreu uma correção ortográfica sobre a qual tinha dúvidas, mas que aceitou. Também experimentou quando deixou que o Waze o guiasse por um caminho pior do que o que faria normalmente. É o responsável, entre outras coisas, também por um número significativo de acidentes de aviação e motivo de preocupação crescente por parte das companhias aéreas.
O segundo ponto abordado por Bridle diz respeito ao clima, mais especificamente às consequências do aquecimento global e do aumento da concentração de CO2 na atmosfera. São abordadas algumas consequências pouco discutidas do aumento da temperatura e das quais poucas pessoas fora da comunidade científica têm conhecimento. Uma exemplo diz respeito ao derretimento de áreas congeladas a séculos, como o permafrost siberiano: no verão de 2016, o derretimento inédito de uma área na península de Yamal causou a exposição de carcaças de renas enterradas sob o permafrost. As carcaças estavam infectadas com bactérias antraz, que ficaram dormentes até serem novamente, causando um surto na região que levou à morte de uma criança e hospitalização de mais de 40 pessoas.
Outras consequências dizem respeito a aspectos tão variados quanto a queda no desempenho das transmissões sem fio, riscos para aviação em função do aumento de áreas de turbulência e um dos mais perturbadores de todos: a queda da capacidade cognitiva em função do aumento da concentração de CO2. A concentração de CO2 na atmosfera antes da revolução industrial variava entre 275 e 285 ppm, tendo começado a subir desde então e atingido 310 ppm em torno de 1950 e 400 ppm em 2015. Em um ambiente com uma concentração de 1.000 ppm de CO2, a capacidade cognitiva humana cai 21%. Pode-se considerar que ainda estaríamos longe disso e que não há garantias de que o ritmo de aumento irá se manter, mas fica a observação de que estamos falando de concentração em espaços abertos – em salas de aula de algumas escolas na California e no Texas já chegou-se a medir concentrações de 2.000 ppm ainda em 2012.
Segundo o filósofo Timothy Morton, o aquecimento global é um “hiperobjeto”: algo que nos envolve e afeta, mas que é tão grande que se torna impossível de ver por completo. Apenas podemos perceber os hiperobjetos por meio de suas influências nas coisas. Por estarem próximos demais e ainda assim tão difíceis de enxergar, são difíceis de dominar e controlar e requerem uma quantidade enorme de computação para modelar.
É um conceito interessante. Talvez ajude a explicar a ainda grande resistência em se aceitar a realidade do aquecimento global, mesmo dada a enorme quantidade de estudos indicando o fenômeno. Quando olhamos para a abundância de informações que nos foi tornada acessível pelo advento na Internet sobre esse e uma infinidade de outros temas, seria de se esperar que o acesso generalizado a vastos repositórios de conhecimento iluminaria o mundo e colaboraria para a solução dos problemas. Curiosamente, entretanto, em vez da emergência de um consenso coerente, o que se viu foi o despertar de narrativas fundamentalistas simplistas, teorias da conspiração e pós-verdades.
Além dos dois pontos que abordei acima (opacidade dos sistemas computacionais complexos e efeitos climáticos negativos da atividade humana), o livro aborda ainda uma série de outras questões, como a queda na eficiência no desenvolvimento de pesquisas de medicamentos, o aumento do poder das burocracias e o uso excessivo de dispositivos eletrônicos por crianças para traçar uma perspectiva preocupante de futuro, ao considerar a confluência de todos estes fenômenos em um mesmo momento histórico. É exageradamente pessimista em alguns trechos e faz algumas extrapolações questionáveis, mas traz uma visão diferente de alguns tópicos sobre os quais pensamos pouco no dia-a-dia, mas que realmente mereceriam pelo menos um pouco mais de atenção.
