sexta-feira, 5 de julho de 2019

Liberdade pessoal e os perigos da ditadura digital


Marcelo Gleiser, trecho do livro "O Caldeirão Azul" (Record, 2019)
Imagem: Internet

Será que a humanidade está criando o seu próprio fim? Será que somos umas das últimas gerações da espécie Homo sapiens que, em breve, será suplantada por seres cibernéticos que mal se parecem com seus criadores (nós)?

No dia 24 de janeiro, o historiador e autor Yuval Harari apresentou sua visão do futuro no Fórum Mundial de Economia em Davos, na Suíça. Harari é famoso no Brasil por seus best-sellers "Sapiens - Uma Breve História da Humanidade" e "Homo Deus - Uma Breve História do Amanhã".

Em uma apresentação fascinante, Harari construiu um futuro terrível —mas possível— baseado em sua tese de que estamos agora na terceira grande revolução, o controle de dados, que segue o controle da terra (Revolução Agrária) e o controle das máquinas (Revolução Industrial).

O fim da nossa espécie, segundo ele, ocorrerá quando for possível extrair de cada indivíduo dados biométricos de alta precisão que serão, então, analisados por um sistema centralizado de decisões controlado por governos ou corporações (ou ambos).

Dados biométricos incluem, por exemplo, o seu batimento cardíaco, pressão arterial, composição do suor, dilatação das pupilas etc. Uma espécie de detector de mentiras de alta sofisticação que permite mapear fisiologicamente suas emoções.

Imagine, sugeriu Harari, que o governo da Coreia do Norte force seus cidadãos a usar um bracelete que transmite dados biométricos aos centros de dados do governo. Com isso, o governo poderá monitorar o que as pessoas pensam do seu líder e, essencialmente, como vivem o seu dia a dia. Poderão até saber mais sobre você do que você mesmo, visto que muitas vezes nem sabemos o que está ocorrendo com nossas emoções.

A visão de Harari ecoa, com tons de historiador, a “singularidade” do inventor americano Ray Kurzweil, sem a expectativa um tanto romântica de Kurzweil de que a tecnologia nos trará a imortalidade. (Ao menos, uma versão de imortalidade, com nossa essência, a informação de quem somos, transferida a computadores com capacidade de emular nosso consciente.) Convido os leitores que queiram saber mais sobre Kurzweil a assistir o documentário "Transcendent Man".

A ideia central de Harari é que estamos próximos a conseguir modificar o “programa da vida”. Se pensarmos em organismos como sendo algoritmos, basta termos capacidade de computação e dados biométricos suficientes para criarmos qualquer tipo de criatura viva.

Afinal, se a vida é como um programa de computador (o software) que roda nas reações bioquímicas que definem nosso metabolismo (o hardware), podemos modificar o programa e criar novos algoritmos correspondendo a outros tipos de criatura. Juntando a isso os avanços na área da inteligência artificial, podemos contemplar o fim da nossa espécie, que se tornaria obsoleta.

Outro modo de ver isso: pela primeira vez na história, podemos controlar as rédeas da evolução, que deixa de depender da seleção natural.

A questão essencial, portanto, é: Quem controlará esses dados? Como que esta nova fonte de riqueza será regulada? Temos leis que regulam a possessão da terra e das máquinas. Quais as leis que regulam os dados e a privacidade das pessoas?

Harari especula que a maioria das pessoas doará suas informações privadas de graça, seus dados biométricos, especialmente em troca de uma saúde melhor. Ou, em uma ditadura, talvez não tenham outra opção.

Ou ainda, e mais pertinente com o que já está acontecendo, pessoas fornecem dados biométricos em troca de serviços oferecidos por empresas: “Receba suas entregas de graça em casa e muitas outras ofertas se você nos passar os dados biométricos registrados no seu relógio esportivo ou Fit-Bit”.

Harari é corretamente vago ao prever quando isso vai ocorrer: décadas, talvez um século. Mas na sua visão, como na de Kurzweil, esse futuro é inevitável.

Obviamente, ninguém pode prever o futuro. O que podemos fazer é extrapolar o que sabemos no presente da melhor forma possível.

Não há dúvida de que computadores serão cada vez mais poderosos, e que a genética e a bioengenharia continuarão a avançar rapidamente. A ciência de dados (do inglês data science), que atende principalmente aos interesses de empresas e governos, vai ficar cada vez mais sofisticada. Forças de mercado e a gana de investidores vão continuar a alimentar a nova revolução.

Será que não existem outras tendências, capazes de equilibrar essa inevitabilidade?

Felizmente, acho que sim.

Os tempos estão mudando de várias formas. Em primeiro lugar, estamos testemunhando o surgimento da ética empresarial. Um número cada vez maior de empresas está percebendo que se não alinharem seus valores com os dos seus clientes, irá perdê-los.

Um exemplo recente nos EUA é o boicote de várias empresas à Associação Nacional do Rifle, que defende o direito do cidadão ao porte de armas de fogo. (Lamentavelmente, um projeto do Senado propõe a revogação do Estatuto do Desarmamento no Brasil. Não existe um modelo pior do que o americano a ser copiado, vide os constantes massacres em escolas e lugares públicos.)

O consumidor tem poder, mais do que imagina. Empresas e instituições com padrões éticos baixos podem ser forçados a mudar de posição.

Outro ponto é que a ciência tem limites, em particular do quanto podemos saber do mundo e de nós mesmos. Essa convicção, inclusive de Harari, de que a ciência irá saber tudo, conquistar tudo, não tem nenhum respaldo na prática ou historicamente.

A onisciência é reservada aos deuses. A tecnologia é limitada, mesmo se avança sempre. Monitorar a atividade de 85 bilhões de neurônios e dos neurotransmissores fluindo através de trilhões de sinapses é impossível. No máximo, podemos ter um mapa incompleto do que ocorre no nosso corpo e cérebro.

Harari parece confundir o mapa (como descrevemos o mundo) com o território (o mundo como ele é de fato), um erro típico de uma cultura que defende o triunfalismo científico como uma espécie de nova religião.

Nossa percepção da realidade depende de como vemos o mundo. A ciência jamais responderá todas as perguntas. Pelo contrário, no seu avanço, encontra novas perguntas que não poderia ter antecipado.

De qualquer forma, mesmo com dados biométricos limitados, governos e empresas podem causar sérios danos.

Concordo com Harari que precisamos começar essa conversa sobre nosso futuro coletivo imediatamente. Concordo, também, que de forma alguma essa conversa pode ser relegada a políticos, que tipicamente pouco ou nada sabem sobre avanços científicos.

Quem, então, irá controlar o armazenamento de dados pessoais? Quais os limites e salvaguardas que devem ser impostos para garantir nossa liberdade na era da ditadura digital?

Precisamos de uma pluralidade de opiniões: cientistas, humanistas, empresários, artistas, advogados, líderes comunitários. O perigo maior é a apatia, é o não fazer nada. Historicamente, as maiores tensões ocorreram quando o controle da terra e das máquinas ficou na mão de poucos. Com dados, temos o mesmo desafio, e com um bem muito mais fluido, muito mais difícil de controlar.

No meio tempo, tenha cuidado com os seus dados biométricos. Aqueles que você capta no seu Fit-Bit ou relógio esportivo e divide inocentemente na rede, achando que só você e seus amigos se importam com eles.

Nenhum comentário:

Postar um comentário