Yuval Noah Harari: a IA pode ser um erro terminal ou o início de um novo capítulo na evolução humana

Na segunda-feira, 17 de setembro, quatro dos cientistas de inteligência artificial (IA) mais influentes do mundo defenderam a criação de uma organização internacional para monitorar os riscos potencialmente graves oferecidos pela tecnologia, que eles próprios ajudaram a criar.

Para o britânico Stuart Russell, o chinês Andrew Yao, o canadense Yoshua Bengio e o sino-americano Ya-Qin Zhang, dada a velocidade de desenvolvimento da ferramenta, em poucos anos, “a perda de controle humano ou o uso malicioso de sistemas de IA pode levar a resultados catastróficos para toda a humanidade”.

Essa mesma preocupação permeia o livro Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, de Yuval Noah Harari.

Ph.D. em história pela Universidade de Oxford, professor na Universidade Hebraica de Jerusalém e autor do best-seller mundial Sapiens e de Homo Deus, ele é taxativo: apesar de todas nossas descobertas e conquistas, estamos diante de uma crise sem precedentes, com um colapso ambiental iminente e desinformação correndo solta. E, sem um controle ético, a IA pode piorar tudo isso. Em vários sentidos. Até mesmo político.

Harari fundamenta sua tese a partir da análise dos últimos 100 mil anos — da Pré-História ao ressurgimento do populismo hoje, passando pela canonização da Bíblia, pelas primeiras caças às bruxas, pelo stalinismo e pelo nazismo. Nexus nos convida a examinar a complexa relação entre informação e verdade, burocracia e mitologia, sabedoria e poder.

Se não quisermos entregar o poder a um líder carismático ou a uma IA inescrutável, é preciso primeiro compreender mais profundamente o que é informação e como ela ajuda a construir as redes humanas. “Os populistas têm razão em desconfiar da noção ingênua da informação, mas estão errados em pensar que o poder é a única realidade e que a informação é sempre uma arma.”

Entre outros pontos, Harari examina dois princípios essenciais para as redes de informação em larga escala: a mitologia e a burocracia. E mostra como, desde os reinos antigos aos Estados atuais, elas dependem tanto dos criadores de mitos quanto dos burocratas.

Nesse sentido, as estórias da Bíblia são um bom exemplo. Elas foram essenciais para construção e consolidação da Igreja cristã, mas não existiria escritura alguma se burocratas não tivessem se encarregado da curadoria, da edição e da disseminação dos mitos.

Para Harari, a análise histórica é fundamental para se entender os desenvolvimentos atuais e os cenários futuros. “Pode-se afirmar que o surgimento da IA é a maior revolução da informação na história. Mas só é possível entendê-la se a compararmos a suas antecessoras. A história não é o estudo do passado; é o estudo da mudança. A história nos ensina o que permanece igual, o que muda e como as coisas mudam”.

Assim, entender o processo pelo qual a Bíblia, alegadamente infalível, foi canonizada oferece uma percepção valiosa sobre as atuais alegações de infalibilidade da IA. De maneira análoga, o estudo da caça às bruxas no começo da era moderna e da coletivização de Stalin fornece enfáticos alertas sobre os possíveis descalabros se dermos às IAs um controle maior sobre as sociedades do século 21, escreve Harari.

“O ponto central para escrever este livro é que, ao fazermos escolhas conscientes, podemos evitar os desfechos mais desastrosos. Se não pudermos mudar o futuro, por que perder tempo discutindo sobre ele?”, provoca.

Este parece ser um momento capital para a humanidade. Estamos criando um tipo totalmente novo de rede de informação, sem pararmos para pensar em suas implicações. Enfatiza-se a mudança das redes orgânicas para as inorgânicas. De um lado está o cérebro humano, à base de carbono, e do outro, a IA, com seus chips de silício.

Bem ou mal, diz o historiador, os chips de silício estão isentos de muitas das limitações impostas aos seres humanos pela bioquímica orgânica. Eles podem criar espiões que nunca dormem, financistas que nunca esquecem e déspotas que nunca morrem. Como isso mudará a sociedade, a economia e a política?

Na última parte do livro, chamada Política computacional, Harari examina como as sociedades podem lidar com as ameaças e as promessas da rede de informação inorgânica.

“As formas de vida à base de carbono, como nós, terão chance de entender e controlar a nova rede de informação?”, pergunta ele. “Como dito anteriormente, a história não é determinista, e pelo menos por mais alguns anos nós, sapiens, ainda teremos o poder de moldar nosso futuro”.

A boa notícia é que, se evitarmos o comodismo e a desesperança, somos capazes de chegar ao equilíbrio: “Não é uma questão de inventar alguma outra tecnologia milagrosa ou de topar com uma ideia brilhante que, de alguma maneira, havia escapado a todas as gerações anteriores. Em vez disso, para criarmos redes mais sábias, devemos abandonar tanto a noção ingênua quanto a visão populista da informação”.

É urgente deixar de lado as fantasias de infalibilidade e nos engajarmos a sério na tarefa árdua e um tanto prosaica de construir instituições com sólidos mecanismos de autocorreção. “Essa talvez seja a conclusão mais importante que este livro tem a oferecer”, escreve. Harari lembra que tal sabedoria é bem mais antiga do que a história humana. E elementar, o fundamento da vida orgânica.

Afinal, os primeiros organismos não foram criados por algum gênio ou deus infalível. Surgiram por um intrincado processo de tentativa e erro.

Tanto que, ao longo de 4 bilhões de anos, mecanismos cada vez mais complexos de mutação e autocorreção levaram à evolução do planeta e dos seres humanos.

“Agora, convocamos uma inteligência inorgânica (IA) estranha que pode escapar a nosso controle e pôr em risco não só nossa espécie, como também inúmeras outras formas de vida”, escreve  Harari.

E, como ele defende, as decisões de agora determinarão se a convocação dessa inteligência estranha se revelará  um erro terminal ou o início de um novo e promissor capitulo na história da humanidade.