A IA invadiu o sistema operacional da civilização humana

Por Yuval Noah Harari, via The Economist, traduzido por Maria Eugênya Pacioni, 

O que poderá acontecer quando uma inteligência não-humana se tornar melhor do que o humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Computadores que contam histórias mudarão o curso da história humana, diz o historiador e filósofo.

O medo da inteligência artificial (ia) têm assombrado a humanidade desde o início da era dos computadores. Até então, esses medos se concentravam em máquinas que usavam meios físicos para matar, escravizar ou substituir pessoas. Mas nos últimos dois anos surgiram novas ferramentas de ia que ameaçam a sobrevivência da civilização humana por uma direção inesperada. A ia ganhou algumas habilidades notáveis ​​para manipular e gerar linguagem, seja com palavras, sons ou imagens. A ia invadiu o sistema operacional de nossa civilização.

A linguagem é o material de que quase toda a cultura humana é feita. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. Em vez disso, eles são artefatos culturais que criamos contando histórias e escrevendo leis. Deuses não são realidades físicas. Em vez disso, são artefatos culturais que criamos inventando mitos e escrevendo escrituras.

O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel coloridos e, atualmente, mais de 90% do dinheiro nem mesmo são papel-moeda – são apenas informações digitais em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros das finanças e gurus de criptomoedas nos contam sobre ele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não foram exatamente bons em gerar valor real, mas todos foram contadores de histórias extremamente capazes.

O que poderá acontecer quando uma inteligência não-humana se tornar melhor do que o humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam sobre o Chatgpt e outras ferramentas novas de ia, muitas vezes são levadas para exemplos como de crianças em idade escolar usando ia para escrever suas redações. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta deixa de fora o cenário geral. Esqueça as redações escolares. Pense na próxima corrida eleitoral presidencial americana em 2024 e tente imaginar o impacto das ferramentas de ia que podem ser usadas para produzir conteúdo político em massa, fake-news e escrituras para novos cultos.

Nos últimos anos, o culto QAnon se constituiu ao redor de mensagens on-line anônimas, conhecidas como “q-drops”. Os seguidores coletaram, reverenciaram e interpretaram essas q-drops como textos sagrados. Embora, até onde sabemos, todos os q-drops anteriores tenham sido compostos por humanos e os robôs apenas ajudaram a disseminá-los, no futuro poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não-humana. As religiões ao longo da história reivindicaram uma fonte não humana para seus livros sagrados. Em breve isso pode ser uma realidade.

Em um nível mais prosaico, podemos em breve nos encontrar conduzindo longas discussões online sobre aborto, mudança climática ou a invasão russa da Ucrânia com entidades que pensamos serem humanas – mas na verdade são ia. O problema é que é totalmente inútil para nós gastar tempo tentando mudar as opiniões declaradas de um bot ia, enquanto o ia pode aprimorar suas mensagens com tanta precisão que tem uma boa chance de nos influenciar.

Por meio de seu domínio da linguagem, a ia pode até estabelecer relacionamentos íntimos com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que a ia tenha consciência ou sentimentos próprios, para promover uma falsa intimidade com os humanos basta que a ia possa fazê-los sentir-se emocionalmente conectados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de ia Lamda, no qual ele estava trabalhando, havia se tornado senciente. A alegação controversa custou-lhe o emprego. O mais interessante desse episódio não foi a afirmação do Sr. Lemoine, que provavelmente era falsa. Mas sim, sua disposição de arriscar seu emprego lucrativo em benefício do chatbot. Se a ia pode influenciar as pessoas a arriscar seus empregos por ela, o que mais poderia induzi-las a fazer?

Em uma batalha política por mentes e corações, a intimidade é a arma mais eficiente, e a inteligência artificial acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, na última década, as redes sociais se tornaram um campo de batalha para controlar a atenção das pessoas. Com a nova geração de ia, a frente de batalha está mudando da atenção para a intimidade. O que acontecerá com a sociedade e a psicologia humana quando a ia desafiar a ia em uma batalha para fingir relacionamentos íntimos conosco que poderão então ser usados ​​para nos convencer a votar em determinados políticos ou comprar determinados produtos?

Mesmo sem criar “intimidade falsa”, as novas ferramentas de ia teriam uma influência imensa em nossas opiniões e visões de mundo. As pessoas podem passar a usar um único consultor de ia como um oráculo singular e onisciente. Não é de se admirar que o Google esteja apavorado. Por que se preocupar em pesquisar, quando posso apenas perguntar ao oráculo? As indústrias de notícias e publicidade também deveriam estar apavoradas. Por que ler um jornal quando posso apenas pedir ao oráculo para me contar as últimas notícias? E para que servem os anúncios, quando posso apenas pedir ao oráculo que me diga o que comprar?

E mesmo esses cenários não capturam realmente o panorama geral. O que estamos falando é potencialmente o fim da história humana. Não o fim da história, apenas o fim de sua parte dominada pelos humanos. A história é a interação entre a biologia e a cultura; entre nossas necessidades biológicas e desejos por coisas como comida e sexo, e nossas criações culturais como religiões e leis. A história é o processo pelo qual as leis e as religiões moldam a comida e o sexo.

O que acontecerá com o curso da história quando ia assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a prensa e o rádio, ajudaram a disseminar as ideias culturais da humanidade, mas nunca criaram novas ideias culturais próprias. A ia é fundamentalmente diferente. A ia pode criar ideias completamente novas, cultura completamente nova.

A princípio, a ia provavelmente imitará os protótipos humanos nos quais foi treinada em sua infância. Mas a cada ano que passa, a cultura da inteligência artificial irá audaciosamente onde nenhum ser humano jamais esteve. Por milênios, os seres humanos viveram dentro dos sonhos de outros humanos. Nas próximas décadas, podemos nos encontrar vivendo dentro dos sonhos de uma inteligência alheia.

O medo da ia ​​tem assombrado a humanidade apenas nas últimas décadas. Mas por milhares de anos os humanos foram assombrados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos os humanos temem ficar presos em um mundo de ilusões.

No século 17, René Descartes temia que talvez um demônio malicioso o estivesse prendendo em um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou o famoso Mito da Caverna, na qual um grupo de pessoas fica acorrentado dentro de uma caverna por toda a vida de frente para uma parede em branco. Uma tela. Nessa tela eles veem várias sombras projetadas. Os prisioneiros confundem as ilusões que veem com a realidade.

Na antiga Índia, sábios budistas e hindus apontaram que todos os humanos viviam presos dentro de Maya — o mundo das ilusões. O que normalmente tomamos como realidade é muitas vezes apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matando outras pessoas e dispostas a serem mortas por suas crenças nesta ou naquela ilusão.

A revolução da ia ​​está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com a Maya. Se não formos cuidadosos, podemos ficar presos atrás de uma cortina de ilusões que não podemos rasgar – ou mesmo perceber que está lá.

Claro, o novo poder da ia ​​também pode ser usado para bons propósitos. Não vou me alongar sobre isso, porque as pessoas que desenvolvem inteligência artificial já falam bastante sobre isso. O trabalho de historiadores e filósofos, como eu, é apontar os perigos. Mas, certamente, a ia pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que enfrentamos é como garantir que as novas ferramentas de ia sejam usadas para o bem e não para o mal. Para fazer isso, primeiro precisamos avaliar os verdadeiros recursos dessas ferramentas.

Desde 1945 sabemos que a tecnologia nuclear pode gerar energia barata para o benefício dos humanos – mas também pode destruir fisicamente toda a civilização humana. Portanto, reformulamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja usada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de ia, mas devemos agir rapidamente. Considerando que as armas nucleares não podem inventar armas nucleares mais poderosas, a ia pode tornar a ia exponencialmente mais poderosa. O primeiro passo crucial é exigir verificações de segurança rigorosas antes que poderosas ferramentas de ia sejam lançadas ao domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais de curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de inteligência artificial antes de as tornarem seguras. Precisamos de um equivalente à Food and Drug Administration [órgão regulador de alimentos e medicamentos americano, análogo à ANVISA] para novas tecnologias, e precisamos disso para ontem.

A desaceleração das implantações públicas de ia não fará com que as democracias fiquem para trás de regimes autoritários mais cruéis? Exatamente o oposto. Implantações de ia não regulamentadas criariam o caos social, o que beneficiaria os autocratas e arruinaria as democracias. A democracia é um diálogo, e os diálogos dependem da linguagem. Quando a ia hackeia a linguagem pode destruir nossa capacidade de ter conversas significativas, destruindo assim a democracia.

Acabamos de encontrar uma inteligência alienígena, aqui na Terra. Não sabemos muito sobre isso, exceto que pode destruir nossa civilização. Devemos interromper a implantação irresponsável de ferramentas de inteligência artificial na esfera pública e regular a ia antes que ela nos regule. E a primeira regulamentação que eu sugeriria é tornar obrigatório à ia divulgar que é uma ia. Se estou conversando com alguém e não consigo dizer se é um ser humano ou uma ia, é o fim da democracia.

Este texto foi gerado por um ser humano.

Ou foi?

Notas

^{[1] https://www.economist.com/by-invitation/2023/04/18/the-world-needs-an-international-agency-for-artificial-intelligence-say-two-ai-experts}