O deserto pós-humano

Por Slavoj Žižek, via Project Syndicate, traduzido por Maria Eugênya Pacioni, 

Ao contrário das inovações tecnológicas anteriores, a inteligência artificial não é sobre o domínio da humanidade sobre a natureza, mas sim sobre a renúncia total ao controle. Quer percebamos ou não, a velha arrogância antropocêntrica que a tecnologia permite pode em breve dar lugar à irrelevância e falta de sentido do humano.


LJUBLJANA – A carta aberta do “The Future of Life Institute” exigindo de uma pausa preventiva de seis meses no desenvolvimento da inteligência artificial já foi assinada por milhares de personalidades importantes, incluindo Elon Musk. Os signatários temem que os laboratórios de IA estejam “agarrados a uma corrida fora de controle” para desenvolver e implantar sistemas cada vez mais poderosos que ninguém – incluindo seus criadores – pode entender, prever ou controlar.

O que explica essa explosão de pânico entre um certo grupo de elites? Controle e regulação estão obviamente no centro da história, mas de quem? Durante a pausa de meio ano proposta, quando a humanidade poderá fazer um balanço dos riscos, quem defenderá a humanidade? Como os laboratórios de IA na China, Índia e Rússia continuarão seu trabalho (talvez em segredo), um debate público global sobre a questão é inconcebível.

Ainda assim devemos considerar o que está em jogo aqui. Em seu livro de 2015, Homo Deus [1], o historiador Yuval Harari previu que a consequência mais provável da IA ​​seria uma divisão radical – muito mais forte do que a divisão de classes – dentro da sociedade. Em breve, a biotecnologia e os algoritmos de computador unirão seus poderes para produzir “corpos, cérebros e mentes”, resultando em uma lacuna cada vez maior “entre aqueles que sabem como construir corpos e cérebros e aqueles que não sabem”. Em tal mundo, “aqueles que embarcarem no trem do progresso adquirirão habilidades divinas de criação e destruição, enquanto os que ficarem para trás enfrentarão a extinção”.

O pânico refletido na carta [do Instituto] da AI decorre do medo de que mesmo aqueles que estão no “trem do progresso” não conseguirão conduzi-lo. Nossos atuais mestres feudais digitais estão com medo. O que eles querem, no entanto, não é um debate público, mas sim um acordo entre governos e empresas de tecnologia para manter o poder onde ele pertence.

Uma expansão maciça das capacidades de IA é uma séria ameaça para aqueles que estão no poder – incluindo aqueles que desenvolvem, possuem e controlam a IA. Ele aponta para nada menos do que o fim do capitalismo como o conhecemos, manifestado na perspectiva de um sistema de IA auto-reprodutor que precisará cada vez menos de agentes humanos (as negociações de mercado por algoritmos é apenas o primeiro passo nessa direção). A escolha que nos resta será entre uma nova forma de comunismo e o caos incontrolável.

Os novos chatbots oferecerão a muitas pessoas solitárias (ou não tão solitárias) noites intermináveis ​​de amigáveis diálogos sobre filmes, livros, culinária ou política. Para reutilizar uma velha metáfora minha, o que as pessoas vão conseguir é a versão IA do café descafeinado ou do refrigerante sem açúcar: um vizinho amigável sem esqueletos no armário, um Outro que simplesmente se acomodará às suas necessidades. Há uma estrutura de negação fetichista aqui: “Eu sei muito bem que não estou falando com uma pessoa real, mas parece que estou – e sem nenhum dos riscos que a acompanham!”

De qualquer forma, um exame atento à carta [do Instituto] da IA mostra que é mais uma tentativa de impedir o impossível. Este é um velho paradoxo: é impossível para nós, como humanos, participar de um futuro pós-humano, então devemos impedir seu desenvolvimento. Para nos orientar em torno dessas tecnologias, devemos fazer a velha pergunta de Lenin: Liberdade para quem fazer o quê? Em que sentido éramos livres antes? Já não éramos controlados muito mais do que pensávamos? Em vez de reclamar sobre a ameaça à nossa liberdade e dignidade no futuro, talvez devêssemos primeiro considerar o que a liberdade significa agora. Enquanto não fizermos isso, agiremos como histéricos que, segundo o psicanalista francês Jacques Lacan, estão desesperados por um mestre [2], mas apenas um que possamos dominar.

O futurista Ray Kurzweil prevê [3] que, devido à natureza exponencial do progresso tecnológico, em breve estaremos lidando com máquinas “espirituais” que não apenas exibirão todos os sinais de autoconsciência, mas também superarão em muito a inteligência humana. Mas não se deve confundir essa postura “pós-humana” com a preocupação paradigmaticamente moderna em alcançar o domínio tecnológico total sobre a natureza. O que estamos testemunhando, pelo contrário, é uma reversão dialética desse processo.

As ciências “pós-humanas” de hoje não são mais sobre dominação. O credo deles é surpreendente: que tipo de propriedades contingentes e não planejadas emergentes os modelos de IA de “caixa preta” podem adquirir para si mesmos? Ninguém sabe, e é aí que está a emoção – ou, na verdade, a banalidade – de todo o empreendimento.

Assim, no início deste século, o filósofo-engenheiro francês Jean-Pierre Dupuy discerniu [4] na nova robótica, genética, nanotecnologia, vida artificial e IA, uma estranha inversão da tradicional arrogância antropocêntrica que a tecnologia permite:

“Como explicar que a ciência se tornou uma atividade tão ‘arriscada’ que, segundo alguns cientistas de ponta, representa hoje a principal ameaça à sobrevivência da humanidade? Alguns filósofos respondem a esta pergunta dizendo que o sonho de Descartes – “tornar-se mestre e possuidor da natureza” – deu errado, e que devemos retornar urgentemente ao “domínio do domínio”. Eles não entenderam nada. Eles não veem que a tecnologia que se perfila em nosso horizonte através da “convergência” de todas as disciplinas visa precisamente o não domínio. O engenheiro de amanhã não será um aprendiz de feiticeiro por negligência ou ignorância, mas por opção.”

A humanidade está criando seu próprio deus ou demônio. Embora o resultado não possa ser previsto, uma coisa é certa. Se algo parecido com a “pós-humanidade” emergir como um fato coletivo, nossa visão de mundo perderá todos os seus três definidores e sobrepostos sujeitos: humanidade, natureza e divindade. Nossa identidade como humanos só pode existir contra o pano de fundo de natureza impenetrável, mas se a vida se tornar algo que pode ser totalmente manipulado pela tecnologia, ela perderá seu caráter “natural”. Uma existência totalmente controlada é desprovida de significado, para não mencionar de acaso e de surpresa.

O mesmo, é claro, vale para qualquer sentido do divino. A experiência humana de “deus” tem significado apenas do ponto de vista da finitude humana e mortalidade. Uma vez que nos tornarmos homo deus e criarmos propriedades que pareçam “sobrenaturais” do nosso antigo ponto de vista humano, os “deuses” como os conhecíamos desaparecerão. A questão é o que restará, se é que restará alguma coisa. Vamos cultuar as IAs que criamos?

Há todos os motivos para se preocupar que as visões tecno-gnósticas de um mundo pós-humano sejam fantasias ideológicas ofuscando o abismo que nos espera. Desnecessário dizer que seria preciso de mais que uma pausa de seis meses para garantir que os humanos não se tornassem irrelevantes e suas vidas sem sentido em um futuro não muito distante.


Notas

[1] https://www.ynharari.com/book/homo-deus/

[2] https://books.google.com.br/books/about/L_Envers_de_la_psychanalyse.html?id=cytseTw6naoC&redir_esc=y

[3] https://www.penguinrandomhouse.com/books/331142/the-age-of-spiritual-machines-by-ray-kurzweil/

[4] https://www.cairn.info/revue-humanisme-2009-2-page-104.htm

Compartilhe:

Posts recentes

Mais lidos

16 comentários em “O deserto pós-humano”

  1. Assustador a incerteza do futuro bem próximo, jamais imaginava que pudéssemos chegar a isso. Trata-se de engenharia reversa, adquirida dos aliens que nos cercam e que poucos acreditam ou se fingem negando a existência.

    Responder
    • Acredito que tudo que chega a este planeta só chega com a permissão dos comandos que regem o universo. Assim também creio que nada é criado aqui, por nós, tudo é permitido . Estamos apenas mudando de fase evolutiva. Tudo está muito rápido e ao mesmo tempo muito fugaz.

      Responder
  2. Pelo jeito será a realidade filme Exterminador do Futuro.
    Com certeza não teremos utilidades.
    Mas fica a questão: O que será do mundo sem humanos?

    Responder
  3. “Comunismo às Avessas” (Por jocax )
    Com o advento das poderosas IA, como o ChatGPT e outras que virão, os empregos que envolvem CONHECIMENTO E LÓGICA, como Advogados, médicos, engenheiros , arquitetos etc.. estarão com os dias contados. Tudo acontecerá nesta sequência:

    1-As IAs começaram a ocupar parte de postos de trabalhos que humanos ocupavam.

    2-Os humanos passarão a supervisionar os resultados destas IAs como se elas fossem “estagiárias”.

    3-O desemprego crescerá: Surgirão algumas leis para limitar essa substituição do trabalho intelectual humano por IAs.

    4-O desemprego continuará crescendo, excepto em trabalhos que requerem uso das mãos , como cuidadores, enfermeiros, ajudantes de obras, pedreiros, carregadores … esses empregos não serão afetados diretamente.

    5-Com a crise de desemprego aumentando fatalmente o governo terá que introduzir o “Salário Desemprego” ou algo assim: Pessoas ganharão um rendimento sem necessidade de trabalhar, salário esse advindo da TRIBUTAÇÃO dos fantásticos lucros das empresas que utilizam a IA ao inves de humanos.

    6-Faculdades não serão necessarias, farão quem quiser apenas por hobbie, para ganhar conhecimento que não será usada para trabalho algum.

    7-A sociedade com o tempo usará seu tempo para o lazer e prazer.

    Resumo : O advento da IA vai acabar com o emprego, inicialmente vai haver grande crise, mas se a politica for bem conduzida, ela servirá para proporcionar paz e lazer aos humanos e não uma quase escravidão por pouco dinheiro. Como se o comunismo fosse implantado ás avessas.

    Responder
  4. Gostei demais por saber que terei conversas intermináveis a respeito das minhas dúvidas sobre muitos assuntos.
    Perco muito tempo pesquisando, nunca consigo plenamente o que preciso e então terei melhores chances.
    Esse tempo desperdiçado será substituindos por conhecimentos para mim utilizá-los.
    Mas não deixarei a minha vida social de lado.
    Mas seja bem-vinda IA, minha futura orácula!

    Responder
  5. Eu acredito que seremos escravos das nossas próprias criações
    Como dizia Legião Urbana
    E que a tecnologia nunca é apresentada a sua evolução completamente
    Sempre tem um segredo alguém querendo dominar tudo
    Mas temos que nos manter antenados e lutar contra algo que seja absurdamente absurdo

    Responder
  6. O senhor escreve: “…Como os laboratórios de IA na China, Índia e Rússia continuarão seu trabalho (talvez em segredo)…”.
    Os laboratórios de IA europeus e estadunidenses, bonzinhos, vão parar, né?
    Essa parte do texto deve ter sido escrita, involuntariamente, por um ChatGPT, sublinarmente instalado no autor.

    Responder
  7. Ao ler todo o texto fiquei impressionado. Enfim o ser humano vai criar a vida eterna para os super ricos pois ao criar um robô super poderoso nada impede de fazer uma impressão 3D de um ser humano super rico, consertando todos os organismos doentes do mesmo, transformando num jovem saudável. Meu Deus!!!

    Responder
  8. Muito preocupante. Me lembro dos medos gerados por outras tecnologias revolucionárias, que acabaram não se concretizando (o medo). Mas essa essencialmente é diferente, principalmente pelo que não conhecemos.

    Responder

Deixe um comentário