IA é um poder que não conseguimos controlar, alerta autor de ‘Sapiens’

(Imagem: NicoElNino/Shutterstock)  O escritor Yuval Noah Harari (Sapiens: História Breve da Humanidade) faz o seguinte alerta: “nunca invoque poderes que não pode controlar”. Atualmente, esse poder em questão é, para o autor, a inteligência artificial (IA). Poder este que poderia ameaçar a democracia e dividir o mundo, escreve Harari.      Essa discussão aparece em seu novo livro, Nexus: A Brief History of Information Networks (“Nexus: Uma Breve História de Redes de Informação”, em tradução livre). O jornal The Guardianpublicou um trecho do novo livro, que será publicado em 10 de setembro.    

Novo livro de Yuval Noah Harari alerta sobre poder e natureza alienígena da IA

Notebook Acer Nitro V15 ANV15-52-51E4 Intel Core i5 16GB 512GB SSD Tela 15,6 Led IPS 165Hz (RTX 4050) FHD Windows 11

Em até 10x de R$ 699,90 sem juros
(total parcelado R$ 6.999,00)
Ver opções de pagamento 
Ganhe pontos nesta compra com o cartão Amazon: peça o seu com anuidade zero e vantagens exclusivas.

Ver produto

O Olhar Digital pinçou as principais passagens do trecho publicado pelo jornal. Mas antes, três avisos aos navegantes:

1. São as principais passagens relacionadas ao argumento “IA é um poder que não conseguimos controlar”;
2. São traduções livres das passagens;

 Recomendados para você:

“A Guerra dos chips”: Para driblar sanções dos EUA China usa data centers no exterior.

Reportagem afirma que a China encontrou uma forma de usar os chips da Nvidia sem precisar importá-…

Rede WAN: o que é? Como modernizar sua rede remota

Créditos da imagem: Acenty Você já se perguntou como uma rede WAN funciona e por que ela é tão i…

Inteligência Artificial na Era da Internet das Coisas

A popularização acelerada da Inteligência Artificial (IA) da Internet das Coisas (IoT) está i…

Avisos em histórias

Ao longo da história, muitas tradições acreditavam que uma falha fatal na natureza humana nos tenta a buscar poderes que não sabemos como manejar.

  Histórias antigas alertam sobre conquista, uso e descontrole de poder (Imagem: Ferdinand Barth e Carole Raddato)

O que as fábulas do Aprendiz de Feiticeiro [de Johann Wolfgang von Goethe] e [do mito grego] de Faetonte nos dizem no século 21? Nós, humanos, obviamente nos recusamos a ouvir seus avisos.

Já desequilibramos o clima da Terra e convocamos bilhões de vassouras encantadas, drones, chatbots e outros espíritos algorítmicos que podem escapar do nosso controle e desencadear uma inundação de consequências.

Como humanos ganham (e usam) poder

O mito de Faetonte e o poema de Goethe falham em fornecer conselhos úteis porque eles interpretam erroneamente a maneira como os humanos ganham poder. Em ambas as fábulas, um humano adquire um poder enorme, mas é corrompido pela arrogância e ganância. A conclusão é que nossa psicologia individual falha nos faz abusar do poder.

 Poder surge da cooperação entre muitos humanos, aponta autor de ‘Sapiens’ (Imagem: Glenn Carstens-Peters/Unsplash)

O que essa análise superficial não percebe é que o poder humano nunca é resultado de uma iniciativa individual. O poder sempre surge da cooperação entre um grande número de humanos. Portanto, não é nossa psicologia individual que nos faz abusar do poder.

Nossa tendência de convocar poderes que não podemos controlar não vem da psicologia individual, mas da maneira única como nossa espécie coopera em grandes números.

Excesso de informação

Nas últimas gerações, a humanidade experimentou o maior aumento de todos os tempos na quantidade e na velocidade de nossa produção de informação. No entanto, com todas essas informações circulando a velocidades impressionantes, a humanidade está mais próxima do que nunca de se aniquilar.

Ter ainda mais informações tornaria as coisas melhores ou piores? Logo descobriremos. Várias corporações e governos estão competindo para desenvolver a tecnologia de informação mais poderosa da história – a IA.

Inteligência artificial

Alguns empresários de destaque, como o investidor americano Marc Andreessen, acreditam que a IA finalmente resolverá todos os problemas da humanidade.

Outros são mais céticos. Não apenas filósofos e cientistas sociais, mas também muitos especialistas e empresários de destaque, como Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk e Mustafa Suleyman, alertaram que a IA poderia destruir nossa civilização.

Quando o assunto é IA, alguns acreditam que ela vai resolver os problemas da humanidade; outros, que vai causar a extinção humana (Imagem: SomYuZu/Shutterstock)

Ao usar termos apocalípticos, especialistas e governos não têm a intenção de conjurar uma imagem de Hollywood de robôs rebeldes correndo pelas ruas e atirando em pessoas. Tal cenário é improvável e serve apenas para distrair as pessoas dos verdadeiros perigos.

A IA é uma ameaça sem precedentes à humanidade porque é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si só.

Drones autônomos podem decidir por si mesmos quem matar, e IAs podem criar designs de bombas novos, estratégias militares sem precedentes e IAs melhores.

A IA não é uma ferramenta – é um agente. A maior ameaça da IA é que estamos convocando para a Terra inúmeros novos agentes poderosos que são potencialmente mais inteligentes e imaginativos do que nós, e que não entendemos ou controlamos totalmente.

‘Inteligência alienígena’

Tradicionalmente, o termo “IA” tem sido usado como um acrônimo para inteligência artificial. Mas talvez seja melhor pensar nele como um acrônimo para inteligência alienígena.

Muitas pessoas tentam medir e até definir a IA usando a métrica de “inteligência no nível humano”, e há um debate acalorado sobre quando podemos esperar que a IA alcance isso. Esta métrica é profundamente enganosa. É como definir e avaliar aviões através da métrica de “voo no nível dos pássaros”.

A IA não está progredindo em direção à inteligência humana. Está evoluindo um tipo alienígena de inteligência.

 Por  Pedro Spadoni

Redator(a

Pedro Spadoni é jornalista formado pela Universidade Metodista de Piracicaba. Já escreveu para sites, jornal e revista. Agora, é redator do Olhar Digital, onde escreve sobre (quase) tudo.

Se gosta desse tipo de conteúdo assine nóssa Lista de contato para receber novos conteúdos em seu email:

Mostre sua generosidade! Ajude nosso projeto Doando qualquer quantia.

Faça uma doação solidária digite qualquer valor.