Harari e seu ‘medo’ da inteligência artificial

Texto original de Daniel Marques, publicado por JOTA.

Os perigos de se antropomorfizar a IA: a ética é sempre do ser humano

Recentemente, o historiador Yuval Noah Harari escreveu um artigo publicado no jornal americano The New York Times que foi republicado pelo jornal O Globo com o seguinte título: “Precisamos aprender a dominar a inteligência artificial antes que ela nos domine”. Ele aponta algo que faz total sentido: o descompasso entre a técnica e a ética aumenta exponencialmente durante a quarta revolução industrial.

As respostas éticas estão sempre correndo atrás do próprio rabo, diante dos avanços tecnológicos. E diga-se de passagem, as jurídicas também. Harari descreve um fato que faz parte da própria constituição da natureza humana, já que ser, pensar, agir e fazer (metafísica, epistemologia, ética e técnica) são dimensões distintas, mesmo que não separadas no ser humano.

No entanto, nem todo bom diagnóstico necessariamente significa um bom prognóstico. Vide a recente carta aberta assinada por Harari, Elon Musk e Steve Wozniak pedindo para pausar as pesquisas e lançamentos de inteligências artificiais iguais ou superiores ao ChatGPT, ainda sugerindo moratória por parte do Estado em relação a quem desobedecer.

Sem dúvida, Harari possui um dom para descrever os fatos, mas na hora de justificá-los, se equivoca. Por trás de toda teoria, há uma filosofia. E qual seria a lógica defendida por Harari?

No mesmo artigo, fica manifesta sua vertente filosófica determinista-materialista-reducionista. Isso precisa ser colocado à luz, pois é a fonte de todas as suas conclusões. Ele filosofa a partir de uma matriz que já se mostrou superada diversas vezes.

Quando afirma no artigo “no começo havia a palavra”, pode atrair os incautos ao fazer uma referência teológica-filosófica-hermenêutica sobre a importância da palavra para a constituição do mundo. Além de ser uma afirmação verdadeira, ela é bela e emociona.

Mas, em seguida, coloca no mesmo balaio a linguagem humana e a linguagem de máquina, que possuem diferenças qualitativas essenciais. Ambas são linguagens, mas a palavra humana e a palavra máquina não são conceitos unívocos, mas análogos. E esse reducionismo fica claro nas palavras a seguir: “No começo havia a palavra. A linguagem é o sistema operacional da cultura humana. (…) O novo domínio da linguagem da inteligência artificial significa que ela pode hackear e manipular o sistema operacional da civilização”.

A partir da premissa: todas as linguagens são iguais, ele chega à conclusão de que a inteligência artificial irá dominar o mundo, pois irá superar a linguagem humana.

Além desse erro epistemológico, Harari utiliza diversos recursos retóricos logo no início do artigo com comparações que evocam o sentimento do medo no leitor. Por exemplo, a afirmação de que com a inteligência artificial estamos embarcando num avião que tem 10% de chance de cair; ou que a IA deve ser regulada como vírus.

A mesma comparação esdrúxula acontece quando alguns equiparam a regulação da inteligência artificial com a regulação da energia atômica, mas nunca mencionam que existem diversos tipos de energias: a solar, a eólica, a hidrelétrica e a nuclear, por exemplo.

Do mesmo modo, existem variados graus de aplicações e impactos da inteligência artificial. Será que vamos regular a IA que indica qual livro você deve comprar segundo suas aquisições anteriores, da mesma forma que a IA usada para cirurgia e diagnóstico médicos?

Durante todo o texto uma falsa equivalência é feita entre a linguagem humana e a de máquina. A narrativa é construída para despertar no coração do leitor o medo: um dos instintos mais primitivos do ser humano. Tais recursos retóricos servem como foyer que imobiliza a razão e deixa o leitor a mercê de sua sugestão: a IA irá dominar, hackear e superar a humanidade.

De fato, parece ser muita coincidência sair poucos dias depois desse artigo a famosa carta aberta promovendo a paralisação das pesquisas das inteligências artificiais iguais ou superiores ao ChatGPT. O que vemos são recursos retóricos e informações incompletas apenas para gerar medo e aumentar a adesão à ideia que deseja vender. O medo vende, é um ótimo motivador, mas um péssimo conselheiro.

Podemos resumir de maneira bem geral a lógica do pensamento de Harari com a seguinte fórmula: linguagem humana = linguagem de máquina, logo ela irá hackear a humanidade. Ele vai desenhando silenciosa e magistralmente essa falsa equivalência. A partir dela extrai todo o possível futuro apocalíptico, promovendo uma antropomorfização das máquinas.

No subtítulo do artigo republicado pelo Globo aparece: “Nos jogos de xadrez, nenhum ser humano pode esperar superar um computador. O que acontece quando a mesma coisa acontece com a arte, a política e até mesmo a religião?”.

Já se passaram mais de 30 anos desde que Kasparov perdeu para o Deep Blue, inteligência artificial da IBM. Sabe o que aconteceu com o xadrez? Nunca houve tantos jogadores humanos como hoje em dia.

É inegável a genialidade de Harari, sua inteligência e sua capacidade de popularizar temáticas importantes. Talento inegável. Um grandíssimo comunicador. Suas obras repousam na cabeceira de milhões de pessoas, entre elas os CEOs e fundadores de muitas big techs. Ele é o pensador da tecnologia mais influente na atualidade.

É através da visão determinista-reducionista de Harari do que significa a linguagem humana que muitos se jogam em uma nova corrida espacial para ver quem chega no velho oeste de líder da indústria da IA. São esses, os líderes disruptivos discípulos de Harari, que misturam em um coquetel intragável doses de profecia messiânica-apocalíptica e empreendedorismo tecnocrático.

E como o medo vende, essa visão tenebrosa de uma possível “super IA” rege as manchetes, produtos, decisões e políticas que impactarão a vida de bilhões de pessoas.

Só analisando essa sopa eclética que mistura empreendedorismo tecnocrático com profetismo pós-moderno seremos capazes de entender um pouco a aparente loucura esquizofrênica do catastrofismo irremediável que alguns propagam.

Por um lado, quem mais grita contra os perigos de uma “super IA” imaginária são os que lideram as empresas que mais investem em pesquisas e desenvolvimento de produtos relacionadas ao tema. Se uma vez Nietzsche parece ter “matado” Deus, agora esse novo mundo hipotético e catastrófico da “super IA” está “matando” a humanidade.

Com suas ideias, Harari cria o monstro que ele tanto deseja combater, como o Dr. Victor Frankenstein. Não sei se teremos mais artistas, pintores e poetas no futuro com a IA. Mas a inteligência artificial com certeza não será a razão de eles sumirem.

Defender uma visão que equipare linguagem humana à linguagem de máquina e pedir para pausar pesquisas por futuros hipotéticos apocalípticos fundamentados nesse tipo de lógica só aliena a sociedade dos problemas reais e concretos que existem no momento: a concentração do desenvolvimento da IA, a falta de acesso mais descentralizado aos bancos de dados de treinamento, a transparência, a responsabilidade, a regulação segundo aplicações concretas da IA e não apenas através de princípios genéricos, a criação de sandboxes regulatórios que permitam espaços de experimentação responsáveis.

Mesmo que seja muito difícil, não podemos antropomorfizar a máquina. Elas não pensam, não mentem, não possuem consciência ou sentimentos. Não existe ética da inteligência artificial, existe ética do ser humano, e de como o ser humano cria, desenha e usa a IA.

É a partir desse realismo antropológico que devemos pensar a regulação da IA, tendo em conta os diversos tipos de uso e aplicações. E não a partir de um técnico-pânico-neo-ludismo-universal. Não se deixem levar pelo pessimismo messiânico de Harari. Prudência e temor sim, medo nunca.