Yuval Harari diz que sociedade precisa controlar a IA. Ação de Moraes contra o X é um caminho

O historiador Yuval Noah Harari, doutor por Oxford, lançou, há poucos dias, o livro “Nexus — Uma Breve História das Redes de Informação: Da Idade da Pedra à Inteligência Artificial” (Companhia das Letras, 504 páginas, tradução de Berilo Vargas e Denise Bottmann). Mal chegou às livrarias e já se tornou best-seller. Procurei na Livraria Leitura, em Goiânia, e a vendedora disse: “Vendemos todos. Mas fizemos novo pedido”.

Harari é um historiador (pensa como filósofo; às vezes, é mais especulativo do que incisivo, o que parece incomodar historiadores e arqueólogos) que vasculha o passado, mas reflete sobre o presente e prospecta, digamos, o futuro. Apesar das diferenças, é parecido com o historiador escocês Niall Ferguson.

Em setembro, Harari concedeu uma interessante entrevista à repórter Patrícia Campos Mello, da “Folha de S. Paulo”.

João Sartoris e Efigênia Cuthbert, nomes fictícios, são casados há mais de 30 anos. Durante o almoço e o jantar, Efigênia guarda o celular. Porém, o marido fica plugado em sites de gracinhas, meninos e meninas espertos e gatos e cachorros arteiros. Quase não conversam mais sobre as cousas de sua cidade, de seu país e do mundo. Isto acontece com você, leitor? É provável.

Leia o que diz Harari: “Hoje temos a tecnologia de informação mais sofisticada da história, mas as pessoas estão perdendo a capacidade de conversar umas com as outras. Democracias em todo o mundo estão sendo minadas”. Pessimista, o israelense de 48 anos? Talvez realista. Mas a democracia é, apesar dos fascismos e dos stalinismos, tão resistente quanto o aço.

(A democracia é assim: aqueles que não são democratas usam suas facilidades, como a liberdade de expressão — garantida tanto pela lei quanto pelo costume, por assim dizer —, para combatê-la. O que fazer: restringir a democracia? Não é possível, porque aí não seria democracia. Mas o uso da lei, do sistema legal, contra os que jogam contra a democracia é uma maneira de contê-los. Há quem postule que o ministro Alexandre de Moraes, do Supremo Tribunal Federal, excede. Quem analisa o modo como aplica a lei, penalizando golpistas renitentes, percebe que o magistrado opera de acordo com as regras.)

(A rigor, quem não opera seguindo as regras — as leis — são os golpistas, como os bolsonaristas de 8 de janeiro de 2023. A democracia os beneficia, mas, nem mesmo assim, deve ser mudada. Porque, se for, deixa de ser democracia.)

De volta ao “filósofo” Harari: “Há uma quantidade recorde de informações em circulação, e a tecnologia nunca foi tão avançada. Mesmo assim, a humanidade nunca esteve tão próxima do autoextermínio por causa do aquecimento global e das guerras”.

Por sinal, ao mencionar “guerras”, no plural, Harari não cita nem a batalha da Rússia contra a Ucrânia e tampouco a destruição que Israel promove tanto em Gaza, matando milhares de palestinos inocentes e não só membros do Hamas, quanto no Líbano, matando não apenas membros do Hezbollah, mas libaneses inocentes. O historiador, frise-se, é israelense. Por mais moderado que seja, alinha-se com seu país. Os israelenses não buscam mais justiça, e sim vingança.

O que ocorre em Gaza e no Líbano não é, exatamente, uma guerra, com três contenders fortes. Pelo contrário, Israel está massacrando e a resposta do Hamas, do Hezbollah e do Irã não atinge os israelenses de maneira brutal. Dos três rivais, só ameaças e advertências (os mísseis do Hezbollah e do Irã não causaram estragos substanciais em Israel). Já Israel massacra as pessoas e destrói a infraestrutura. Ainda assim, nenhuma palavra de Harari e a brilhante repórter também nada perguntou.

“Informação não é conhecimento”

Harari frisa, com razão, que “informação não é conhecimento. A maior parte da informação é lixo. Conhecimento é um tipo raro e caro de informação”.

 “Toda essa informação lixo deixa nossas mentes e sociedades doentes. Precisamos de uma dieta de informação.” Já informação substanciosa é “alimento” para a mente, sugere Harari.

Num momento em que a tecnologia é usada de maneira invasiva — estilo Grande Irmão, detectado por George Orwell, autor do romance distópico “1984” —, por governos e, mais ultimamente e de maneira acentuada, pelas big techs, há, por assim dizer, alguma salvação?

Harari sublinha que, sim, há salvação, ainda que não empregue a palavra. O que diz é que as big techs precisam ser controladas. Mas o controle não pode ficar nas mãos de uma autoridade absoluta, não pode ser uma única entidade.

“O poder de regular a tecnologia da informação deve ser distribuído entre o governo, as corporações, os tribunais, a mídia, academias e as ONGs. (…) O primeiro passo crucial é concordar que precisamos regular a tecnologia da informação da mesma maneira que regulamos produtos, medicamentos e carros”, afirma Harari. Os algoritmos precisam ser controlados. Hoje, são controlados unicamente pelas big techs, que sabem quase tudo sobre os cidadãos, que quase nada sabem sobre elas, sobre o que elas sabem.

A inteligência artificial é incontornável? É. Até porque o bem que proporciona é realmente positivo (na área de saúde, medicamentos, pesquisas). Mas pode ser perigosa. “É a tecnologia mais poderosa porque é a primeira que pode tomar decisões. Uma IA pode decidir sozinha um alvo específico e pode inventar novas bombas, estratégias e até novas IAs”, postula Harari.

O pesquisador assinala que “a coisa mais importante a saber sobre IA é que não é uma ferramenta em nossas mãos — é um agente autônomo, fazendo coisas que não esperávamos. O que acontecerá conosco quando milhões de agentes não humanos começarem a tomar decisões sobre nós e a criar coisas novas — de novos medicamentos a novas armas, de novos textos a novos tipos de dinheiro?”

Criação de instituições regulatórias

Harari estaria sendo pessimista ou realista? Estaria falando de uma utopia ou de uma distopia? Na verdade, está tratando da realidade imediata. Para a inteligência artificial, o céu é o limite, se for.

A Stasi, polícia política da Alemanha Oriental, os sistemas de Israel — do qual o Mossad é apenas a face mais visível, assim como a CIA nos Estados Unidos — e outros criaram sistemas de vigilância total? Não. A Stasi, que também criou o sistema de Cuba, por intermédio de Markus Wolf, chegou perto. Mas não havia tecnologia suficiente — adequada — para o monitoramento total. Agora, com a IA, os ditadores, sobretudo, poderão adquirir expertise para o controle absoluto dos atos dos cidadãos.

“Com a IA, um futuro ditador não precisaria de milhões de agentes humanos para espionar todo mundo. Smartphones, computadores, câmeras, microfones e drones poderiam fazer isso. Nem precisaria de milhões de analistas humanos. A IA poderia processar a enorme quantidade de informações e punir qualquer dissidência”, diz Harari.

Mais uma vez, o que fazer? Esperar sentado à passagem das bandas, facebooks, xis, tiktoks, googles, instagrans etc? Não. Harari postula que a sociedade precisa “criar instituições que possam identificar rapidamente problemas e reagir a eles. Serão novas instituições regulatórias que atrairão alguns dos maiores talentos e serão financiados por um imposto sobre os lucros dos gigantes de tecnologia”.

O conflito entre o X e o STF é anterior à entrevista de Harari; portanto, não a comenta. As big techs, como a X de Elon Musk, não querem cumprir as leis dos países. Só o fazem quando acossadas, o que tem ocorrido no Brasil, no Canadá, na Austrália, na Espanha, na França (chegou a prender o chefão do Telegram) e Alemanha.

Elon Musk não queria nomear um representante legal no Brasil para não ser encontrado para responder criminalmente e pagar multas e indenizações. O ministro Alexandre de Moraes, numa decisão corajosa e tecnicamente irrepreensível — só uns três colunistas “Estadão, o primeiro a chegar atrasado ao debate, são contra —, retirou o X do ar. O empresário sul-africano, baseado nos Estados Unidos, esperneou, agrediu verbalmente o magistrado patropi, que não recuou.

Sob pressão dos advogados globais do X, sobretudo dos acionistas de suas empresas (até a Tesla, que estaria planejando entrar no Brasil, seria prejudicada), Elon Musk recuou e nomeou uma representante no Brasil, uma advogada, e pagou as multas. Assim, Alexandre de Moraes, o intimorato ministro, liberou o X para atender o mercado brasileiro. Democracia é isto: quem cumpre as leis tem liberdade para se expressar e circular.

A vitória do Brasil — não apenas o STF e Alexandre de Moraes venceram — pode se tornar jurisprudência global. Sobretudo, prova que há mecanismos para enfrentar as big techs. Assim como será possível conter o poder excessivo daqueles que movem a inteligência artificial, sem saber, mesmo eles, até onde ela vai.

O post Yuval Harari diz que sociedade precisa controlar a IA. Ação de Moraes contra o X é um caminho apareceu primeiro em Jornal Opção.