A IA e a destruição das condições objetivas da democracia

Em vez de ler um veterano treinado no mundo analógico avidamente sequestrado pela revolução digital, eu iria diretamente ler a naturalidade e a contundência com que Gary Marcus explica o potencial de destruição das condições objetivas da democracia se continuarmos a ruminar sozinhos ou resignados sobre as ameaças que pairam por trás das mídias sociais e o desenvolvimento imperfeito e fracassado da IA generativa. De fato, Marcus já considera a batalha das mídias sociais perdida e aceita a impotência dos Estados e das autoridades públicas para fazer cumprir e fazer cumprir as regras válidas para o mundo analógico no mundo virtual. Ele está na tela da inteligência artificial generativa e é por isso que escreveu o livro a todo vapor, após mais de 20 anos de dedicação profissional à esfera digital. Ele é um fã dela, é claro, como todos nós, porque seus benefícios, suas aplicações, a expansão do mundo que ela fomenta em uma única mão são simplesmente alucinantes, e suas descobertas e progressos são literalmente incalculáveis.

Mas, justamente por ser um fã incondicional da revolução digital, ele pode avaliar melhor do que nós a indesejabilidade dessa revolução e as causas que explicam um diagnóstico que reitera em muitas partes do livro: a disseminação e o acesso irrestrito e gratuito em todo o planeta às plataformas de IA generativa foram prematuros porque ninguém é capaz de corrigir seus defeitos, suas falsidades, seus vieses, suas imprecisões, suas vulgaridades, além de remendos ocasionais ou muito circunstanciais. A corrida ao dinheiro , a corrida pútrida para fazer cada vez mais dinheiro para empresas que já são as mais ricas da história da humanidade, está por trás da imprudência temerária de ter lançado no mercado um produto imperfeito e cuja perfeição ninguém sabe agora como abordar.

Para evitar que os danos continuem, para evitar que se acelerem descontroladamente, para evitar males piores do que os já muito sérios que existem hoje, Marcus sugere frear e redirecionar a investigação.

É por isso que a segunda graça definitiva deste livro é fornecer aos cidadãos argumentos, recursos e até ferramentas para encorajar uma mudança radical que ajudará a garantir a confiabilidade, a credibilidade e a eficiência de modelos de linguagem extensivos, que são o que todos usam, ou seja, ChatGPT , Gemini, etc. Para evitar que o dano continue, para evitar que ele se acelere descontroladamente, para evitar males piores do que os já extremamente sérios que temos hoje, Marcus sugere pisar no freio e redirecionar a pesquisa. Os desenvolvimentos de IA generativa devem ser supervisionados, auditados, cofinanciados e guiados por poderes políticos, assim como é o caso da aviação ou do mercado de ações. Quem pensaria em deixar a evolução desta revolução nas mãos das mesmas empresas que a impulsionam e continuar tolerando sua completa opacidade, suas mentiras comprovadas, seus abusos inconsequentes, seu desdém pela privacidade e seu lucro com os dados de uso de todos sem pagar nada em troca?

Bem, esse absurdo é exatamente o que vem alimentando a máquina, sem que ninguém consiga responder a ela com qualquer garantia de eficácia. A sugestão um tanto hippie, ou ingênua, ou simplesmente progressista, é que a força motriz por trás dessa mudança de funcionamento terá que ser a mobilização e a resistência dos cidadãos, e então os poderes políticos e os governos virão atrás disso se quiserem continuar vencendo eleições. É ingênuo, claro, mas não sei se alguém por aí tem uma ideia melhor.

Jordi Gracia , El Pais Espanha

Pare o Vale do Silício

Gary Marcus
Tradução de Marc Figueras. Shackleton Books, 2025. 256 páginas. € 22,90