L'IA et la destruction des conditions objectives de la démocratie

Au lieu de lire un vétéran formé au monde analogique, rapidement détourné par la révolution numérique, je lirais directement le naturel et la force avec lesquels Gary Marcus explique le potentiel de destruction des conditions objectives de la démocratie si nous continuons à ruminer seuls ou avec résignation les menaces qui planent sur les réseaux sociaux et le développement imparfait et raté de l'IA générative. En réalité, Marcus considère déjà la bataille des réseaux sociaux comme perdue et reconnaît l'impuissance des États et des pouvoirs publics à faire respecter les règles valables pour le monde analogique dans le monde virtuel. Il est à l'avant-garde de l'intelligence artificielle générative et c'est pourquoi il a écrit ce livre à toute vitesse, après plus de vingt ans de dévouement professionnel au numérique. Il en est un fervent partisan, bien sûr, comme nous tous, car ses avantages, ses applications, l'expansion du monde qu'elle favorise sont tout simplement époustouflants, et ses découvertes et progrès sont littéralement incalculables.

Mais précisément parce qu'il est un fervent partisan de la révolution numérique, il peut mieux que nous mesurer le caractère indésirable de cette révolution et les causes qui expliquent un diagnostic qu'il réitère à maintes reprises dans le livre : la diffusion et l'accès libre et illimité, à travers la planète, aux plateformes d'IA générative ont été prématurés, car personne n'est capable d'en corriger les défauts, les faussetés, les biais, les inexactitudes et les vulgarités, au-delà de quelques correctifs occasionnels ou très circonstanciels. La course à l'argent , cette course putride à l'enrichissement constant d'entreprises déjà parmi les plus riches de l'histoire de l'humanité, est à l'origine de l'imprudence inconsidérée d'avoir lancé sur le marché un produit imparfait, dont personne ne sait aujourd'hui comment atteindre la perfection.

Pour éviter que les dégâts ne continuent, pour éviter qu’ils ne s’accélèrent de manière incontrôlable, pour éviter des maux pires que ceux déjà très graves qui existent aujourd’hui, Marcus suggère de mettre un frein et de réorienter l’enquête.

C'est pourquoi le deuxième atout majeur de ce livre est de fournir aux citoyens des arguments, des ressources et même des outils pour encourager un changement radical qui contribuera à garantir la fiabilité, la fiabilité et l'efficacité des modèles de langage extensifs, avec lesquels tout le monde joue, comme ChatGPT , Gemini, etc. Pour empêcher que les dégâts ne perdurent, pour éviter qu'ils ne s'accélèrent de manière incontrôlable, pour prévenir des maux plus graves que ceux déjà extrêmement graves que nous connaissons aujourd'hui, Marcus suggère de freiner et de réorienter la recherche. Les développements de l'IA générative doivent être supervisés, audités, cofinancés et guidés par les pouvoirs politiques, tout comme c'est le cas pour l'aviation ou la bourse. Qui songerait à laisser l'évolution de cette révolution entre les mains des mêmes entreprises qui la mènent et continuent de tolérer leur opacité totale, leurs mensonges avérés, leurs abus insignifiants, leur mépris de la vie privée et leur exploitation des données d'utilisation de chacun sans rien payer en retour ?

Eh bien, c'est précisément cette absurdité qui alimente la machine, sans que personne ne puisse y répondre avec la moindre garantie d'efficacité. L'idée, quelque peu hippie, naïve ou simplement progressiste, est que le moteur de ce changement de fonctionnement devra être la mobilisation et la résistance citoyennes, et que les pouvoirs politiques et les gouvernements s'en mêleront s'ils veulent continuer à remporter des élections. C'est naïf, bien sûr, mais je ne sais pas si quelqu'un a une meilleure idée.

Jordi Gracia , El Pais Espagne

Arrêtez la Silicon Valley

Gary Marcus
Traduction de Marc Figueras. Shackleton Books, 2025. 256 pages. 22,90 €.