De Rome

Après deux jours de débats au Borgo Laudato Si', fondé sur la propriété vaticane de Castel Gandolfo en mémoire du pape François et de son encyclique environnementale « Laudato Si' », les quelque 200 participants à cette rencontre internationale ont signé la « Déclaration de Rome », un document qui pourrait indiquer la voie du désarmement, de la solidarité et d'une utilisation appropriée de l'intelligence artificielle pour parvenir à « une paix désarmée et désarmante », comme l'a appelé à plusieurs reprises le pape Léon XIV .

La réunion, intitulée en anglais Assemblée mondiale des lauréats du prix Nobel sur l'intelligence artificielle et la guerre nucléaire, a rassemblé 30 lauréats du prix Nobel (dont Muhammad Yunus du Bangladesh, lauréat du prix Nobel de la paix 2006, Maria Ressa des Philippines, lauréate du prix Nobel de la paix 2021, et

L'Américain David Gross, lauréat du prix Nobel de physique en 2004), 20 experts en intelligence artificielle (IA) (dont des représentants des géants de la tech comme OpenAI, Google DeepMind et Anthropic), 30 anciens chefs de gouvernement de différents pays, des chefs religieux de diverses religions et des experts en armes nucléaires, ainsi que des scientifiques, des chercheurs et des professeurs de différentes universités telles que Harvard, Oxford et Columbia.

L’idée principale était de « promouvoir une vision commune de la paix, de l’innovation éthique et du contrôle de l’intelligence artificielle », a expliqué l’agence de presse du Vatican.

L'événement était organisé par la Fondation Domus Communis (qui, parmi ses projets, vise à donner une dimension humaine à l'IA) et était soutenu par l'Assemblée du prix Nobel pour la prévention de la guerre nucléaire, l'Initiative des femmes lauréates du prix Nobel, l'Université de Chicago, l'Université catholique d'Amérique, la faculté de médecine de Harvard, l'Université de Notre Dame, entre autres entités.

La « Déclaration de Rome pour une paix non armée et désarmée à l’ère de l’intelligence artificielle, des armes nucléaires et autonomes, des nouveaux protocoles numériques et des nouveaux modèles de développement numérique » a été signée par tous les participants, dont le maire de Rome, Roberto Gualtieri , qui a mis à disposition le Capitole, l’hôtel de ville, pour la cérémonie de clôture. L’actrice américaine Sharon Stone , qualifiée d’« ambassadrice de Magnifica Humanitas », l’encyclique du pape Léon XIII qui a en partie inspiré cette rencontre, était également présente.

Certains participants

Le Vatican était représenté par plusieurs dignitaires, dont le cardinal espagnol Ángel Fernández Artime , propréfet du Dicastère pour les Instituts de Vie Consacrée. S'adressant aux experts, le cardinal a souligné que « le problème n'est pas la technologie en elle-même, mais l'orientation que nous choisissons de lui donner. Si nous négligeons les droits fondamentaux, nous risquons de créer des systèmes qui favorisent le contrôle, la manipulation et de nouvelles formes d'inégalité », a-t-il déclaré.

Le professeur Daniel Holz , de l'Université de Chicago et directeur fondateur du Laboratoire des risques existentiels (X Lab), a rappelé aux participants que « la mauvaise nouvelle » est que « nous vivons une époque de danger sans précédent », mais que « la bonne nouvelle est qu'il existe de nombreuses choses que nous pouvons faire pour nous protéger davantage des armes nucléaires et de l'IA ».

Le professeur David Gross , prix Nobel de physique et titulaire de la chaire de physique théorique à l'université de Californie, a déclaré que son évaluation du danger que représentent les armes nucléaires est bien plus élevée qu'il y a trente ans. Il a également déploré la disparition des traités de contrôle des armements et le fait que neuf pays soient actuellement des puissances nucléaires. « Nous sommes en pleine course aux armements qui s'accélère. »

« Les peuples du monde ne peuvent plus ignorer comment ces menaces peuvent affecter non seulement leur propre vie, mais aussi, sans aucun doute, celle de leurs enfants et petits-enfants », a-t-il souligné.

L’ambassadrice de la paix Sharon Stone a également pris la parole, déclarant que, unis par l’objectif du bien commun et le respect de chaque être humain, à mesure que les capacités des machines augmentent, les efforts moraux de ceux qui les conçoivent doivent eux aussi progresser. « La dignité humaine », a-t-elle affirmé, « n’est pas un algorithme. »

Le document final

Certains ont vu dans la Déclaration de Rome une inspiration puisée dans le célèbre « Manifeste Russell-Einstein », signé en 1955 par le scientifique Albert Einstein et le philosophe mathématicien Bertrand Russell : « Nous voulons, en tant qu’êtres humains, retrouver d’autres êtres humains : souvenez-vous de votre humanité, oubliez le reste », déclaraient-ils dans ce manifeste qui appelait à un monde exempt d’armes nucléaires, notamment après les tragiques bombardements atomiques perpétrés quelques années auparavant par les États-Unis contre le Japon (Hiroshima et Nagasaki), qui avaient causé la mort de 120 000 personnes.

Le texte de la déclaration commence par souligner que « l’humanité se trouve à un moment décisif de son histoire », confrontée à « un défi sans précédent », raison pour laquelle il est important de se demander ce qu’il convient de faire.

L’une des propositions consiste à « désactiver la prochaine course aux armements, tant dans le domaine de l’intelligence artificielle que dans le domaine nucléaire, avant que ces deux éléments ne déterminent le visage du siècle prochain ».

La déclaration invite les gouvernements, les entreprises et les organisations internationales à « permettre un processus plus lent et plus coordonné pour les formes les plus avancées d'IA, en instituant des mécanismes partagés de vérification et d'évaluation ».

Concernant l’intelligence artificielle, le texte reconnaît qu’elle offre de nombreuses possibilités, mais aussi qu’elle risque « d’entraîner de nombreuses pertes d’emplois et d’intensifier la concurrence économique entre les puissances nucléaires ». Le document appelle la communauté internationale à développer des systèmes d’IA « agissant dans l’intérêt supérieur de l’humanité » et dans le « respect du droit international et des droits humains ».

Un autre point clé de la déclaration concerne les systèmes de contrôle de l'IA. Le texte appelle à « un traité international interdisant l'intégration irresponsable de l'IA dans les systèmes de commandement, de contrôle et de lancement des armes nucléaires, et garantissant qu'elle reste toujours sous contrôle humain ». Mais, parallèlement, il est nécessaire de « promouvoir le développement et l'utilisation responsables de l'IA afin d'améliorer le bien-être humain, d'accélérer les progrès scientifiques et médicaux, de protéger l'environnement, de renforcer la résilience des sociétés et de promouvoir la paix, le développement durable et le bien commun ».

L’appel des participants est de « créer un espace numérique commun » permettant la collecte et le partage des données nécessaires pour approfondir les connaissances et soutenir des actions efficaces concernant les armes nucléaires et l’IA.

Le document conclut en appelant d'urgence à l'ouverture de négociations visant à parvenir à « l'élimination vérifiable et irréversible des armes nucléaires », et à cette fin, il relance les principes déjà contenus dans le Traité sur la non-prolifération des armes nucléaires entré en vigueur en 1970 et dans le Traité sur l'interdiction des armes nucléaires approuvé par l'ONU en 2017 et applicable depuis le 22 janvier 2021.

Le premier traité, curieusement, n'autorisait la possession d'armes nucléaires qu'à cinq États membres de l'ONU, qui se trouvaient être les membres permanents du Conseil de sécurité de l'ONU : les États-Unis, le Royaume-Uni, la France, l'Union soviétique et la République populaire de Chine.

« Les nations dotées de l’arme nucléaire doivent promouvoir des politiques et des doctrines visant à réduire progressivement le rôle de ces armes, à renforcer la stabilité stratégique et à diminuer le risque de leur utilisation et du déclenchement d’une guerre aux conséquences catastrophiques », conclut le communiqué. « Notre survie et celle des générations futures sont en jeu. »

Par Elena Llorente , page 12