Une conférence au Vatican examine les implications de l'intelligence artificielle pour la démocratie et la justice

« De cette manière, l'Église est présente dans le débat, à la fois en faisant confiance aux responsables de ces technologies et de leur utilisation, et en se rendant disponible pour participer et soutenir les efforts moraux, éthiques et politiques de toutes les personnes de bonne volonté pour diriger ces technologies de manière appropriée.

IA et démocratie 
L'influence de l'IA sur les institutions démocratiques a été l'un des principaux thèmes de la conférence. Les experts ont discuté du potentiel de l'IA pour accroître la participation des citoyens et améliorer l'accès à l'information.

Toutefois, ils ont également mis en garde contre la capacité de l'IA à diffuser des informations erronées, à manipuler l'opinion publique et à saper les processus démocratiques.

« Nous avons beaucoup entendu parler des avantages potentiels pour la démocratie, des gains et de l'efficacité accrus et de la fourniture de services à la personne », a déclaré M. Kennedy lors de la conférence. 

« Je dirai cependant que, de mon point de vue de personne qui a dû mener plusieurs campagnes et de personne qui voit le défi que représentent actuellement la désinformation et la mésinformation, ainsi que les défis que nous observons tout au long de cette plateforme aux États-Unis, j'ai de réelles inquiétudes ».

« Que se passe-t-il lorsque des voix se font entendre au milieu d'une campagne ... lorsque ces voix ne sont pas réellement des personnes, mais des fausses voix qui ont été programmées ? ... Que se passe-t-il lorsque les campagnes peuvent créer ces vidéos ... décrivant des activités scandaleuses quelques jours avant une élection pour faire basculer quelques votes dans une certaine direction ?

Les discussions ont également porté sur le rôle de l'IA dans le renforcement de l'engagement civique. Les plateformes pilotées par l'IA pourraient faciliter le retour d'information direct des citoyens vers leurs représentants, rendant ainsi les dirigeants plus accessibles. Toutefois, les risques pour la vie privée et l'utilisation abusive potentielle d'outils de surveillance alimentés par l'IA suscitent également des inquiétudes.

La justice dans un monde piloté par l'IA
Un autre thème important de la conférence était le rôle de l'IA dans le système judiciaire. Les participants ont examiné comment l'IA peut à la fois perpétuer et atténuer les préjugés dans des domaines tels que la justice pénale, l'emploi et le logement.

« La justice et la démocratie pourraient être réduites à leur niveau le plus bas si les nouvelles technologies ne sont pas correctement contrôlées par l'État, ce qui ouvrirait les portes à une période historique de techno-autoritarisme », a déclaré Roberto Andrés Gallardo, président du COPAJU et de l'IFBC, lors de la conférence.

« La grande question d'aujourd'hui est de savoir si les entreprises sont contrôlées par les gouvernements ou si les gouvernements finissent par être cooptés par les entreprises informatiques », a-t-il ajouté.

La note conceptuelle de la conférence, publiée par l'Académie pontificale des sciences sociales, met en évidence les opportunités et les risques associés à l'IA. Si l'IA peut faire progresser la recherche, améliorer les conditions de travail, démocratiser l'accès au savoir et favoriser les avancées médicales, elle présente également d'importantes menaces potentielles, notamment la désinformation, l'inégalité économique et les technologies de surveillance pilotées par l'IA.

« Nous devons nous efforcer de comprendre comment l'IA remodèle l'économie, la société, le travail et la famille », peut-on lire dans la note. « Cependant, le pape François souligne la dualité de l'IA, qui est à la fois prometteuse et préoccupante. L'IA offre de multiples possibilités et pose des risques, notamment l'accroissement des inégalités, la désinformation, le déplacement des travailleurs, le renforcement des préjugés et la corrosion de la démocratie, de la justice et de la dignité humaine ».

Le pape s'est exprimé sur les défis éthiques posés par l'IA. Dans son message au Forum économique mondial de 2025, il a mis en garde contre les dangers d'un « paradigme technocratique », qui privilégie l'efficacité à la dignité humaine.

« Les développements technologiques qui n'améliorent pas la vie de tous, mais créent ou aggravent les inégalités et les conflits, ne peuvent être considérés comme un véritable progrès », a déclaré le pape François.

L'IA et la fracture numérique
Le deuxième jour de la conférence, les participants ont exploré les implications de l'IA pour les pays en développement et les communautés mal desservies. Les discussions ont porté sur la fracture numérique, le rôle de l'IA dans le développement durable et les stratégies visant à garantir un accès équitable aux technologies basées sur l'IA.

Tout au long de la conférence, les participants ont fait écho à l'appel du pape François en faveur d'un cadre éthique pour le développement de l'IA qui donne la priorité à la dignité humaine et à la responsabilité sociale. Le pape a mis en garde à plusieurs reprises contre le fait de permettre aux machines de prendre des décisions qui devraient rester sous le contrôle de l'homme, en particulier dans des domaines tels que les systèmes d'armes automatisés.

« Nous soulignons l'importance de donner la priorité à la dignité humaine, à l'action et à la prise de décision face aux progrès de l'IA », ont déclaré les organisateurs de la conférence dans le livret de la conférence. « Nous mettons en garde contre la délégation des décisions aux machines lorsque ces décisions portent atteinte à la liberté et à la responsabilité humaines et sont détachées des considérations éthiques.

L'Académie pontificale des sciences sociales a mis en exergue une citation de Geoffrey Hinton, lauréat du prix Nobel de physique 2024 connu sous le nom de « parrain de l'IA », qui a déclaré : « Nous entrons dans une période de grande incertitude où nous sommes confrontés à des choses que nous n'avons jamais traitées auparavant.

« Et normalement, la première fois que l'on s'occupe de quelque chose de totalement nouveau, on se trompe. Et nous ne pouvons pas nous permettre de nous tromper dans ce domaine », a-t-il ajouté.