Selon un nouveau document du Vatican, l'IA devrait conduire à «une appréciation renouvelée de tout ce qui est humain»

En revanche, « l'intelligence humaine ne consiste pas principalement à accomplir des tâches fonctionnelles, mais à comprendre la réalité dans toutes ses dimensions et à s'y engager activement ; elle est également capable d'intuitions surprenantes ». Comme l'IA n'a pas la richesse de la corporalité, de la relationnalité et de l'ouverture du cœur humain à la vérité et à la bonté, ses capacités - bien qu'apparemment illimitées - sont incomparables avec la capacité humaine à appréhender la réalité ».

L'IA est elle-même un produit de l'intelligence humaine, et non une forme d'intelligence égale ou supérieure, souligne le document.

L'IA et la société
Le document souligne plusieurs écueils potentiels du développement de l'IA, tels que la possibilité d'une perturbation de la main-d'œuvre, l'affaiblissement des relations humaines face à face, la dégradation de la vie privée avec le développement de nouveaux systèmes de surveillance par l'IA, l'introduction d'informations inexactes ou biaisées dans le contexte de l'éducation, des médias ou de la société en général, et même, comme le Vatican l'a averti à plusieurs reprises, la possibilité du déploiement de l'IA dans la guerre qui a le pouvoir d'ôter directement des vies humaines.

Face à ces défis potentiels, le document appelle à un cadre éthique solide pour guider le développement et le déploiement de l'IA, en s'appuyant sur les principes de l'enseignement social catholique. De manière générale, le développement de l'IA doit toujours respecter et promouvoir la dignité intrinsèque de chaque être humain.

Le document souligne que, contrairement à une vision « fonctionnaliste » de l'IA, fortement axée sur les capacités de l'IA, la valeur et la dignité d'une personne reposent sur le fait qu'elle a été créée à l'image de Dieu, et non sur ses capacités cognitives ou ses réalisations technologiques. Le développement de l'IA doit respecter ce fait et promouvoir la dignité intrinsèque de chaque être humain, quelle que soit sa condition, écrivent les préfets.

En outre, les préfets notent que l'IA doit être utilisée pour servir le bien commun, promouvoir le développement humain intégral et ne pas être utilisée uniquement à des fins de profit individuel ou d'entreprise. Elle devrait autant que possible être utilisée pour réduire les inégalités et ne pas renforcer les déséquilibres de pouvoir existants, ont-ils écrit.

Les préfets poursuivent en affirmant que les systèmes d'IA ne peuvent être laissés à l'abandon sans surveillance humaine ; les humains, en tant qu'agents moraux, portent la responsabilité de la conception, de l'objectif et des conséquences des systèmes d'IA. Conformément au concept catholique de subsidiarité, la prise de décision en matière d'IA devrait être décentralisée et impliquer différents niveaux de la société, afin de permettre un large éventail de contributions, écrivent les préfets.

Le développement de l'IA devrait nous inciter à « une appréciation renouvelée de tout ce qui est humain », peut-être par un regain d'intérêt pour l'étude des sciences humaines, poursuit le document.

La vraie sagesse
Le document conclut en évoquant ce que le pape François a récemment appelé la « sagesse du cœur », à savoir que la véritable sagesse ne consiste pas seulement à acquérir des connaissances ou à maîtriser des compétences techniques, mais plutôt à intégrer l'intellect humain à la capacité que Dieu nous a donnée d'apprécier les valeurs de la vérité, de la bonté et de la beauté.

La « sagesse du cœur » est présentée comme une réponse aux dangers d'une mentalité purement technologique - ce que le pape François a appelé le « paradigme technocratique » - qui met l'accent sur l'efficacité et le contrôle au détriment de la dignité humaine et des relations, s'opposant ainsi à l'idée que la technologie peut à elle seule résoudre tous les problèmes.

« Puisque la perfection d'une personne ne se mesure pas à l'information ou à la connaissance qu'elle possède mais à la profondeur de sa charité, la façon dont nous incorporons l'IA pour inclure les plus petits de nos frères et sœurs, les plus vulnérables et ceux qui sont le plus dans le besoin, sera la véritable mesure de notre humanité », concluent les préfets.

« La 'sagesse du cœur' peut éclairer et guider l'utilisation centrée sur l'homme de cette technologie pour aider à promouvoir le bien commun, prendre soin de notre 'maison commune', faire avancer la recherche de la vérité, encourager le développement humain intégral, favoriser la solidarité et la fraternité humaines, et conduire l'humanité à son but ultime : le bonheur et la pleine communion avec Dieu. »

Le Vatican, sous l'égide du pape François, s'est engagé à de nombreuses reprises dans le développement de l'IA ; le pape a souvent parlé de l'importance de développer et d'utiliser l'IA de manière éthique, et le Vatican a parrainé des conférences sur l'IA au cours des dernières années.

La publication du document du DDF fait suite aux nouvelles « Lignes directrices sur l'intelligence artificielle » pour l'État de la Cité du Vatican que le pape François a publiées au début du mois et qui établissent des lignes directrices éthiques pour l'utilisation de l'intelligence artificielle au sein de l'État du Vatican.

Des experts catholiques, clercs et laïcs, se sont exprimés sur les dangers potentiels de l'IA, tels que la possibilité d'une extinction de l'humanité due à une mauvaise utilisation malveillante ou accidentelle, ainsi que sur les possibilités de développement et d'utilisation éthiques de l'IA au sein de l'Église.