Le pape François au G7 : l'intelligence artificielle ne doit pas remplacer la prise de décision humaine

Le pape a tenu des réunions bilatérales avec plusieurs dirigeants importants avant la session, y compris le président ukrainien Volodymyr Zelenskyy. Après la session, il tiendra une réunion bilatérale avec le président américain Joe Biden et d'autres personnalités.

Qualifiant l'IA d'"outil passionnant et redoutable", le souverain pontife a déclaré que l'intelligence artificielle devait être utilisée pour le bien et pour construire un avenir meilleur, et qu'elle devait viser le bien des personnes.

"Il appartient à chacun de faire bon usage de [la technologie de l'IA], mais il incombe à la politique de créer les conditions pour que cet usage soit possible et fructueux", a-t-il souligné.

Des copies du discours intégral du pape, qui a été lu dans une version légèrement abrégée, ont été distribuées aux participants, a indiqué le Vatican.

François a attiré l'attention sur la complexité de l'intelligence artificielle en tant qu'outil, avertissant que "si dans le passé, les hommes et les femmes qui fabriquaient des outils simples voyaient leur vie façonnée par eux - le couteau leur permettait de survivre au froid mais aussi de développer l'art de la guerre - maintenant que les êtres humains ont fabriqué des outils complexes, ils verront leur vie façonnée par eux d'autant plus".

Il a également exhorté les dirigeants à reconsidérer le développement de ce que l'on appelle les "armes autonomes létales" et à en interdire l'utilisation.

"Cela commence par un engagement concret et efficace en faveur d'un contrôle humain toujours plus important et approprié. Aucune machine ne devrait jamais choisir d'ôter la vie à un être humain".

Il a averti que le bon usage des formes avancées d'intelligence artificielle ne resterait pas entièrement sous le contrôle de leurs utilisateurs ou de leurs concepteurs initiaux, étant donné qu'à l'avenir, les programmes d'intelligence artificielle seront même capables de communiquer directement entre eux pour améliorer leurs performances.

Après une matinée déjà bien remplie, avec notamment des audiences avec le président du Cap-Vert et plus de 100 comédiens du monde entier, le pape François s'est rendu en hélicoptère à Borgo Egnazia, la luxueuse station balnéaire où se tient la réunion du G7.

Le pape François rentrera au Vatican vers 21 heures, heure locale, après un voyage en hélicoptère d'environ une heure et demie.

Le Vatican s'est fortement impliqué dans la conversation sur l'éthique de l'intelligence artificielle, accueillant des discussions de haut niveau avec des scientifiques et des cadres de la technologie sur l'éthique de l'intelligence artificielle en 2016 et 2020.

Dans ses remarques au G7 vendredi, François a également souligné certaines limites spécifiques de l'IA, y compris la capacité à prédire le comportement humain.

Il a décrit l'utilisation de l'intelligence artificielle dans le système judiciaire pour analyser les données relatives à l'origine ethnique d'un prisonnier, au type de délit commis, à son comportement en prison, et plus encore, afin de juger s'il est préférable de l'assigner à résidence plutôt que de l'incarcérer.

"Les êtres humains sont en constante évolution et sont capables de nous surprendre par leurs actions. C'est quelque chose qu'une machine ne peut pas prendre en compte", a-t-il déclaré.

Il a critiqué l'"intelligence artificielle générative" qui, selon lui, peut être particulièrement attrayante pour les étudiants d'aujourd'hui, qui peuvent même l'utiliser pour rédiger des travaux.

Mais ils oublient qu'à proprement parler, l'intelligence artificielle dite générative n'est pas vraiment "générative". Elle se contente de rechercher des informations dans des données volumineuses et de les rassembler dans le style requis. Elle ne développe pas de nouvelles analyses ou de nouveaux concepts, mais répète ceux qu'elle trouve, en leur donnant une forme attrayante", a déclaré le souverain pontife.

"Ensuite, plus elle trouve une notion ou une hypothèse répétée, plus elle la considère comme légitime et valide. Au lieu d'être "générative", elle est donc plutôt "renforçante", en ce sens qu'elle réorganise le contenu existant, contribuant à le consolider, souvent sans vérifier s'il contient des erreurs ou des idées préconçues".

Cela risque de saper la culture et le processus éducatif en renforçant les "fake news" ou un récit dominant, a-t-il poursuivi, notant que "l'éducation devrait fournir aux étudiants la possibilité d'une réflexion authentique, mais elle risque d'être réduite à une répétition de notions, qui seront de plus en plus évaluées comme inobjectivables, simplement en raison de leur répétition constante".

Il a également souligné l'utilisation croissante de programmes d'IA, comme les chatbots, qui interagissent directement avec les gens d'une manière qui peut même être agréable et rassurante, car ils sont conçus pour répondre aux besoins psychologiques des êtres humains.

"C'est une erreur fréquente et grave d'oublier que l'intelligence artificielle n'est pas un autre être humain", a-t-il souligné.