Dans l’Encyclique Laudato si’, le Pape François dénonçait l’affirmation croissante d’un paradigme technocratique 119Cf. François, Lett. enc. Laudato si’ (24 mai 2015), nn. 106-109 : AAS 107 (2015), pp. 889-891. dans le monde globalisé : la tendance à laisser la logique de l’efficacité, du contrôle et du profit régir à elle seule les choix personnels, sociaux et économiques. Il apparaît ainsi plus clairement que la technique n’est pas un simple instrument et que, lorsqu’elle devient un critère, elle finit par déterminer ce qui compte et ce qui peut être écarté, réduisant la création à un objet d’exploitation et les personnes à des rouages d’un système qu’il faut rendre toujours plus performant.
Ce paradigme s’est rapidement étendu ces dernières années, notamment sous l’effet de la diffusion de l’intelligence artificielle, des sciences cognitives, de la nanotechnologie, de la robotique et de la biotechnologie. En soi, ces innovations peuvent devenir une aide précieuse pour le développement humain intégral et pour la sauvegarde de notre Maison commune. Mais, précisément en raison de leur puissance, elles peuvent agir comme un accélérateur du paradigme technocratique et nécessitent un nouveau cadre spirituel, éthique et politique. Plus puissant ne signifie pas nécessairement meilleur. En ce sens, les paroles de Romano Guardini restent d’actualité : « L’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir ». 120R. Guardini, Das Ende der Neuzeit, Würzburg 1965, p. 87 (édition française : La fin des temps modernes, Paris 1952, p. 92, par la suite éd. fr.).
Le danger que l’humanité devienne victime de ses propres conquêtes avait déjà été clairement perçu par saint Paul VI, lorsqu’il avertissait que « les progrès scientifiques les plus extraordinaires, les prouesses techniques les plus étonnantes, la croissance économique la plus prodigieuse, si elles ne s’accompagnent d’un authentique progrès social et moral, se retournent en définitive contre l’homme ». 121Saint Paul VI, Discours à l’occasion du 25e anniversaire de la FAO (16 novembre 1970) : AAS 62 (1970), p. 833. C’est pourquoi le progrès technique, précieux en soi, exige un discernement quant à la vision anthropologique qui le guide et aux fins qu’il poursuit. Si le développement technologique se poursuit sans une maturation éthique et sociale adéquate, il peut arriver que les moyens augmentent sans que l’humanité ne croisse dans la même mesure : on “a plus” mais on “n’est pas plus”, et la personne risque d’être évaluée avant tout en fonction des performances qu’elle garantit. 122Cf. François, Discours aux membres du Conseil pour un capitalisme inclusif (11 novembre 2019) : L’Osservatore Romano, 11-12 novembre 2019, p. 8.
Il convient ici de reconnaître un fait déterminant, que j’ai déjà rappelé précédemment : dans de nombreux cas, dans le contexte numérique, le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques qui, dans les faits, fixent les conditions d’accès, les règles de visibilité et les possibilités de participation. Lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, et augmente le risque d’un développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités.
Face à cette concentration du pouvoir dans le monde numérique, les grands principes de la Doctrine sociale deviennent des critères pour évaluer et discerner ce nouveau scénario : la dignité inaliénable de la personne, le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale. Ils nous invitent à vérifier si le pouvoir des infrastructures numériques et des algorithmes favorise réellement la participation et la responsabilité, protège les plus fragiles, assure un accès équitable aux opportunités et reste ordonné au bien de tous. Sur ces prémisses, nous pouvons désormais examiner de plus près ce qu’est l’intelligence artificielle, à quelles possibilités elle ouvre et quels risques elle comporte.