À ce contexte s’ajoute le développement incessant des systèmes d’armes, en particulier des armes liées à l’IA. Le Saint-Siège a récemment fait remarquer que la facilité croissante avec laquelle les systèmes d’armes à autonomie opérationnelle peuvent être utilisés rend la guerre plus “accessible” et moins soumise au contrôle humain, ce qui va à l’encontre du principe selon lequel l’usage de la force armée ne doit intervenir qu’en dernier recours, en cas de légitime défense. 183Cf. Dicastère pour la Doctrine de la Foi - Dicastère pour la Culture et l’Éducation, Note Antiqua et nova (14 janvier 2025), n. 99 : AAS 117 (2025), pp. 202-203. C’est pourquoi le développement et l’utilisation de l’IA dans le domaine militaire doivent être soumis aux contraintes éthiques les plus rigoureuses, dans le respect de la dignité humaine et du caractère sacré de la vie, en évitant une course aux armements. 184Cf. ibid., n. 103 : AAS 117 (2025), p. 204.
On parle parfois d’“agents moraux artificiels” comme si une machine pouvait garantir, avec plus de cohérence qu’un être humain, la distinction entre le bien et le mal. Mais le jugement moral ne se réduit pas à un simple calcul : il implique la conscience, la responsabilité personnelle et la reconnaissance de l’autre en tant que personne. Il n’est donc pas acceptable de confier à des systèmes artificiels des décisions mortelles ou, en tout cas, irréversibles. Il n’existe aucun algorithme capable de rendre la guerre moralement acceptable. L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données. Ainsi, elle nous habitue à l’idée que la violence est inévitable et qu’il suffit de l’optimiser. Il est donc primordial d’inculquer des valeurs et un jugement prudent dans la programmation des systèmes artificiels que nous construisons, lesquels peuvent contribuer à un écosystème moral dans lequel les êtres humains soient mieux à même d’écouter leur conscience et où les modèles d’IA fixent des limites appropriées.
Il ne suffit pas d’invoquer l’éthique de manière générale : il faut définir des critères précis de discernement. Le premier concerne la responsabilité personnelle. Lorsque la décision de frapper devient automatique ou opaque, le risque de déresponsabilisation augmente. C’est pourquoi la chaîne des responsabilités doit rester identifiable et vérifiable : ceux qui planifient, forment, autorisent et utilisent doivent pouvoir rendre compte de leurs choix. Le deuxième critère concerne le délai du jugement moral. L’IA tend à raccourcir les délais de décision ; mais, en temps de guerre, les décisions irréversibles ne peuvent avoir pour critères suprêmes la rapidité et l’efficacité. Le troisième critère est l’identification et la protection des civils. Toute technologie qui facilite le fait de frapper sans voir le visage de l’autre abaisse le seuil moral du conflit. La sélection des cibles et l’usage de la force ne peuvent confondre combattants et non-combattants, ni ignorer l’impact sur les populations sans défense.
De ces critères découlent certaines exigences incontournables. Tout d’abord, pour tout système utilisé dans un contexte de guerre, la traçabilité et la possibilité de reconstituer les décisions doivent être garanties, afin que les responsabilités et les éventuelles fautes ne se perdent pas dans l’engrenage. En second lieu, la décision de recourir à la force létale ne peut être déléguée à des processus opaques ou automatisés, mais doit rester sous un contrôle humain effectif, conscient et responsable. Enfin, il est nécessaire d’établir des règles communes, y compris au niveau international, qui freinent la course aux armements technologiques et assurent une protection particulière aux civils comme aux infrastructures essentielles à leur survie.