Éthique de l’IA : le Vatican réclame des institutions

Qui répond lorsqu’une intelligence artificielle cause un dommage ? Le développeur, l’administration qui l’a achetée, l’entreprise qui l’utilise — ou personne, parce que chacun renvoie vers la machine ? Le 30 octobre, devant une rencontre organisée par l’Académie pontificale pour la vie et le Future of Life Institute, le pape Léon XIV a placé cette question institutionnelle au cœur de son intervention.

Une responsabilité qui ne peut pas être déléguée au logiciel

Le discours articule cinq considérations : la possibilité de choisir les usages de l’IA, la différence entre machines et personnes, les décisions qui ne doivent pas être abandonnées aux systèmes, le partage des bénéfices et le besoin d’institutions. Léon XIV demande notamment une supervision humaine réelle pour les décisions touchant à la vie, à la liberté et à la force. Il encourage les États attendus à Genève en novembre à avancer vers l’interdiction des armes létales autonomes.

Son intervention ne crée aucun dispositif de contrôle. Elle oppose toutefois à la course à la puissance une autre priorité : des systèmes dont les conséquences puissent être comprises et maîtrisées. Le pape conteste aussi l’idée d’accorder une personnalité juridique aux machines si cela permet de diluer la responsabilité humaine.

L’éthique de l’IA ne part pas d’une page blanche

Depuis novembre 2021, l’UNESCO dispose d’une recommandation internationale sur l’éthique de l’IA. Elle traite notamment de transparence, de protection des droits, de données, d’éducation et de gouvernance. Ce texte prévoit des évaluations d’impact éthique : l’idée est d’examiner les effets d’un système sur les personnes et la société, pas seulement ses performances techniques. Il encourage aussi le développement des capacités nécessaires dans les États.

Une recommandation internationale n’est pas, par nature, un guichet auquel un citoyen peut adresser sa plainte. C’est précisément l’écart que l’intervention du Vatican invite à regarder : entre une valeur affichée et une procédure utilisable, il faut des responsables, des moyens, des informations accessibles et des décisions qui produisent des effets.

Ce décalage se retrouve dans les mots les plus consensuels. Affirmer qu’un service est « équitable » ne dit pas quels publics ont été testés. Le qualifier de « transparent » ne dit pas si une personne peut comprendre pourquoi son dossier a été écarté. Parler de « contrôle humain » ne renseigne ni sur le temps disponible pour vérifier, ni sur le pouvoir réel de désaccord.

Des recours déjà au centre d’un traité

Le Conseil de l’Europe a ouvert à la signature, le 5 septembre 2024, une convention-cadre consacrée à l’IA, aux droits humains, à la démocratie et à l’État de droit. À la différence d’une déclaration morale, c’est un instrument conventionnel conçu pour créer des obligations pour ses parties ; il ne faut pas en déduire que tous les pays y sont automatiquement soumis.

Le cadre prévoit notamment de documenter suffisamment les systèmes pour permettre aux personnes concernées de contester des décisions et de saisir les autorités compétentes. Il prévoit aussi une évaluation répétée des risques. Sa portée comporte des limites : les questions de défense nationale sont exclues. Le Saint-Siège a participé aux travaux en qualité d’observateur, indique le Conseil de l’Europe.

Ces démarches montrent que le débat ne se réduit plus à écrire une nouvelle liste de bonnes intentions. Il porte sur l’application, le périmètre et la possibilité de faire respecter les engagements. Elles ne prouvent pas, à elles seules, que chaque personne lésée dispose déjà d’un recours simple et efficace.

À quoi ressemble une protection utilisable ?

Prenons un cas fictif : une demande de financement est rejetée après le traitement automatique d’un dossier. La première question n’est pas de savoir si l’entreprise a publié une charte éthique. Le demandeur a besoin de connaître la décision, de vérifier les informations qui le concernent et de joindre quelqu’un capable de réexaminer son cas.

Un recours crédible doit aussi survivre aux contraintes ordinaires : une personne sans connexion permanente, une langue différente de celle de l’interface, un dossier incomplet ou une erreur de saisie. Cette traduction concrète est particulièrement importante lorsque des services numériques sont déployés auprès de publics très divers. Il ne s’agit pas d’attribuer ces garanties à un pays ou à un produit : ce sont les questions à poser avant de déclarer un dispositif protecteur.

L’indépendance du contrôle soulève enfin une difficulté de moyens. Examiner un système exige des compétences, un accès aux documents et la capacité de contredire son fournisseur. Créer une commission sans lui donner ces ressources pourrait ajouter une étape administrative sans améliorer la protection. Le discours pontifical n’apporte ni budget ni architecture détaillée pour résoudre ce problème.

Le déplacement proposé par Léon XIV mérite ainsi d’être jugé à sa conséquence la plus simple. L’IA peut rester un objet abstrait dans les conférences ; elle cesse de l’être lorsqu’un citoyen reçoit une décision qu’il ne comprend pas. C’est à cet endroit — dans la possibilité de demander des comptes et d’obtenir une correction — que les principes commencent à prendre corps.

Sources

- Saint-Siège — discours de Léon XIV, 30 octobre 2026
- UNESCO — recommandation sur l’éthique de l’intelligence artificielle, adoptée le 23 novembre 2021
- Conseil de l’Europe — convention-cadre sur l’IA, droits, recours et champ d’application

Sources consultées le 31 octobre 2026. Les exemples sont pédagogiques ; ils ne décrivent pas un litige réel. Le discours est une prise de position morale, distincte des règles applicables dans chaque juridiction.