Au Portugal, de nouveaux outils veulent détecter la discrimination algorithmique
Le projet européen Equal AI met à disposition au Portugal une méthode pour examiner les discriminations produites par des algorithmes publics. Ces outils guident l’analyse, mais ne remplacent ni l’accès aux données ni les recours juridiques.
Prêt à lire l’article.
Dans cet article
La Commission portugaise pour la citoyenneté et l’égalité de genre a annoncé le 9 novembre 2026 la mise à disposition en portugais de ressources destinées à repérer et prévenir la discrimination algorithmique dans les administrations publiques. Elles sont issues du projet européen Equal AI, achevé après deux années de travail.
Quand un algorithme traite différemment
Une discrimination algorithmique apparaît lorsqu’un système produit, directement ou indirectement, un désavantage lié par exemple au sexe, à l’origine, au handicap ou à l’âge. Cela peut arriver même si la règle informatique n’emploie pas explicitement ces catégories : le quartier, le parcours professionnel ou certaines habitudes peuvent jouer le rôle d’indicateurs indirects.
Le Conseil de l’Europe réunit désormais une méthodologie européenne d’évaluation, un rapport sur les lacunes juridiques et des orientations pour les organismes chargés de l’égalité. Le projet associait notamment le Portugal, la Belgique et la Finlande, avec le soutien de l’Union européenne.
Un exemple dans un service public
Imaginons un outil qui classe automatiquement des demandes d’aide. Si les dossiers provenant de certaines zones sont systématiquement relégués, l’administration doit pouvoir expliquer les critères, tester les écarts et offrir un recours humain. Dire que « l’ordinateur a décidé » n’est pas une justification.
La méthode peut aider à poser les bonnes questions : quelles personnes sont affectées, quelles données ont été utilisées, qui contrôle le résultat et comment une erreur peut être corrigée ? Elle ne constitue cependant pas un audit automatique et ne donne pas, à elle seule, accès au code ou aux données d’un fournisseur.
Des résultats à ne pas confondre avec une garantie
La CIG annonce 27 événements et plus de 370 professionnels formés. Ces chiffres montrent une activité ; ils ne prouvent pas que toutes les administrations participantes ont corrigé leurs systèmes. Il faudra suivre l’usage réel des outils, les audits réalisés, les décisions modifiées et les recours obtenus par les personnes concernées.
Le Conseil de l’Europe rappelle aussi que ses standards généraux sur l’égalité et sa convention-cadre sur l’IA s’appliquent au débat. La responsabilité juridique dépend toutefois du droit en vigueur, de la nature du service et de la décision contestée.
Pour le public, l’avancée la plus concrète est la possibilité de demander une explication et de documenter un traitement inégal avec un vocabulaire commun. Pour les administrations, la leçon est simple : une IA publique doit rester vérifiable, contestable et rattachée à une personne responsable.
Sources
- Commission portugaise pour la citoyenneté et l’égalité de genre — bilan d’Equal AI, 9 novembre 2026
- Conseil de l’Europe — ressources sur l’IA et la discrimination
- Equal AI — présentation du projet européen
Sources consultées le 11 novembre 2026. Le bilan quantitatif provient des organisateurs ; l’effet sur les décisions publiques devra être mesuré séparément.