L’Australie sommée d’éclairer ses décisions automatisées
Un rapport du Centre for Public Integrity estime que l’administration australienne utilise des systèmes automatisés sans registre public ni contrôle légal suffisamment cohérent. Le souvenir du scandale Robodebt nourrit la demande de transparence.
Prêt à lire l’article.
En Australie, le Centre for Public Integrity a publié le 5 novembre un rapport demandant un cadre légal plus solide pour les décisions publiques automatisées. Ces systèmes utilisent des règles informatiques ou de l’intelligence artificielle pour aider à calculer une prestation, repérer un dossier ou recommander une action. L’organisation juge que le public ne peut pas toujours savoir où ils sont utilisés ni comment contester leur résultat.
Quand l’ordinateur devient une porte d’entrée
Un système automatisé peut accélérer le traitement de milliers de demandes. Par exemple, il peut comparer les revenus déclarés avec les critères d’une aide. Mais si la donnée est incomplète ou la règle mal conçue, une erreur se reproduit à grande échelle. Pour l’usager, la différence entre un « outil d’aide » et une décision entièrement automatisée n’est pas toujours visible.
Le rapport recommande de publier la finalité de chaque système, les données utilisées, l’autorité responsable et les résultats des audits. Il veut aussi que les personnes soient informées lorsqu’une automatisation a joué un rôle important dans leur dossier.
Le précédent Robodebt
La commission royale sur Robodebt a montré comment une méthode automatisée d’estimation des revenus avait créé des dettes présumées sans base légale suffisante. Son rapport final a recommandé un registre, des mécanismes de révision et des audits des systèmes automatisés. Le scandale démontre qu’un calcul rapide n’est pas forcément un calcul juste.
Le gouvernement fédéral affirme avoir engagé la mise en œuvre des recommandations et travailler sur une politique d’usage responsable. Le point de vue contradictoire est que des outils correctement encadrés peuvent réduire les délais et rendre les décisions plus cohérentes. Mais le gain d’efficacité ne remplace ni l’explication ni le droit de recours.
Pour le public, le test simple est le suivant : une personne doit pouvoir savoir qu’un système a été utilisé, comprendre les informations déterminantes et parler à un agent capable de corriger le dossier. Pour les administrations ailleurs dans le monde, y compris en Afrique, la leçon est de créer le registre et la procédure de recours avant le déploiement.
Sources
- Centre for Public Integrity — « Computer Says No », 5 novembre 2026
- Commission royale australienne — rapport final sur Robodebt
- Premier ministre et Cabinet — suivi de la réponse à Robodebt
Sources consultées le 6 novembre 2026. Le Centre for Public Integrity est une organisation de recherche indépendante qui défend une réforme ; ses recommandations ne sont pas encore la loi.