L’Allemagne renforce l’examen indépendant des IA puissantes

Le gouvernement allemand veut augmenter sa capacité à examiner indépendamment les modèles d’intelligence artificielle les plus puissants. Dans une réponse rendue publique par le Bundestag le 27 octobre, il décrit le développement de l’AI Safety and Security Institute Deutschland, ou AISI. L’objectif est de ne pas dépendre uniquement des affirmations des fournisseurs lorsqu’un modèle présente des risques importants.

Tester au lieu de croire une démonstration

Un modèle peut réussir une démonstration tout en échouant dans un autre contexte. Pour évaluer un outil capable, par exemple, de repérer des failles informatiques, il faut vérifier ce qu’il détecte, ce qu’il manque et les erreurs qu’il introduit. L’institut allemand doit développer cette capacité d’analyse, en coopération avec l’Office européen de l’IA et les organismes nationaux de cybersécurité.

La réponse officielle a été apportée à une question parlementaire portant notamment sur un modèle d’Anthropic. Le gouvernement précise que l’Office fédéral de la sécurité de l’information échange avec l’entreprise, mais qu’il n’a pas procédé lui-même à un test du modèle concerné. Cette limite est importante : suivre un dossier ou discuter avec un fournisseur ne produit pas les mêmes preuves qu’une évaluation indépendante.

Des règles européennes déjà en place

Le règlement européen sur l’intelligence artificielle prévoit des obligations particulières pour les modèles dits à risque systémique, c’est-à-dire assez puissants ou diffusés pour que leurs défaillances puissent avoir des effets larges. Les entreprises doivent notamment documenter certains tests et risques. L’Office européen de l’IA contrôle ce cadre avec les autorités nationales.

L’Allemagne ne propose donc pas de repartir de zéro. Elle veut renforcer les moyens techniques nécessaires pour vérifier l’application des règles. Des standards communs évitent qu’un même modèle soit évalué selon des méthodes incompatibles dans chaque pays. Ils doivent cependant rester transparents : une note unique peut masquer qu’un outil est bon en traduction mais fragile en cybersécurité.

Souveraineté et dépendance aux fournisseurs

La réponse parlementaire évoque aussi un marché-cadre pouvant atteindre 250 millions d’euros pour des plateformes d’IA jugées sûres et souveraines. Le plafond d’un marché ne correspond pas nécessairement à la dépense finale. Le mot « souverain » doit également être précisé : lieu d’hébergement, contrôle des clés, possibilité d’audit, droit applicable et capacité à migrer les données.

Prenons une administration qui résume des dossiers. Elle peut interdire l’envoi de documents sensibles à un service non autorisé. Mais elle doit aussi contrôler les comptes utilisateurs, conserver un historique et prévoir ce qui arrive lorsque le fournisseur modifie son modèle. La sécurité dépend du service complet, pas seulement du nom du modèle.

Une politique qui devra publier ses preuves

Le gouvernement indique observer les risques en continu, sans prévoir pour l’instant un rapport général distinct sur l’IA générative. Cette position peut être critiquée : sans publication régulière, le public et le Parlement disposent de moins de repères pour suivre les incidents, les évaluations et les corrections.

Le test du dispositif allemand sera donc sa transparence. Quels modèles ont été examinés ? Selon quelles méthodes ? Quelles limites ont été constatées ? Rendre ces réponses accessibles permettrait aux administrations, entreprises et citoyens de distinguer un contrôle réel d’une simple promesse de conformité.

Sources

- Bundestag — synthèse de la réponse gouvernementale 21/8735, 27 octobre 2026
- Commission européenne — règles applicables aux modèles d’IA à usage général

Sources consultées le 1er novembre 2026. Les capacités futures de l’institut et le plafond du marché public sont distingués des évaluations déjà réalisées.