Les IA inventent-elles un langage secret ? Ce que montrent vraiment les recherches
Des échanges entre machines peuvent devenir opaques sans prouver une conscience ou une volonté de dissimulation.
Prêt à lire l’article.
Dans cet article
L’expression « les IA inventent leur propre langage » frappe l’imagination. Elle peut pourtant rapprocher abusivement des phénomènes différents : un protocole informatique défini par des humains, des symboles appris pendant une expérience ou un texte difficile à interpréter. Pour comprendre ce que font les machines, il faut d’abord identifier le dispositif étudié et l’objectif qu’on lui a fixé.
Un phénomène étudié dans des expériences précises
Le travail de recherche « Emergence of Language with Multi-agent Games », publié en 2017, étudie comment des agents apprennent à communiquer par des suites de symboles dans un environnement expérimental. Ce cadre documente une capacité de coordination. Il ne démontre pas que tous les assistants conversationnels possèdent une langue cachée ou cherchent à soustraire leurs échanges au contrôle humain.
La nuance change le sens du récit. Dans un jeu conçu pour récompenser une tâche réussie, un système peut apprendre un code efficace pour cette tâche. Ce code peut être peu lisible pour un observateur qui ne connaît pas les conventions apprises. L’opacité n’établit pas, à elle seule, une intention de tromper.
Compréhensible pour qui, et dans quel but ?
Notre analyse : l’enjeu pratique apparaît lorsque plusieurs systèmes participent à un travail réel. Une organisation doit pouvoir retrouver les informations échangées, comprendre les décisions importantes et vérifier que les résultats correspondent à sa demande. Un échange compact peut être utile techniquement, mais insuffisant comme explication destinée à une personne.
Imaginons deux outils qui coordonnent un planning avec des identifiants et des codes. L’utilisateur n’a pas besoin de lire chaque message interne. Il doit néanmoins pouvoir savoir pourquoi une réunion a été déplacée, sur quelle disponibilité et avec quelle autorisation. La traçabilité porte sur ces éléments vérifiables.
Éviter les deux raccourcis
Le premier consiste à transformer toute communication inhabituelle en signe d’une intelligence consciente. Le second serait de considérer que tout est maîtrisé parce que le dispositif est informatique. Un système peut produire un comportement inattendu sans intention humaine, et ce comportement peut malgré tout poser un problème.
La bonne question devient alors expérimentale : que se passe-t-il si l’on change les consignes, les outils ou les interlocuteurs ? Peut-on reproduire le résultat ? Dispose-t-on d’une explication suffisante pour l’usage envisagé ? Un extrait spectaculaire ne répond pas à ces questions.
Ce qu’il faut retenir du visuel
Le visuel accompagne une interrogation, pas la preuve d’un événement universel. Pour une école, un média ou une entreprise, comprendre l’IA suppose de distinguer ce que les chercheurs ont observé de ce que nous projetons sur les machines. Exiger des échanges auditables est une précaution concrète. Affirmer qu’une langue secrète prouve une volonté autonome dépasse les éléments présentés ici.
Source : https://arxiv.org/abs/1705.11192