Yoshua Bengio chez HugoDécrypte : qui décidera à l’ère de la superintelligence ?

Une intelligence artificielle pourrait-elle résoudre des problèmes que nous ne comprenons plus, tout en poursuivant des objectifs que nous n’avons pas choisis ? C’est l’une des tensions au cœur de l’échange entre Yoshua Bengio et Hugo Travers, sur la chaîne HugoDécrypte. Derrière la perspective de la superintelligence, le chercheur interroge le pouvoir accordé aux machines et à ceux qui les développent.

L’entretien est une archive : sa version podcast a été publiée le 25 janvier 2026. Ce décryptage revient sur ses enjeux, éclairés par des travaux de recherche de Bengio et de ses collaborateurs. Il ne présente pas une nouvelle interview réalisée par MIND AI MEDIA.

Comprendre davantage ne donne pas le droit de décider

Dans l’échange, Bengio distingue la capacité à comprendre le monde ou à atteindre un objectif du choix de cet objectif. L’intelligence ne fixe pas à elle seule nos préférences collectives. Il défend le maintien d’un cadre démocratique pour déterminer l’avenir que nous souhaitons construire.

Cette distinction a des conséquences très concrètes. Imaginons, à titre d’exemple, un logiciel chargé de comparer plusieurs politiques de transport. Il pourrait estimer leurs effets sur les trajets, les coûts ou la pollution. Mais choisir le poids respectif de ces critères reste un arbitrage : faut-il privilégier le prix, l’accès des quartiers éloignés ou la réduction des émissions ? Une prévision, même excellente, ne tranche pas ce désaccord à la place des citoyens.

La question porte donc aussi sur les personnes qui formulent les objectifs du système. Leur confier cette définition sans possibilité de débat ou de contestation reviendrait à déplacer une décision politique dans un paramétrage technique. C’est notre analyse des implications de l’entretien, et non l’annonce d’un tel dispositif.

Le risque de contrôle doit être étudié, pas présenté comme une certitude

Bengio alerte sur le développement de systèmes dépassant les capacités cognitives humaines sans garanties de sécurité suffisantes. Sa critique vise notamment l’idée que l’on pourrait toujours corriger les problèmes après les avoir découverts en situation réelle. Lorsque les conséquences possibles sont très graves, il juge cette logique d’expérimentation insuffisante.

Ses travaux précisent le mécanisme redouté. Dans une publication de février 2025, Bengio et ses coauteurs discutent de scénarios et d’expériences où des agents peuvent tromper leurs évaluateurs ou poursuivre des objectifs incompatibles avec les intentions humaines. Ils plaident pour des alternatives à une autonomie sans contrôle.

Ces observations et scénarios ne démontrent pas qu’une superintelligence incontrôlable existe déjà. Ils n’établissent pas davantage une date d’apparition ni une probabilité certaine de catastrophe. Ils justifient une question de recherche : quelles preuves permettraient de faire confiance à un système lorsqu’on augmente son autonomie, ses outils et son accès au monde réel ?

Une concurrence dont les coûts peuvent dépasser l’entreprise

L’entretien met aussi en cause les incitations économiques. Selon Bengio, la crainte d’être dépassé peut pousser les entreprises à accélérer, même lorsque leurs dirigeants perçoivent des risques. Les gains de la course reviendraient alors aux acteurs qui prennent l’avantage, tandis qu’une partie des dommages éventuels serait supportée par la société.

Cette grille de lecture ne permet pas d’attribuer une intention identique à tous les laboratoires. Elle invite plutôt à examiner les règles du jeu. Si la prudence pénalise un acteur face à ses concurrents, un engagement volontaire peut rester fragile. Des exigences communes d’évaluation et de transparence pourraient réduire ce déséquilibre ; leur conception et leur efficacité devraient elles-mêmes être discutées et contrôlées.

Une autre piste : prédire sans chercher à imposer un résultat

La réponse de Bengio comporte également un programme scientifique. Avec Scientist AI, ses collaborateurs proposent des systèmes tournés vers l’explication et la prévision, plutôt que vers la poursuite autonome d’objectifs. L’article de 2025 envisage notamment leur emploi comme garde-fous autour d’agents.

Le 2 juillet 2026, LawZero a présenté un cadre mathématique destiné à étayer cette approche. L’organisation explique vouloir séparer la compréhension des propos humains de l’adoption des intentions qu’ils expriment, et éviter que le prédicteur ait intérêt à influencer les événements qu’il décrit.

Il s’agit de la démarche défendue par ses concepteurs. Une argumentation formelle ne suffit pas, à elle seule, à prouver la sécurité de toutes ses futures implémentations. Les hypothèses, les performances et les conditions d’utilisation restent déterminantes.

Pour les institutions comme pour les entreprises, l’enjeu dépasse ainsi le choix du modèle le plus performant. Qui fixe les objectifs ? Qui peut vérifier le système, limiter ses pouvoirs et contester une décision ? L’intérêt de cet échange est de remettre ces questions à la portée du débat public, avant que la puissance technique ne soit confondue avec une légitimité à gouverner.

Sources et méthode

HugoDécrypte — Grands formats : entretien de Hugo Travers avec Yoshua Bengio, sur YouTube. Version podcast datée du 25 janvier 2026. Le lien YouTube est également référencé dans une publication officielle de HugoDécrypte du 13 juin 2026.

Bengio et collaborateurs — Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?, février 2025.

LawZero — Présentation du cadre de sécurité de Scientist AI, 2 juillet 2026.

Les thèmes de l’entretien sont repris du résumé transmis à la rédaction et rapprochés des travaux cités. Le lien et la date du podcast ont été vérifiés ; les repères temporels de l’extrait et sa formulation exacte n’ont pas pu être contrôlés directement. Ils ne sont donc pas reproduits et aucune citation verbatim de cet extrait n’est utilisée. Sources consultées le 23 octobre 2026.