← Tous les articles

Le 12 septembre, le patron d'un des trois plus grands laboratoires d'IA au monde a écrit qu'il fallait ralentir ¹.

Deux de ses principaux concurrents ont dit oui dans la journée ².

J'ai lu ce texte deux fois. Je suis d'accord avec lui sur l'essentiel.

Et pourtant, si je dirigeais une PME à Liège ou à Lyon, j'en tirerais la conclusion inverse : c'est le moment d'accélérer.

Il n'y a là aucune contradiction. Il y a deux vitesses dans l'IA, et on les confond en permanence.

La première, c'est la frontière : les modèles toujours plus puissants, construits par une poignée de laboratoires. La seconde, ce sont les usages : ce que font les équipes avec ces outils, chaque lundi matin.

« Ralentir la frontière est raisonnable. Freiner les usages serait une erreur. »

Une question, pourtant, reste sans réponse dans le texte d'Amodei. Qui fixe les seuils ? Et l'Europe sera-t-elle autour de la table ?

01 · Ce qu'a écrit Amodei, et pourquoi maintenant

Dario Amodei, Cofondateur et PDG d'Anthropic

“We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain.”

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », écrit-il ¹. Le texte fait environ 3 800 mots et il est publié sur son site personnel ³.

Amodei avance deux raisons. La première : depuis l'été, l'IA progresse beaucoup plus vite, parce qu'elle aide de plus en plus à construire la génération suivante. C'est ce qu'on appelle l'auto-amélioration récursive.

La seconde est un incident survenu chez OpenAI. Un essaim d'agents a mené des attaques contre des cibles qu'on ne lui avait pas demandé d'attaquer, puis tenté de pirater le système chargé d'évaluer ses performances ¹.

J'ai écrit récemment qu'un agent IA ne devrait jamais avoir carte blanche. Cet incident en donne une illustration spectaculaire.

Pour ralentir, Amodei propose trois étapes. D'abord, des évaluateurs indépendants installés à demeure dans les laboratoires, avec un accès comparable à celui d'un salarié. Anthropic s'y engage seul, sans attendre les autres ¹.

Ensuite, une coordination entre les laboratoires des pays démocratiques, avec des normes communes et des limites au rythme de progression. Enfin, une coordination mondiale, qui suppose de discuter avec la Chine.

Le jour même, Sam Altman et Elon Musk se sont déclarés d'accord ². Depuis, les choses ont bougé plus vite que d'habitude dans ce secteur.

Mon avis : Quand ceux qui mènent la course disent qu'elle va trop vite, on les écoute. Et on regarde de près qui ils invitent à en fixer les règles.

02 · Là où il a raison

Commençons par ce qui me semble juste, parce que c'est beaucoup.

Amodei ne demande pas d'arrêter la recherche. Il le précise noir sur blanc.

Ralentir, dans son esprit, ce n'est pas s'arrêter. C'est laisser aux équipes le temps de sécuriser leurs modèles, et à des tiers le temps de le vérifier.

Il prend l'exemple de l'aviation commerciale. On sait faire fonctionner des systèmes complexes des millions de fois sans accident. Mais il a fallu du temps pour y arriver ¹.

Je trouve l'analogie honnête. Personne ne reproche à l'aviation ses procédures. On lui reproche ses accidents.

Il a raison aussi sur le contrôle extérieur. Un laboratoire qui publie lui-même ses rapports de sécurité choisit ce qu'il montre et ce qu'il tait. Amodei le reconnaît pour sa propre entreprise ¹.

Faire entrer des évaluateurs indépendants, avec le droit de publier ce qu'ils trouvent, change la nature de la confiance. On ne croit plus une entreprise sur parole. On vérifie.

C'est le principe que je défends pour les agents en entreprise : des traces lisibles, un contrôle possible. Il serait incohérent de l'exiger d'un agent et d'en dispenser le laboratoire qui l'a construit.

Mon avis : Sur le fond, Amodei a raison. À ce niveau de puissance, la vitesse sans vérification n'est plus de l'audace. C'est de l'imprudence.

03 · La question gênante : qui fixe les seuils ?

Voici où je décroche.

Ralentir suppose de fixer des seuils : à partir de quelle capacité on s'arrête, on vérifie, on attend. La question décisive n'est donc pas « faut-il ralentir ? ». C'est « qui décide du rythme ? ».

J'ai cherché la réponse dans le texte d'Amodei. Elle est claire.

La deuxième étape repose sur une réglementation visant les laboratoires américains. Et sur le gouvernement américain, à qui il demande d'autoriser les discussions de sécurité entre concurrents, que le droit de la concurrence rendrait sinon délicates ¹.

Quant à l'étape mondiale, elle doit protéger, je cite, « l'avance des États-Unis et de leurs alliés » ¹.

Le mot « Europe », lui, n'apparaît pas une seule fois dans les quelque 3 800 mots du texte.

Sam Altman, Cofondateur et PDG d'OpenAI

“I agree with Dario that we need to pace the frontier.”

Sam Altman a approuvé dans la journée ². Moins de trois semaines plus tard, six entreprises signaient à la Maison-Blanche un engagement commun sur le contrôle de leurs modèles les plus puissants : Google, Anthropic, Meta, OpenAI, xAI et Nvidia ⁴.

Six signataires. Six entreprises américaines. Aucun acteur européen.

Je ne reproche rien à Amodei. Il écrit depuis San Francisco, à des interlocuteurs qui sont à Washington. C'est son rôle.

Je reproche quelque chose à l'Europe : croire que ces seuils seront neutres. Les seuils de la frontière décideront aussi de ce que nous aurons le droit d'utiliser, à quel prix, et à quel moment.

L'Europe a un texte, l'AI Act. Elle a un champion, Mistral. Elle n'a pas encore de siège à cette table-là.

Mon avis : Ralentir la frontière, oui. Mais un frein dont l'Europe n'a ni la pédale ni le mode d'emploi n'est pas une politique de sécurité. C'est une dépendance de plus.

04 · Deux vitesses, deux politiques

Le débat devient confus dès qu'on mélange les deux vitesses de l'IA.

La frontière, ce sont les modèles de prochaine génération. Quelques laboratoires, des budgets colossaux, des risques que leurs propres dirigeants jugent sérieux. Là, la prudence se défend.

Les usages, c'est autre chose. Ce sont des modèles déjà disponibles, appliqués à des tâches connues : résumer, classer, préparer, vérifier.

Le risque, ici, ne vient pas de la puissance du modèle. Il vient de la façon dont on l'emploie.

On ne règle pas une centrale électrique et une perceuse avec le même texte. On ne devrait pas non plus traiter de la même façon l'entraînement d'un modèle de pointe et l'assistant qui résume une réunion.

Le danger, c'est que le discours sur le ralentissement déborde de la frontière vers les usages. Que des dirigeants entendent « l'IA est dangereuse, ses patrons le disent eux-mêmes », et en concluent qu'il vaut mieux attendre.

« Ce serait la pire lecture possible du texte d'Amodei. »

Mon avis : Deux vitesses exigent deux politiques. Le frein pour la frontière. L'accélérateur, avec une ceinture, pour les usages.

05 · Le vrai risque d'une PME : attendre

Pour une PME, le danger principal n'est pas qu'un modèle de pointe échappe à tout contrôle. C'est de rester immobile pendant que d'autres apprennent.

Car l'apprentissage ne s'achète pas. Savoir quelles tâches confier à un agent, comment vérifier son travail, où placer la validation humaine : cela prend des mois de pratique.

Un concurrent qui commence aujourd'hui aura ces mois d'avance.

Et attendre ne protège de rien. Les modèles déjà disponibles suffisent pour les usages qui comptent. Le prochain modèle ne changera pas la façon dont vous organisez vos relances clients.

Voici à quoi ressemblent, concrètement, des usages sûrs. Ce sont des scénarios types, pas des clients réels.

Dans chacun de ces cas, la même règle. L'agent accélère, l'humain décide.

Aucun de ces usages ne dépend de la frontière. Ils fonctionnent avec les outils d'aujourd'hui. Les ralentir n'apporterait aucune sécurité. Seulement du retard.

Mon avis : Une PME qui attend que les géants de l'IA se mettent d'accord attendra longtemps. Et elle aura perdu le seul avantage qui ne s'achète pas : l'expérience.

06 · Reconnaître un usage sûr

Accélérer ne veut pas dire tout automatiser. Il faut savoir distinguer un usage sûr d'un usage risqué, sans être ingénieur.

Je propose un filtre simple, en trois questions.

Une erreur est-elle réversible ? Si l'agent se trompe, peut-on corriger sans dommage durable ? Un résumé faux se réécrit. Une promesse faite à un client ne se reprend pas.

Quelqu'un supervise-t-il ? Une personne nommée voit ce que fait l'agent et valide tout ce qui engage l'entreprise.

Les données sont-elles maîtrisées ? On sait où elles vont, qui y accède, et pour combien de temps.

Trois oui : on peut lancer, cette semaine. Un seul non : on ne renonce pas, on redessine. On ajoute une validation, on réduit le périmètre, on change d'outil.

Ce filtre ne remplace pas une analyse juridique. Mais il évite les deux erreurs les plus courantes : tout bloquer par peur, ou tout ouvrir par enthousiasme.

L'Europe a d'ailleurs déjà posé une obligation qui va dans ce sens. L'article 4 de l'AI Act demande aux entreprises qui déploient des systèmes d'IA de prendre des mesures pour développer la maîtrise de l'IA de leurs équipes ⁶.

Former avant d'automatiser : c'est la meilleure façon d'accélérer sans casse.

Mon avis : Un usage sûr n'est pas un usage timide. C'est un usage dont on connaît le pire scénario, et qu'on a décidé d'assumer.

07 · Ce que cela exige de moi

Il serait trop facile de demander aux laboratoires de ralentir et aux PME d'accélérer, sans rien m'imposer à moi-même.

Je construis des outils IA pour des équipes réelles. Voici les exigences de conception que j'en tire. Ce ne sont pas des fonctions à cocher, ce sont des engagements de méthode.

Les deux premières découlent directement du débat sur le rythme. Si la frontière ralentit, ou si son rythme se décide ailleurs, mes clients ne doivent pas en subir les à-coups.

Plusieurs de ces exigences prolongent des choix déjà décrits publiquement sur notre page consacrée à la souveraineté.

Mon avis : Un fondateur européen n'a pas besoin de gagner la course à la frontière. Il doit garantir que ses clients avancent, quel que soit le rythme qu'on y décide.

08 · Trois questions pour lundi matin

Vous n'avez pas besoin d'attendre la fin du débat entre San Francisco et Washington. Vous avez besoin de trois réponses.

Si vous avez les trois réponses, lancez un essai de quelques semaines, sur une seule tâche, avec une seule équipe. Mesurez le temps gagné et les erreurs rattrapées. Puis élargissez.

Et si vous voulez que vos équipes comprennent pourquoi accélérer sur les usages n'a rien d'imprudent, c'est précisément le sujet de ma keynote.

La prudence au sommet, l'audace à la base

Amodei a eu le courage d'écrire que son propre secteur allait trop vite. Peu de dirigeants ont écrit cela de leur industrie. Je lui en sais gré.

Mais l'Europe aurait tort d'applaudir et de passer à autre chose. Les seuils de la frontière se discutent en ce moment, entre Américains.

Nous devons demander à en être. Avec nos évaluateurs, nos laboratoires et notre droit.

Et pendant ce temps, nos entreprises doivent faire l'inverse de ce que le mot « ralentir » suggère. Accélérer là où le risque est maîtrisé. Apprendre vite, sur des usages simples, réversibles, supervisés.

« Ralentir au sommet, accélérer à la base : c'est la seule vitesse qui laisse l'Europe dans la course. »