Ce que veut vraiment dire autonome

Notre propre signature se termine par les mots « bientôt autonome ». Une telle promesse a besoin d’une définition, sinon elle n’est qu’un état d’esprit. Dans notre secteur, on qualifie d’autonome un assistant qui envoie seul un e-mail, et tout autant la vision d’entreprises qui tourneraient sans personnel.

L’automobile a connu la même confusion et en est sortie avec une échelle que la plupart des gens connaissent aujourd’hui. Elle mérite qu’on l’emprunte.

Ce que l’automobile a bien compris

Les niveaux d’automatisation de la conduite définis par la SAE vont de 0 à 5, et l’agence américaine de sécurité routière, la NHTSA, les explique en termes simples. Jusqu’au niveau 2, c’est vous qui conduisez et qui surveillez, même lorsque le système dirige, freine et accélère à votre place. Au niveau 3, le système conduit, mais vous devez être disponible pour reprendre la main quand il le demande. Au niveau 4, le système est entièrement responsable dans des zones de service limitées, et les personnes à bord sont des passagers. Ce n’est qu’au niveau 5 qu’il conduit partout, dans toutes les conditions.

Deux idées rendent cette échelle utile. Chaque niveau se définit par qui est responsable, et non par l’intelligence de la voiture. Et les niveaux supérieurs sont liés à un lieu : le niveau 4 signifie une responsabilité totale à l’intérieur d’une zone, pas partout. La NHTSA rappelle aussi que même le niveau d’automatisation le plus élevé accessible aujourd’hui aux particuliers exige l’engagement total et l’attention sans partage du conducteur. L’échelle décrit un chemin, pas un marché.

Des niveaux pour le travail

En 2025, trois chercheurs, Kevin Feng, David McDonald et Amy Zhang, ont proposé une échelle semblable pour les agents d’IA. Ils définissent cinq niveaux selon le rôle que joue la personne : opérateur, collaborateur, consultant, approbateur et observateur. Au niveau de l’approbateur, la personne n’est sollicitée que lorsque l’agent rencontre un obstacle qu’il ne peut pas lever seul. Au niveau de l’observateur, la personne peut lire les journaux, mais ne pilote plus le travail.

Leur idée la plus forte : l’autonomie est un choix de conception délibéré, distinct de la capacité. Un agent très capable peut tout à fait être conçu pour demander avant chaque action. La question n’est jamais seulement de savoir si le modèle pourrait faire le travail. Elle est de savoir quelle part du travail quelqu’un a décidé de lui confier seul, et sur la foi de quelles preuves.

En ces termes, chaque produit crue fonctionne aujourd’hui aux niveaux inférieurs : la machine rédige et propose, une personne décide. Notre prochaine étape est le niveau de l’approbateur, avec des points de validation là où l’entreprise le décide. North, par exemple, déplacera le budget entre les canaux dans les limites fixées par l’entreprise, et dira pourquoi. Sur les deux échelles, cela se rapproche du niveau 4 : une responsabilité totale dans une zone délimitée, et une personne appelée dès que la limite est atteinte.

Ce qui doit être en place d’abord

Un processus devrait gagner son niveau comme une voiture gagne sa zone de service : avec des preuves, une zone délimitée après l’autre. Avant qu’une tâche récurrente ne tourne seule, cinq choses doivent exister.

Des règles écrites : le plafond budgétaire, la remise que personne n’a le droit d’accorder, le ton que la marque n’emploie jamais. Un agent ne peut pas respecter une limite qui n’existe que dans la tête de quelqu’un. Des points de validation : des étapes fixes où l’agent s’arrête et où une personne désignée décide, placées avant tout ce qui est irréversible. Une trace : chaque étape journalisée, pour qu’un résultat erroné puisse être ramené à l’entrée, à la règle ou au modèle qui l’a provoqué. Dans Twin, chaque étape est journalisée et chaque écriture se fait sous l’identité de l’utilisateur.

Un responsable : quand un agent se trompe, c’est l’entreprise qui en répond. Un tribunal canadien l’a dit clairement en 2024, lorsqu’Air Canada a soutenu que son chatbot était responsable de ses propres actes. Le tribunal ne l’a pas suivie : la compagnie aérienne était responsable de toutes les informations figurant sur son site, chatbot ou non, et a dû payer. Des preuves : un niveau se gagne sur des résultats mesurés, pas sur une démo, de la même manière que Proof ne désigne un gagnant que lorsque les chiffres le portent.

Le règlement européen sur l’IA (AI Act) exige à peu près la même chose pour les usages à haut risque. Son article sur le contrôle humain impose que les personnes responsables puissent comprendre les limites d’un système, rester conscientes de la tendance à trop s’y fier, passer outre ses résultats et l’arrêter. L’obligation s’applique à partir du 2 décembre 2027 pour les usages à haut risque énumérés à l’annexe III, et à partir du 2 août 2028 pour ceux relevant de l’annexe I.

Observer n’est pas contrôler

Le mot « contrôle » cache un piège. En février, Anthropic a publié des données sur la façon dont les gens supervisent réellement son agent de programmation, Claude Code. Les nouveaux utilisateurs le laissaient agir sans demander dans environ 20 pour cent des sessions ; les utilisateurs expérimentés, dans plus de 40 pour cent. Pourtant, ces derniers l’interrompaient aussi plus souvent, dans environ 9 pour cent des échanges contre 5 pour cent. Ils n’avaient pas cessé de superviser. Ils étaient passés de l’approbation de chaque étape à l’observation du déroulement, en intervenant quand cela comptait.

Anthropic a aussi constaté que seuls 0,8 pour cent environ des actions observées semblaient irréversibles, et en a conclu qu’un contrôle efficace exige davantage que de placer une personne dans la chaîne d’approbation : il faut être en mesure d’intervenir quand cela compte. Nous y voyons un argument pour des points de validation moins nombreux et mieux placés : à l’étape irréversible, là où il y a de l’argent, là où un message quitte l’entreprise.

L’entreprise autonome

Le débat plus large porte sur la question de savoir si des entreprises entières fonctionneront ainsi. Gartner prévoit qu’au moins 15 pour cent des décisions de travail quotidiennes seront prises de manière autonome par l’IA agentique d’ici 2028, contre aucune en 2024. C’est un vrai changement, et selon cette même prévision, la plupart des décisions restent entre les mains des personnes.

Le test le plus honnête à ce jour est modeste. En 2025, Anthropic a confié à un agent Claude la gestion d’une petite boutique de bureau pendant environ un mois. Il a vendu des articles à perte, s’est laissé convaincre d’accorder des codes de réduction et a, pendant un temps, demandé aux clients de payer sur un compte qu’il avait inventé. Anthropic a conclu qu’elle ne l’embaucherait pas, mais aussi que des cadres intermédiaires IA se profilent plausiblement à l’horizon.

À l’autre extrémité, Margaret Mitchell et ses collègues ont soutenu en 2025 qu’il ne faudrait pas développer du tout d’agents entièrement autonomes, car plus une personne cède de contrôle à un agent, plus les risques pour les personnes augmentent. Nous nous situons entre les deux : des fonctions entières pourraient un jour tourner seules, avec des personnes postées à leurs frontières, et nous n’y mettons aucune date.

Comment une tâche monte d’un niveau

Pour une entreprise, la question pratique est plus étroite : cette tâche précise peut-elle monter d’un niveau ? Notre test est court. Les règles sont écrites. Le point de validation se trouve avant l’étape irréversible. Chaque action est journalisée et attribuée à une personne. Les brouillons ne demandent plus de corrections, sur un nombre d’exécutions suffisant pour que cela compte. Et il existe un chemin de retour vers la dernière version qui fonctionnait.

Nos propres produits suivent ce chemin. Tempo prépare et teste le mois, et une personne approuve chaque publication ; prochaine étape : il publie ce qui réussit ses tests et demande une validation là où vous le souhaitez. Proof lance les tests qu’une personne approuve ; prochaine étape : il lance seul le test suivant, dans le cadre de vos règles. North explique et une personne décide ; prochaine étape : il déplace le budget dans les limites que vous fixez.

Autonome, au sens où nous l’entendons, ne veut jamais dire sans surveillance. Cela veut dire une zone délimitée, des règles écrites, une trace de chaque étape et une personne qui répond du résultat. La machine peut prendre en charge une part toujours plus grande du travail. Le goût, le jugement et la responsabilité de ce qui est fait au nom d’une entreprise restent humains, et c’est ce qui permet au reste de monter d’un niveau. Une voiture de niveau 4 a toujours un propriétaire. Il en ira de même pour chaque processus qui tourne seul.