Che cosa significa davvero «autonomo»

La nostra stessa linea si chiude con le parole «Poi autonomo». Una promessa così ha bisogno di una definizione, altrimenti resta un semplice stato d’animo. Nel nostro settore si chiama autonomo un assistente che invia da solo una e-mail, e si chiama autonoma anche la visione di aziende che funzionano senza personale.

Anche le automobili sono passate per la stessa confusione e ne sono uscite con una scala che oggi quasi tutti conoscono. Vale la pena prenderla in prestito.

Che cosa hanno azzeccato le auto

I livelli SAE di automazione della guida vanno da 0 a 5, e l’ente statunitense per la sicurezza stradale NHTSA li spiega in termini semplici. Fino al livello 2 è il conducente a guidare e a sorvegliare, anche quando il sistema sterza, frena e accelera al suo posto. Al livello 3 guida il sistema, ma il conducente deve restare disponibile a riprendere il controllo quando gli viene chiesto. Al livello 4 il sistema è pienamente responsabile all’interno di aree di servizio limitate, e chi è a bordo è un passeggero. Solo al livello 5 guida ovunque, in ogni condizione.

Due idee rendono la scala utile. Ogni livello è definito da chi ha la responsabilità, non da quanto è intelligente l’auto. E i livelli più alti sono delimitati da un luogo: il livello 4 significa piena responsabilità dentro un’area, non ovunque. La NHTSA osserva inoltre che anche il livello di automazione più alto oggi disponibile per i consumatori richiede il pieno impegno e l’attenzione esclusiva del conducente. La scala descrive un percorso, non un mercato.

Livelli per il lavoro

Nel 2025 tre ricercatori, Kevin Feng, David McDonald e Amy Zhang, hanno proposto una scala analoga per gli agenti IA. Definiscono cinque livelli in base al ruolo che la persona svolge: operatore, collaboratore, consulente, approvatore e osservatore. Al livello dell’approvatore la persona serve solo quando l’agente incontra un ostacolo che non riesce a risolvere da sé. Al livello dell’osservatore la persona può leggere i log, ma non dirige più il lavoro.

Il loro punto più acuto è che l’autonomia è una decisione di progetto deliberata, distinta dalla capacità. Un agente molto capace può comunque essere costruito per chiedere prima di ogni azione. La domanda non è mai soltanto se il modello sarebbe in grado di fare il lavoro. È quanta parte del lavoro qualcuno ha deciso di lasciargli fare da solo, e in base a quali prove.

In questi termini, oggi ogni prodotto crue opera ai livelli più bassi: la macchina redige e propone, una persona decide. La nostra fase successiva è il livello dell’approvatore, con punti di controllo dove l’azienda sceglie. North, per esempio, sposterà budget tra i canali entro i limiti fissati dall’azienda, e spiegherà perché. Su entrambe le scale siamo vicini al livello 4: piena responsabilità dentro un’area delimitata, e una persona chiamata quando si raggiunge il confine.

Che cosa deve essere vero prima

Un processo dovrebbe guadagnarsi il proprio livello come un’auto guadagna la propria area di servizio: con le prove, un’area delimitata alla volta. Prima che una routine giri da sola, devono esistere cinque cose.

Regole scritte: il tetto di budget, lo sconto che nessuno può concedere, il tono che il marchio non usa mai. Un agente non può rispettare un limite che esiste solo nella testa di qualcuno. Punti di controllo: momenti fissi in cui l’agente si ferma e una persona indicata per nome decide, collocati prima di tutto ciò che non si può annullare. Un registro: ogni passo annotato, così che un risultato sbagliato si possa ricondurre all’input, alla regola o al modello che l’ha causato. In Twin ogni passo viene registrato e ogni scrittura è firmata con l’identità del singolo utente.

Responsabilità: quando un agente sbaglia, ne risponde l’azienda. Un tribunale canadese l’ha chiarito nel 2024, quando Air Canada ha sostenuto che il suo chatbot era responsabile delle proprie azioni. Il tribunale non era d’accordo: la compagnia era responsabile di tutte le informazioni presenti sul proprio sito, chatbot o no, e ha dovuto pagare. Prove: un livello si guadagna su risultati misurati, non su una demo, come Proof dichiara un vincitore solo quando i numeri lo sorreggono.

Il regolamento UE sull’IA (AI Act) chiede cose molto simili per gli usi ad alto rischio. L’articolo sulla sorveglianza umana prescrive che le persone incaricate possano comprendere i limiti di un sistema, restino consapevoli della tendenza ad affidarvisi troppo, possano ribaltarne l’output e fermarlo. L’obbligo si applica dal 2 dicembre 2027 per gli usi ad alto rischio elencati nell’allegato III, e dal 2 agosto 2028 per quelli dell’allegato I.

Osservare non è sorvegliare

C’è una trappola nella parola sorveglianza. A febbraio Anthropic ha pubblicato dati su come le persone supervisionano davvero il suo agente di programmazione, Claude Code. I nuovi utenti lo lasciano agire senza chiedere in circa il 20 per cento delle sessioni; gli utenti esperti lo fanno in oltre il 40 per cento. Eppure gli utenti esperti lo hanno anche interrotto più spesso, in circa il 9 per cento dei turni contro il 5 per cento. Non avevano smesso di supervisionare. Erano passati dall’approvare ogni passo al guardare l’esecuzione e a intervenire quando contava.

Anthropic ha inoltre rilevato che solo circa lo 0,8 per cento delle azioni osservate risultava irreversibile, e ne ha concluso che una sorveglianza efficace richiede più che mettere una persona nella catena di approvazione: significa trovarsi in condizione di intervenire quando conta. Noi lo leggiamo come un argomento a favore di meno punti di controllo, ma migliori: al passo irreversibile, al denaro, al messaggio che esce dall’azienda.

L’azienda autonoma

Il dibattito più ampio riguarda se intere aziende funzioneranno così. Gartner prevede che entro il 2028 almeno il 15 per cento delle decisioni di lavoro quotidiane sarà preso in modo autonomo tramite IA agentica, contro lo zero del 2024. È un cambiamento reale, e secondo quella previsione la maggior parte delle decisioni resta comunque alle persone.

Il test più onesto finora è piccolo. Nel 2025 Anthropic ha lasciato gestire a un agente Claude un piccolo negozio d’ufficio per circa un mese. Ha venduto articoli sotto costo, si è lasciato convincere a distribuire codici sconto e per un periodo ha detto ai clienti di pagare su un conto che si era inventato. Il verdetto di Anthropic è stato che non lo assumerebbe, e insieme che i middle manager basati sull’IA sono plausibilmente all’orizzonte.

Al polo opposto, Margaret Mitchell e colleghi hanno sostenuto nel 2025 che gli agenti pienamente autonomi non dovrebbero essere sviluppati affatto, perché più controllo una persona cede a un agente, più aumentano i rischi per le persone. Noi ci collochiamo tra i due: intere funzioni potranno un giorno girare da sole, con le persone ai margini, e non fissiamo alcuna data.

Come una routine sale di livello

Per un’azienda la domanda pratica è più stretta: questa routine può salire di un livello? Il nostro test è breve. Le regole sono scritte. Il punto di controllo sta prima del passo irreversibile. Ogni azione è registrata e firmata a nome di una persona. Le bozze hanno smesso di richiedere correzioni nell’arco di un numero di esecuzioni sufficiente a contare. E c’è una via di ritorno all’ultima versione che funzionava.

I nostri prodotti seguono questo percorso. Tempo prepara e testa il mese, e una persona approva ogni post; poi pubblica ciò che supera i suoi test e chiede l’approvazione dove la volete. Proof esegue i test che una persona approva; poi avvia da solo il test successivo, entro le vostre regole. North spiega e una persona decide; poi sposta budget entro i limiti che fissate voi.

Autonomo, nell’uso che ne facciamo, non significa mai lasciato a se stesso. Significa un’area delimitata, regole scritte, un registro di ogni passo e una persona che risponde del risultato. La macchina può assumersi una parte sempre maggiore del lavoro. Il gusto, il giudizio e la responsabilità di ciò che si fa a nome di un’azienda restano umani, ed è questo che permette al resto di salire. Un’auto di livello 4 ha comunque un proprietario. Lo avrà anche ogni processo che gira da solo.