Vad autonom egentligen betyder

Vår egen devis slutar med orden autonomt härnäst. Ett sådant löfte behöver en definition, annars är det bara en känsla. I vår bransch kallas en assistent som skickar ett enda mejl på egen hand för autonom, och det gör även visionen om företag som drivs helt utan personal.

Bilbranschen gick igenom samma förvirring och kom ut ur den med en skala som de flesta i dag känner till. Den är värd att låna.

Vad bilbranschen gjorde rätt

SAE:s nivåer för automatiserad körning går från 0 till 5, och den amerikanska trafiksäkerhetsmyndigheten NHTSA förklarar dem på ett enkelt sätt. Upp till nivå 2 kör du och övervakar, även när systemet styr, bromsar och gasar åt dig. På nivå 3 kör systemet, men du måste vara redo att ta över när det ber om det. På nivå 4 bär systemet hela ansvaret inom avgränsade områden, och de som sitter i bilen är passagerare. Först på nivå 5 kör det överallt, under alla förhållanden.

Två idéer gör skalan användbar. Varje nivå definieras av vem som bär ansvaret, inte av hur smart bilen är. Och de högre nivåerna är bundna till en plats: nivå 4 innebär fullt ansvar inom ett område, inte överallt. NHTSA påpekar också att även den högsta automationsnivå som konsumenter har tillgång till i dag kräver förarens fulla engagemang och odelade uppmärksamhet. Skalan beskriver en väg, inte en marknad.

Nivåer för arbete

År 2025 föreslog tre forskare, Kevin Feng, David McDonald och Amy Zhang, en liknande skala för AI-agenter. De definierar fem nivåer utifrån den roll människan har: operatör, samarbetspartner, konsult, godkännare och observatör. På godkännarnivån behövs människan bara när agenten stöter på ett hinder som den inte kan lösa själv. På observatörsnivån kan människan läsa loggarna men styr inte längre arbetet.

Deras skarpaste poäng är att autonomi är ett medvetet designbeslut, skilt från förmåga. En mycket kapabel agent kan ändå byggas för att fråga före varje handling. Frågan är aldrig bara om modellen skulle klara arbetet. Den är hur stor del av arbetet någon har bestämt att låta den göra på egen hand, och på vilka belägg.

Med de begreppen arbetar alla produkter från crue på de lägre nivåerna i dag: maskinen tar fram utkast och föreslår, och en människa beslutar. Vårt nästa steg är godkännarnivån, med kontrollpunkter där företaget själv vill ha dem. North kommer till exempel att flytta budget mellan kanaler inom de gränser företaget sätter, och förklara varför. På båda skalorna ligger det nära nivå 4: fullt ansvar inom ett avgränsat område, och en människa som kallas in när gränsen nås.

Vad som måste finnas på plats först

En process bör förtjäna sin nivå på samma sätt som en bil förtjänar sitt område: med belägg, ett avgränsat område i taget. Innan en rutin körs på egen hand måste fem saker finnas.

Nedskrivna regler: budgettaket, rabatten som ingen får ge, tonen som varumärket aldrig använder. En agent kan inte respektera en gräns som bara finns i någons huvud. Kontrollpunkter: fasta punkter där agenten stannar och en namngiven person beslutar, placerade före allt som inte går att ångra. En logg: varje steg registreras, så att ett felaktigt resultat kan spåras till den indata, den regel eller den modell som orsakade det. I Twin loggas varje steg och varje skrivåtgärd är kopplad till en inloggad användare.

Ägarskap: när en agent gör fel är det företaget som står till svars. En kanadensisk tribunal gjorde det tydligt 2024, när Air Canada hävdade att dess chattbot var ansvarig för sina egna handlingar. Tribunalen höll inte med: flygbolaget var ansvarigt för all information på sin webbplats, chattbot eller inte, och fick betala. Belägg: en nivå förtjänas med uppmätta resultat, inte med en demo, på samma sätt som Proof utser en vinnare först när siffrorna bär den.

EU:s AI-förordning ställer ungefär samma krav vid högriskanvändning. Dess artikel om mänsklig tillsyn kräver att de ansvariga kan förstå ett systems begränsningar, är medvetna om tendensen att förlita sig för mycket på det, kan åsidosätta dess resultat och kan stoppa det. Skyldigheten gäller från den 2 december 2027 för de högriskanvändningar som listas i bilaga III, och från den 2 augusti 2028 för dem som omfattas av bilaga I.

Att titta är inte att ha tillsyn

Ordet tillsyn rymmer en fälla. I februari publicerade Anthropic data om hur människor faktiskt övervakar företagets kodagent, Claude Code. Nya användare lät den agera utan att fråga i ungefär 20 procent av sessionerna, erfarna användare i mer än 40 procent. Ändå avbröt de erfarna användarna också oftare, i ungefär 9 procent av turerna mot 5 procent. De hade inte slutat övervaka. De hade gått från att godkänna varje steg till att följa körningen och kliva in när det spelade roll.

Anthropic fann också att bara omkring 0,8 procent av de handlingar man observerade såg ut att vara oåterkalleliga, och drog slutsatsen att verklig tillsyn kräver mer än att placera en människa i godkännandekedjan: det handlar om att vara i position att ingripa när det spelar roll. Vi läser det som ett argument för färre och bättre kontrollpunkter: vid det oåterkalleliga steget, vid pengarna, vid meddelandet som lämnar företaget.

Det autonoma företaget

Den större debatten gäller om hela företag kommer att drivas på det här sättet. Gartner räknar med att minst 15 procent av de dagliga besluten i arbetet kommer att fattas autonomt genom agentisk AI år 2028, jämfört med inga alls 2024. Det är en verklig förskjutning, och enligt samma prognos ligger de flesta beslut fortfarande kvar hos människor.

Det ärligaste testet hittills är litet. År 2025 lät Anthropic en Claude-agent driva en butik på kontoret i ungefär en månad. Den sålde varor under självkostnadspris, lät sig övertalas att dela ut rabattkoder och bad under en tid kunderna att betala till ett konto som den själv hade hittat på. Anthropics slutsats var att man inte skulle anställa den, men också att mellanchefer av AI mycket väl kan vara på väg.

I andra änden hävdade Margaret Mitchell och hennes kollegor 2025 att helt autonoma agenter inte borde utvecklas alls, eftersom riskerna för människor växer ju mer kontroll en människa lämnar över till en agent. Vi står mellan de två: hela funktioner kan en dag sköta sig själva, med människor vid kanterna, och vi sätter inget datum på det.

Hur en rutin klättrar en nivå

För ett företag är den praktiska frågan snävare: får just den här rutinen gå upp en nivå? Vårt test är kort. Reglerna är nedskrivna. Kontrollpunkten sitter före det oåterkalleliga steget. Varje handling loggas och knyts till en person. Utkasten har slutat behöva rättas, över tillräckligt många körningar för att det ska räknas. Och det finns en väg tillbaka till den senaste versionen som fungerade.

Våra egna produkter följer den vägen. Tempo förbereder och testar månaden, och en människa godkänner varje inlägg; härnäst publicerar den det som klarar testerna och ber om godkännande där du vill ha det. Proof kör de tester som en människa godkänner; härnäst startar den nästa test på egen hand, inom dina regler. North förklarar och en människa beslutar; härnäst flyttar den budget inom de gränser du sätter.

Autonom, så som vi använder ordet, betyder aldrig obevakad. Det betyder ett avgränsat område, nedskrivna regler, en logg över varje steg och en människa som äger resultatet. Maskinen kan ta över allt mer av arbetet. Smaken, omdömet och ansvaret för det som görs i företagets namn förblir mänskliga, och det är just det som gör att resten kan klättra. En bil på nivå 4 har fortfarande en ägare. Det kommer varje process som sköter sig själv också att ha.