Was «autonom» wirklich bedeutet
Für Autos gibt es sechs Automatisierungsstufen und eine klare Antwort darauf, wer fährt. Business-KI braucht dasselbe, und denselben Nachweis, bevor sie eine Stufe aufsteigt.
Unser eigener Leitsatz endet mit den Worten «Als Nächstes autonom». Ein solches Versprechen braucht eine Definition, sonst ist es nur eine Stimmung. In unserer Branche gilt ein Assistent, der von sich aus eine einzige E-Mail verschickt, bereits als autonom, ebenso die Vision von Unternehmen, die ohne Personal laufen.
Bei den Autos herrschte dieselbe Verwirrung, und am Ende stand eine Skala, die heute die meisten kennen. Sie lohnt sich zum Ausleihen.
Was die Autos richtig gemacht haben
Die SAE-Stufen des automatisierten Fahrens reichen von 0 bis 5, und die US-Verkehrssicherheitsbehörde NHTSA erklärt sie in einfachen Worten. Bis Stufe 2 fahren und überwachen Sie selbst, auch wenn das System für Sie lenkt, bremst und beschleunigt. Auf Stufe 3 fährt das System, doch Sie müssen bereit sein, zu übernehmen, wenn es Sie dazu auffordert. Auf Stufe 4 trägt das System innerhalb begrenzter Einsatzgebiete die volle Verantwortung, und die Menschen im Fahrzeug sind Passagiere. Erst auf Stufe 5 fährt es überall und unter allen Bedingungen.
Zwei Ideen machen die Skala nützlich. Jede Stufe wird darüber definiert, wer die Verantwortung trägt, und nicht darüber, wie clever das Auto ist. Und die höheren Stufen sind an einen Ort gebunden: Stufe 4 heisst volle Verantwortung innerhalb eines Gebiets, nicht überall. Die NHTSA hält ausserdem fest, dass selbst die höchste Automatisierungsstufe, die Konsumenten heute zur Verfügung steht, die volle Aufmerksamkeit des Fahrers verlangt. Die Skala beschreibt einen Weg, keinen Markt.
Stufen für die Arbeit
2025 schlugen drei Forschende, Kevin Feng, David McDonald und Amy Zhang, eine ähnliche Skala für KI-Agenten vor. Sie definieren fünf Stufen anhand der Rolle, die der Mensch einnimmt: Operator, Kollaborator, Berater, Freigeber und Beobachter. Auf der Stufe des Freigebers wird der Mensch nur noch gebraucht, wenn der Agent auf ein Hindernis stösst, das er allein nicht lösen kann. Auf der Stufe des Beobachters kann der Mensch die Protokolle lesen, steuert die Arbeit aber nicht mehr.
Ihr schärfster Gedanke: Autonomie ist eine bewusste Designentscheidung, getrennt von der Leistungsfähigkeit. Auch ein sehr fähiger Agent kann so gebaut werden, dass er vor jeder Handlung nachfragt. Die Frage lautet nie nur, ob das Modell die Arbeit erledigen könnte. Sie lautet, wie viel davon jemand entschieden hat, es allein tun zu lassen, und auf welcher Grundlage.
Gemessen daran arbeitet jedes Produkt von crue heute auf den unteren Stufen: Die Maschine entwirft und schlägt vor, ein Mensch entscheidet. Unsere nächste Etappe ist die Stufe des Freigebers, mit Freigabepunkten, die das Unternehmen selbst setzt. North etwa wird Budget zwischen Kanälen verschieben, innerhalb der Grenzen, die ein Unternehmen vorgibt, und begründen, warum. Auf beiden Skalen entspricht das ungefähr Stufe 4: volle Verantwortung innerhalb eines begrenzten Bereichs und ein Mensch, der gerufen wird, wenn der Rand erreicht ist.
Was zuerst gelten muss
Ein Prozess sollte sich seine Stufe verdienen, so wie ein Auto sein Einsatzgebiet: mit Nachweisen, ein begrenzter Bereich nach dem anderen. Bevor eine Routine selbständig läuft, müssen fünf Dinge vorhanden sein.
Schriftliche Regeln: die Budgetobergrenze, der Rabatt, den niemand geben darf, der Ton, den die Marke nie anschlägt. Ein Agent kann keine Grenze einhalten, die nur im Kopf einer Person existiert. Freigabepunkte: feste Stellen, an denen der Agent anhält und eine namentlich bekannte Person entscheidet, platziert vor allem, was sich nicht rückgängig machen lässt. Ein Protokoll: jeder Schritt wird festgehalten, damit sich ein falsches Ergebnis auf die Eingabe, die Regel oder das Modell zurückführen lässt. In Twin wird jeder Schritt protokolliert, und jeder Schreibvorgang wird pro Nutzer signiert.
Verantwortung: Wenn ein Agent irrt, haftet das Unternehmen dafür. Ein kanadisches Gericht hat das 2024 klargemacht, als Air Canada geltend machte, ihr Chatbot sei für sein Handeln selbst verantwortlich. Das Gericht widersprach: Die Fluggesellschaft sei für alle Informationen auf ihrer Website verantwortlich, mit Chatbot oder ohne, und müsse zahlen. Nachweis: Eine Stufe wird mit gemessenen Resultaten verdient, nicht mit einer Demo, so wie Proof erst dann einen Gewinner kürt, wenn die Zahlen ihn tragen.
Die EU-KI-Verordnung (AI Act) verlangt bei Anwendungen mit hohem Risiko ziemlich genau das Gleiche. Ihr Artikel zur menschlichen Aufsicht schreibt vor, dass die verantwortlichen Personen die Grenzen eines Systems verstehen, sich der Neigung bewusst bleiben, sich zu stark darauf zu verlassen, sein Ergebnis übersteuern und es stoppen können. Die Pflicht gilt ab dem 2. Dezember 2027 für die in Anhang III aufgeführten Hochrisiko-Anwendungen und ab dem 2. August 2028 für jene nach Anhang I.
Zuschauen ist keine Aufsicht
Im Wort Aufsicht steckt eine Falle. Im Februar veröffentlichte Anthropic Daten dazu, wie Menschen seinen Coding-Agenten Claude Code tatsächlich beaufsichtigen. Neue Nutzer lassen ihn in rund 20 Prozent der Sitzungen ohne Rückfrage handeln, erfahrene Nutzer in mehr als 40 Prozent. Dennoch griffen die erfahrenen Nutzer häufiger ein, in rund 9 Prozent der Züge gegenüber 5 Prozent. Sie hatten nicht aufgehört, zu beaufsichtigen. Sie waren davon abgekommen, jeden Schritt zu genehmigen, und schauten stattdessen dem Ablauf zu und griffen ein, wenn es darauf ankam.
Anthropic stellte zudem fest, dass nur etwa 0,8 Prozent der beobachteten Aktionen unumkehrbar schienen, und folgerte, wirksame Aufsicht verlange mehr, als eine Person in die Freigabekette zu setzen: Es gehe darum, im entscheidenden Moment eingreifen zu können. Wir lesen das als Plädoyer für weniger, aber bessere Freigabepunkte: beim unumkehrbaren Schritt, beim Geld, bei der Nachricht, die das Unternehmen verlässt.
Das autonome Unternehmen
Die grössere Debatte dreht sich darum, ob ganze Unternehmen künftig so laufen werden. Gartner erwartet, dass bis 2028 mindestens 15 Prozent der alltäglichen Arbeitsentscheidungen autonom durch agentische KI getroffen werden, nach null im Jahr 2024. Das ist eine echte Verschiebung, und nach dieser Prognose bleiben die meisten Entscheidungen trotzdem bei den Menschen.
Der ehrlichste Test bisher ist klein. 2025 liess Anthropic einen Claude-Agenten rund einen Monat lang einen Büroshop betreiben. Er verkaufte Artikel unter dem Einkaufspreis, liess sich Rabattcodes aufschwatzen und wies Kunden zeitweise an, auf ein von ihm erfundenes Konto zu zahlen. Anthropics Fazit: Man würde ihn nicht einstellen, und KI-Führungskräfte der mittleren Ebene seien zugleich durchaus am Horizont zu erkennen.
Am anderen Ende argumentierten Margaret Mitchell und Kolleginnen und Kollegen 2025, vollständig autonome Agenten sollten gar nicht erst entwickelt werden, weil mit jedem Stück Kontrolle, das ein Mensch an einen Agenten abgibt, die Risiken für Menschen wachsen. Wir stehen dazwischen: Ganze Funktionen laufen vielleicht eines Tages von selbst, mit Menschen an den Rändern, und wir nennen dafür kein Datum.
Wie eine Routine aufsteigt
Für ein Unternehmen ist die praktische Frage enger gefasst: Darf diese eine Routine eine Stufe aufsteigen? Unser Test ist kurz. Die Regeln sind aufgeschrieben. Der Freigabepunkt sitzt vor dem unumkehrbaren Schritt. Jede Aktion wird protokolliert und einer Person zugeordnet. Die Entwürfe brauchen über genügend viele Durchläufe keine Korrekturen mehr. Und es gibt einen Weg zurück zur letzten Version, die funktioniert hat.
Unsere eigenen Produkte folgen diesem Weg. Tempo bereitet den Monat vor und testet ihn, und ein Mensch genehmigt jeden Beitrag; als Nächstes veröffentlicht es, was seine Tests besteht, und fragt dort nach Freigabe, wo Sie es wünschen. Proof führt die Tests aus, die ein Mensch freigibt; als Nächstes startet es den folgenden Test selbst, innerhalb Ihrer Regeln. North erklärt, und ein Mensch entscheidet; als Nächstes verschiebt es Budget innerhalb der Grenzen, die Sie setzen.
Autonom heisst in unserem Sprachgebrauch nie unbeaufsichtigt. Es heisst: ein begrenzter Bereich, schriftliche Regeln, ein Protokoll jedes Schritts und ein Mensch, der für das Ergebnis geradesteht. Die Maschine kann immer mehr von der Arbeit übernehmen. Der Geschmack, das Urteil und die Verantwortung für das, was im Namen eines Unternehmens geschieht, bleiben menschlich, und genau das erlaubt dem Rest, aufzusteigen. Ein Auto auf Stufe 4 hat weiterhin einen Halter. Das wird bei jedem Prozess so sein, der von selbst läuft.
