Wenn ein Modell in den Ruhestand geht

Am 23. Oktober hat OpenAI o1 und o1-pro in seiner API abgeschaltet und mit ihnen eine Reihe älterer Modelle: GPT-4, GPT-4 Turbo, GPT-3.5 Turbo, o3-mini, o4-mini und den ersten Snapshot von GPT-4o. Neun Tage zuvor hatte es Entwicklern mitgeteilt, dass GPT-4o, GPT-4o mini, GPT-4.1 und GPT-4.1 mini am 14. Januar folgen werden. Nichts davon ist ungewöhnlich. Alte Modelle gehen in den Ruhestand, und die neuen sind meist günstiger und leistungsfähiger. Doch für jedes Unternehmen, das ein Produkt oder einen Arbeitsablauf auf ein bestimmtes Modell abgestimmt hat, ist es eine Erinnerung daran, dass das Modell gemietet war und ein Enddatum hat.

Was gegangen ist und was als Nächstes kommt

OpenAI kündigte die Abschaltung vom Oktober am 22. April an, sechs Monate im Voraus, mit der Begründung, man wolle «die Zuverlässigkeit verbessern und es Entwicklern leichter machen, die richtigen Modelle zu wählen». Auch per Fine-Tuning angepasste Versionen verschwanden, darunter jene auf Basis von GPT-4 und GPT-3.5 Turbo. Für die meisten der abgeschalteten Modelle nennt die Seite mit den Abkündigungen einen Ersatz aus der neueren GPT-5.6-Familie.

Die Liste für Januar ist kürzer, reicht aber weiter. GPT-4o kam im Mai 2024 als Flaggschiff von OpenAI, und GPT-4.1 war eine Modellfamilie für Entwickler und die API. OpenAI empfiehlt für alle vier einen einzigen Ersatz, gpt-6-luna, das im September lanciert wurde. Nach OpenAIs eigenen Massstäben ist das Routine. «Wenn wir sicherere und leistungsfähigere Modelle lancieren, nehmen wir ältere Modelle regelmässig ausser Betrieb», heisst es auf der Seite, und Software, die darauf aufbaut, «kann gelegentlich Updates brauchen, um weiter zu funktionieren».

Drei Monate statt sechs

Auffällig ist die Vorlaufzeit. OpenAIs Richtlinie verspricht mindestens sechs Monate für allgemein verfügbare Modelle, mindestens drei für spezialisierte Varianten wie Chat- und Codex-Versionen und unter Umständen nur zwei Wochen für Modelle mit dem Vermerk Preview. Zwei Einträge vom 1. Oktober nennen ihre Frist klar, einer davon «mit sechs Monaten Vorlauf». Der Eintrag vom 14. Oktober gibt etwa drei Monate an und keine Begründung.

GPT-4o und GPT-4.1 tragen keinen Preview-Vermerk und sind keine Chat- oder Codex-Varianten, nach unserer Lesart gehören sie also in die Klasse mit sechs Monaten. The New Stack kam zum selben Schluss und hielt fest, es gebe «keine Erklärung dafür, warum GPT-4o und GPT-4.1 nur die Hälfte dieser Zeit bekommen».

Fairerweise muss man sagen, dass OpenAIs Richtlinie aus Gründen der Sicherheit oder Compliance kürzere Fristen erlaubt, und drei Monate sind nach den Massstäben der Branche nicht kurz. Anthropic verspricht für öffentlich veröffentlichte Modelle «mindestens 60 Tage Vorlauf» und gab Claude Sonnet 4.5 zwei Monate, vom 30. September bis zum 30. November. Googles Gemini-Seite bezeichnet ihre Abschaltdaten als «frühestmögliche Daten, an denen ein Modell ausser Betrieb genommen werden könnte», und nennt überhaupt kein Minimum. Die Lehre gilt für alle: Die Vorlaufzeit legt der Anbieter fest, und sie kann sich ändern.

Was kaputtgeht, wenn ein Modell verschwindet

Den Modellnamen im Code zu ändern, dauert eine Minute. Alles drumherum dauert länger. The New Stack berichtete, dass gpt-6-luna Reasoning und Tool-Aufrufe anders handhabt als GPT-4.1: In der Schnittstelle Chat Completions ruft es Tools nur bei ausgeschaltetem Reasoning auf, und bei eingeschaltetem Reasoning sind vertraute Einstellungen wie die Temperatur nicht mehr verfügbar. Das Fazit: «Die Modell-ID auszutauschen, ist womöglich der einfachste Teil der Migration.»

Die tieferen Veränderungen zeigen sich nicht als Fehlermeldungen. Prompts, die über Monate auf die Eigenheiten eines Modells verfeinert wurden, treffen nun auf ein Modell mit anderen Eigenheiten. Antworten kommen länger oder kürzer zurück, in einem anderen Format oder einem anderen Ton, und eine Prüfung, die ein Jahr lang bestanden wurde, kann stillschweigend anfangen zu scheitern.

Auch die Kosten verschieben sich, meist zugunsten der Kunden. OpenAI führt gpt-6-luna mit 0,10 Dollar pro Million Input-Tokens, gegenüber 2,50 Dollar für GPT-4o, wobei der Tarif für Prompts mit mehr als 272'000 Tokens steigt. Per Fine-Tuning angepasste Modelle sind der schwierigste Fall. Neue Fine-Tuning-Jobs im Self-Service enden am 6. Januar, und ein Modell, das mit den eigenen Daten eines Unternehmens trainiert wurde, geht zusammen mit dem Basismodell in den Ruhestand, auf dem es aufgebaut ist.

Wie Sie vorsorgen

Die erste Absicherung ist ein eigenes Evaluationsset: echte Fälle aus Ihrer eigenen Arbeit, mit Antworten, von denen Sie wissen, dass sie stimmen, getestet an jedem Kandidaten, bevor er live geht. Bewahren Sie es zusammen mit den Prompts in Ihrem eigenen Repository auf. Dieselbe Seite mit den Abkündigungen zeigt, warum. OpenAI nimmt auch seine Evals-Plattform ausser Betrieb, deren bestehende Evals ab dem 31. Oktober nur noch lesbar sind, ebenso seine wiederverwendbaren Prompt-Objekte, und rät Entwicklern, diese Inhalte in ihren Anwendungscode zu verschieben.

Die zweite ist, das Produkt vom Modell zu trennen. Wird das Modell an einer einzigen Stelle gewählt, hinter einer einzigen Schnittstelle, dann wird ein Wechsel zu einer Konfigurationsänderung mit Testlauf, nicht zu einem Neubau. Wer einen datierten Snapshot fixiert, verhindert, dass sich das Verhalten verschiebt, aber nicht, dass das Datum kommt.

Die dritte ist schlicht, hinzuschauen. OpenAIs Schnittstelle List models meldet für jedes Modell, das eines hat, ein Abschaltdatum. Es lässt sich also ins Monitoring aufnehmen wie der Ablauf eines Zertifikats, mit einer namentlich bestimmten Person, die dafür verantwortlich ist.

Die vierte gilt für Arbeit, die über Jahre stabil bleiben muss: ein Modell, dessen Gewichte Sie selbst besitzen. Niemand kann es für Sie abschalten, und Sie entscheiden, wann Sie aktualisieren. Das hat eigene Kosten, von der Hardware bis zu den Updates, die Sie selbst durchführen, und es stellt sich die Frage, woher ein offenes Modell stammt, die wir Anfang dieses Monats betrachtet haben. Anthropic hat sich verpflichtet, die Gewichte seiner Modelle langfristig aufzubewahren, und hofft, «frühere Modelle wieder öffentlich verfügbar zu machen». Das ist zu begrüssen, hält aber heute kein Produkt am Laufen.

Wo wir stehen

Werk, unsere App-Plattform, ist live, und die Apps, die wir darauf mit Kunden bauen, nutzen für jede Aufgabe das beste Modell oder mit Eigna ein privates Modell. Eigna, ein Produkt von Eigna Labs, das wir als dessen Partner für Kunden aufsetzen, ist im frühen Zugang. Es ist ein offenes Modell, angepasst an das Fachgebiet eines Kunden und betrieben in seiner eigenen Cloud oder auf seinen eigenen Servern. Eine neue Version geht erst live, wenn sie in den Tests besser abschneidet als die letzte, und sie lässt sich in einem Schritt zurückschalten. Das Modell wechselt, wenn das Unternehmen es entscheidet, nicht wenn ein Anbieter es tut.