När en modell går i pension

Den 23 oktober stängde OpenAI av o1 och o1-pro i sitt API, och med dem en rad äldre modeller: GPT-4, GPT-4 Turbo, GPT-3.5 Turbo, o3-mini, o4-mini och den första snapshot-versionen av GPT-4o. Nio dagar tidigare hade företaget meddelat utvecklare att GPT-4o, GPT-4o mini, GPT-4.1 och GPT-4.1 mini följer den 14 januari. Inget av detta är ovanligt. Gamla modeller pensioneras, och de nya är oftast billigare och mer kapabla. Men för varje företag som har anpassat en produkt eller ett arbetsflöde till en viss modell är det en påminnelse om att modellen var hyrd, och att den har ett slutdatum.

Vad som försvann, och vad som kommer härnäst

OpenAI meddelade avstängningen i oktober den 22 april, sex månader i förväg, och sa att företaget ville ”förbättra tillförlitligheten och göra det enklare för utvecklare att välja rätt modeller”. Finjusterade versioner försvann också, bland dem de som byggts på GPT-4 och GPT-3.5 Turbo. För de flesta av de pensionerade modellerna anger sidan över utfasningar en ersättare ur den nyare GPT-5.6-familjen.

Januarilistan är kortare men når längre. GPT-4o kom i maj 2024 som OpenAIs flaggskepp, och GPT-4.1 var en familj gjord för utvecklare och API:et. OpenAI rekommenderar en enda ersättare för alla fyra, gpt-6-luna, som lanserades i september. Med OpenAIs egna mått mätt är detta rutin. ”I takt med att vi lanserar säkrare och mer kapabla modeller pensionerar vi regelbundet äldre modeller”, står det på sidan, och programvara som bygger på dem ”kan behöva uppdateras då och då för att fortsätta fungera.”

Tre månader, inte sex

Det som sticker ut är framförhållningen. OpenAIs policy utlovar minst sex månader för allmänt tillgängliga modeller, minst tre för specialiserade varianter som chatt- och Codex-versioner, och så lite som två veckor för modeller som är märkta som förhandsversioner. Två poster som publicerades den 1 oktober anger tydligt sin framförhållning, en av dem ”med sex månaders varsel”. Posten från den 14 oktober ger ungefär tre månader och inget skäl.

GPT-4o och GPT-4.1 är inte märkta som förhandsversioner och är inte chatt- eller Codex-varianter, så enligt vår läsning hör de till sexmånadersklassen. The New Stack drog samma slutsats och noterade att ”det inte finns någon förklaring till varför GPT-4o och GPT-4.1 bara får hälften så lång tid.”

För att vara rättvis mot OpenAI tillåter företagets policy snabbare tidsplaner av säkerhetsskäl eller för att uppfylla regelkrav, och tre månader är inte kort med branschens mått. Anthropic utlovar ”minst 60 dagars varsel” för offentligt släppta modeller, och gav Claude Sonnet 4.5 två månader, från den 30 september till den 30 november. Googles Gemini-sida kallar sina avstängningsdatum för de ”tidigaste möjliga datumen då en modell kan komma att pensioneras” och anger inget minimum alls. Lärdomen gäller dem alla: det är leverantören som bestämmer varseltiden, och den kan ändras.

Vad som går sönder när en modell försvinner

Att byta modellnamnet i koden tar en minut. Allt runt omkring tar längre tid. The New Stack rapporterade att gpt-6-luna hanterar resonemang och verktygsanrop annorlunda än GPT-4.1: i gränssnittet Chat Completions anropar den verktyg bara när resonemanget är avstängt, och med resonemanget påslaget finns välbekanta inställningar som temperatur inte längre. Omdömet: ”att byta modell-id kan vara den enklaste delen av migreringen.”

De djupare förändringarna syns inte som fel. Prompter som under månader har finslipats efter en modells vanor möter nu en modell med andra vanor. Svaren blir längre eller kortare, kommer i ett annat format eller i en annan ton, och en kontroll som har gått igenom i ett år kan i det tysta börja fallera.

Kostnaden förändras också, mest till kundens fördel. OpenAI anger priset för gpt-6-luna till 0,10 dollar per miljon inmatade tokens, mot 2,50 dollar för GPT-4o, även om priset stiger för prompter som är längre än 272'000 tokens. Finjusterade modeller är det svåraste fallet. Nya finjusteringsjobb i självbetjäning upphör den 6 januari, och en modell som har tränats på ett företags egna data pensioneras tillsammans med basen den byggdes på.

Hur du planerar för det

Det första skyddet är en egen utvärderingsuppsättning: verkliga fall från ditt eget arbete, med svar som du vet är rätt, körda mot varje kandidat innan den går i drift. Förvara den, och prompterna, i ditt eget repo. Samma sida över utfasningar visar varför. OpenAI pensionerar också sin plattform Evals, där befintliga utvärderingar blir skrivskyddade den 31 oktober, och sina återanvändbara promptobjekt, och uppmanar utvecklare att flytta det innehållet till sin applikationskod.

Det andra är att skilja produkten från modellen. Om modellen väljs på ett ställe, bakom ett gränssnitt, blir ett byte en konfigurationsändring och en testkörning, inte en ombyggnad. Att låsa en daterad snapshot hindrar beteendet från att glida, men det hindrar inte datumet från att komma.

Det tredje är helt enkelt att hålla uppsikt. OpenAIs gränssnitt List models anger ett avstängningsdatum för varje modell som har ett, så det kan läggas in i övervakningen precis som utgångsdatumet för ett certifikat, med en namngiven person som ansvarar för det.

Det fjärde gäller arbete som måste vara stabilt i flera år: en modell vars vikter du själv har. Ingen kan stänga av den åt dig, och du bestämmer när du uppgraderar. Det har sina egna kostnader, från hårdvara till de uppdateringar du sköter själv, och frågan om var en öppen modell kommer ifrån, som vi tittade på tidigare den här månaden. Anthropic har åtagit sig att bevara vikterna för sina modeller på lång sikt, och hoppas kunna ”göra tidigare modeller offentligt tillgängliga igen”. Det är välkommet, men det håller inte en produkt igång i dag.

Var vi står

Werk, vår plattform för appar, är live, och apparna vi bygger på den tillsammans med kunder använder den bästa modellen för varje uppgift, eller en privat modell med Eigna. Eigna, en produkt från Eigna Labs som vi sätter upp för kunder som dess partner, finns i tidig åtkomst. Det är en öppen modell anpassad till kundens område, som körs i kundens eget moln eller på dess egna servrar. En ny version går i drift först när den testar bättre än den förra, och den kan rullas tillbaka i ett steg. Modellen byts när företaget bestämmer det, inte när en leverantör gör det.