Quando un modello va in pensione
OpenAI ha spento o1 e una serie di modelli più vecchi, e a gennaio toccherà a GPT-4o: un promemoria che il modello su cui si costruisce è in affitto.
Il 23 ottobre OpenAI ha spento o1 e o1-pro nella sua API, e con loro una serie di modelli più vecchi: GPT-4, GPT-4 Turbo, GPT-3.5 Turbo, o3-mini, o4-mini e il primo snapshot di GPT-4o. Nove giorni prima aveva comunicato agli sviluppatori che GPT-4o, GPT-4o mini, GPT-4.1 e GPT-4.1 mini seguiranno il 14 gennaio. Nulla di insolito. I vecchi modelli vanno in pensione, e quelli nuovi di solito sono più economici e più capaci. Ma per ogni azienda che ha calibrato un prodotto o un flusso di lavoro su un modello, è un promemoria: quel modello era in affitto, e ha una data di scadenza.
Che cosa è stato spento e che cosa segue
OpenAI aveva annunciato lo spegnimento di ottobre il 22 aprile, con sei mesi di anticipo, dicendo di voler «migliorare l’affidabilità e rendere più facile per gli sviluppatori scegliere i modelli giusti». Sono state spente anche le versioni con fine-tuning, tra cui quelle basate su GPT-4 e GPT-3.5 Turbo. Per la maggior parte dei modelli ritirati la pagina delle deprecazioni indica un sostituto della più recente famiglia GPT-5.6.
La lista di gennaio è più corta, ma ha una portata maggiore. GPT-4o è arrivato nel maggio 2024 come modello di punta di OpenAI, e GPT-4.1 era una famiglia pensata per gli sviluppatori e per l’API. OpenAI raccomanda un unico sostituto per tutti e quattro, gpt-6-luna, lanciato a settembre. Secondo OpenAI si tratta di normale amministrazione. «Man mano che lanciamo modelli più sicuri e più capaci, ritiriamo regolarmente i modelli più vecchi», si legge nella pagina, e il software costruito su di essi «potrebbe richiedere aggiornamenti occasionali per continuare a funzionare».
Tre mesi, non sei
Ciò che colpisce è il preavviso. La policy di OpenAI promette almeno sei mesi per i modelli in disponibilità generale, almeno tre per le varianti specializzate come le versioni chat e Codex, e appena due settimane per i modelli contrassegnati come preview. Due voci pubblicate il 1° ottobre indicano chiaramente il loro preavviso, una di esse «con sei mesi di preavviso». La voce del 14 ottobre concede circa tre mesi e non dà alcuna motivazione.
GPT-4o e GPT-4.1 non hanno l’etichetta preview e non sono varianti chat o Codex, quindi secondo la nostra lettura rientrano nella classe dei sei mesi. The New Stack è giunto alla stessa conclusione e ha osservato che «non c’è alcuna spiegazione del perché GPT-4o e GPT-4.1 ricevano solo la metà di quel tempo».
Per essere equi con OpenAI, la sua policy consente tempi più rapidi per ragioni di sicurezza o di conformità, e tre mesi non sono pochi per gli standard del settore. Anthropic promette «almeno 60 giorni di preavviso» per i modelli rilasciati pubblicamente, e ha dato a Claude Sonnet 4.5 due mesi, dal 30 settembre al 30 novembre. La pagina di Gemini di Google definisce le sue date di spegnimento le «prime date possibili in cui un modello potrebbe essere ritirato» e non indica alcun minimo. La lezione vale per tutti: il periodo di preavviso lo stabilisce il fornitore, e può cambiare.
Che cosa si rompe quando un modello se ne va
Cambiare il nome del modello nel codice richiede un minuto. Tutto ciò che c’è intorno richiede più tempo. The New Stack ha riferito che gpt-6-luna gestisce il ragionamento e le chiamate agli strumenti in modo diverso da GPT-4.1: nell’interfaccia Chat Completions chiama gli strumenti solo con il ragionamento disattivato, e con il ragionamento attivo impostazioni familiari come la temperatura non sono più disponibili. Il suo verdetto: «sostituire l’ID del modello potrebbe essere la parte più facile della migrazione».
I cambiamenti più profondi non si presentano come errori. Prompt affinati per mesi sulle abitudini di un modello incontrano ora un modello con abitudini diverse. Le risposte arrivano più lunghe o più corte, in un altro formato o con un altro tono, e un controllo superato per un anno può iniziare in silenzio a fallire.
Anche i costi cambiano, per lo più a favore del cliente. OpenAI indica per gpt-6-luna 0,10 dollari per milione di token in input, contro 2,50 dollari per GPT-4o, anche se la tariffa sale per i prompt più lunghi di 272'000 token. I modelli con fine-tuning sono il caso più difficile. Dal 6 gennaio non si potranno più avviare nuovi job di fine-tuning in modalità self-service, e un modello addestrato sui dati di un’azienda va in pensione insieme alla base su cui è stato costruito.
Come prepararsi
La prima difesa è un set di valutazione tutto vostro: casi reali tratti dal vostro lavoro, con risposte che sapete essere corrette, da far girare su ogni candidato prima che vada in produzione. Conservatelo, insieme ai prompt, nel vostro repository. La stessa pagina delle deprecazioni mostra perché. OpenAI sta ritirando anche la sua piattaforma Evals, le cui valutazioni esistenti diventano di sola lettura il 31 ottobre, e i suoi oggetti prompt riutilizzabili, e invita gli sviluppatori a spostare quei contenuti nel codice delle loro applicazioni.
La seconda è separare il prodotto dal modello. Se il modello si sceglie in un solo punto, dietro un’unica interfaccia, un cambio diventa una modifica di configurazione e un giro di test, non una ricostruzione. Fissare uno snapshot datato evita che il comportamento cambi nel tempo, ma non impedisce che quella data arrivi.
La terza è semplicemente tenere d’occhio la situazione. L’interfaccia List models di OpenAI riporta una data di spegnimento per ogni modello che ne ha una, quindi la si può inserire nel monitoraggio come la scadenza di un certificato, con una persona designata che ne risponde.
La quarta riguarda il lavoro che deve restare stabile per anni: un modello di cui possedete i pesi. Nessuno può spegnervelo, e siete voi a decidere quando aggiornarlo. Ha i suoi costi, dall’hardware agli aggiornamenti che gestite da soli, fino alla questione della provenienza di un modello aperto, di cui ci siamo occupati all’inizio di questo mese. Anthropic si è impegnata a conservare a lungo termine i pesi dei suoi modelli, e spera «di rendere di nuovo pubblicamente disponibili i modelli passati». È una buona notizia, ma non tiene in funzione un prodotto oggi.
Dove ci collochiamo
Werk, la nostra piattaforma per le app, è disponibile, e le app che vi costruiamo con i clienti usano il modello migliore per ogni compito, oppure un modello privato con Eigna. Eigna, un prodotto di Eigna Labs che realizziamo per i clienti in qualità di suo partner, è in accesso anticipato. È un modello aperto adattato al settore di un cliente, in esecuzione nel suo cloud o sui suoi server. Una nuova versione va in produzione solo se nei test fa meglio della precedente, e si può tornare indietro con un solo passaggio. Il modello cambia quando lo decide l’azienda, non quando lo decide un fornitore.
