I modelli aperti e la loro provenienza
In una settimana Reflection ha rilasciato un modello aperto potente, DeepSeek ha aggiornato il suo e Washington ha messo al bando DeepSeek dalle sue agenzie. La qualità non è più la questione. Lo è l’origine.
Per un’azienda che vuole un’IA propria, la notizia più importante della settimana scorsa non è stata un nuovo chatbot. Sono state tre cose accadute nel giro di pochi giorni: un modello aperto di Reflection AI che sta su un solo server, nuovi pesi per il modello aperto di DeepSeek e un ordine del governo statunitense che rimuove DeepSeek dalle sue agenzie civili. Insieme dicono una cosa semplice. I modelli aperti sono ormai abbastanza buoni per un lavoro serio, e la questione si è spostata dalla qualità all’origine.
Beam: meno token, non token più economici
Il 16 ottobre Reflection AI ha rilasciato Beam, il suo primo modello open weight, con licenza Apache 2.0, che consente l’uso commerciale e le modifiche. Ha 501 miliardi di parametri, di cui 23 miliardi attivi per ogni token. In versione a 8 o a 4 bit sta su un server con otto GPU, come H100, H200 o GB300. La versione completa richiede «decine di GPU», ha riferito VentureBeat.
Reflection non punta su token più economici ma su meno token. Durante l’addestramento ha penalizzato il modello per ogni token non necessario, e secondo la lettura che VentureBeat dà del suo grafico, Beam usa circa 25'000 token per tentativo in un test di programmazione in cui GLM-5.2 ne richiede circa 80'000. Non è il modello aperto più forte. Su Terminal-Bench 2.1 VentureBeat ha riportato circa l’80 per cento per Beam, contro il 90,6 per cento di DeepSeek V4.1 Flash e l’85 per cento di Kimi K3. Reflection dice che Beam «vincerà per merito e non per altro».
DeepSeek: più forte, e con licenza MIT
Negli stessi giorni DeepSeek ha pubblicato pesi aggiornati per V4.1 Flash, con la data del 17 ottobre nel nome. La scheda del modello lo definisce «un aggiornamento minore», con miglioramenti nel ragionamento, nella programmazione, nei compiti agentici e nella visione, e raccomanda un contesto di un milione di token. La licenza non potrebbe essere più aperta: «Questo repository e i pesi del modello sono rilasciati con licenza MIT».
DeepSeek ha anche razionalizzato la sua offerta. A settembre ha spostato tutte le richieste per il suo V4 Pro, più grande, su V4.1 Flash, «alle tariffe di V4.1-Flash», e ha iniziato a ritirare gradualmente V4 Pro. Secondo il benchmark citato da VentureBeat, è il più forte tra i modelli aperti nominati qui.
Washington traccia un confine
Il 19 ottobre CyberScoop ha riferito che il Dipartimento della Sicurezza interna degli Stati Uniti vieta alle agenzie federali civili di usare prodotti DeepSeek, in base a una legge del 2018 sulla catena di approvvigionamento. Le agenzie devono rimuovere le versioni che hanno e non possono acquistarne di nuove. Le ragioni riguardano i dati: DeepSeek archivia i dati su server in Cina, e il suo processo di prompt e risposta «può comportare il trasferimento di dati sensibili» al governo cinese. L’ordine nomina solo DeepSeek, anche se altri modelli aperti cinesi come Kimi e Qwen hanno sollevato preoccupazioni simili.
L’articolo non dice se il divieto copra anche i pesi di DeepSeek quando un’agenzia li esegue sui propri server, dove nessun dato va da nessuna parte. È questa la domanda aperta che ogni azienda dovrebbe annotarsi. Eseguire un modello in casa risponde alla domanda su dove vanno i dati. Non risponde a quella su da dove viene il modello.
Che cosa significa per un modello tutto vostro
Pesi aperti sui vostri server risolvono i problemi più evidenti: i dati restano in casa, e nessuno può modificare o ritirare il modello da un martedì all’altro. Non li risolvono tutti. Un modello è anche un prodotto con un’origine, una licenza, dati di addestramento e un comportamento che nessuno al di fuori del laboratorio può esaminare del tutto. Per una banca, un’autorità o un fornitore della difesa, la domanda non è più se un modello aperto sia abbastanza buono. È se la sua origine supererà il prossimo audit, il prossimo questionario di un cliente o il prossimo ordine come questo.
In pratica significa tre cose. Scegliete il modello di base con la stessa cura con cui scegliete la licenza: Apache 2.0 e MIT sono entrambe permissive, ma nessuna delle due dice nulla sulla provenienza. Mantenete il modello sostituibile, così che conoscenze, regole e test dell’azienda vivano al di fuori di esso e un modello migliore o più sicuro possa prenderne il posto in poche settimane. E testate ogni candidato sul vostro lavoro prima che vada in produzione, non solo sui benchmark pubblici.
Come lo affronta Eigna
È così che è costruito Eigna, l’IA privata che realizziamo per i clienti come partner di Eigna Labs. Parte da un modello aperto, adattato al settore del cliente e addestrato sul suo lavoro, sulle sue regole e sulla sua lingua, in esecuzione nel suo cloud o sui suoi server. Una nuova versione va in produzione solo se nei test fa meglio della precedente, e si può tornare indietro con un solo passaggio. Quale modello aperto ci sia sotto lo decidiamo con ogni cliente, origine compresa, ed è una scelta che può cambiare quando ne arriva uno migliore.
