Mistral lancia Large 4, il grande modello europeo che si potrà scaricare (ma non sul pc dell’ufficio).

Lunedì 6 ottobre Mistral, la società francese che è diventata il nome di punta dell’intelligenza artificiale europea, ha presentato Large 4. È un modello da mille miliardi di parametri, capisce testi e immagini, conosce più di 160 lingue, tra cui tutte quelle ufficiali dell’Unione europea, ed è stato addestrato nei data center che Mistral ha in Europa. Per ora si usa in anteprima, attraverso le API dell’azienda.

La parte interessante arriva a fine mese. Mistral ha promesso che entro ottobre pubblicherà i pesi, cioè il modello vero e proprio, che chiunque potrà scaricare e far girare sui propri server. Reuters e The Next Web indicano il 27 ottobre. Per fare un confronto, OpenAI e Anthropic i loro modelli di punta non li lasciano scaricare a nessuno. «Il racconto secondo cui l’Europa non può competere non è vero», ha detto a The Next Web l’amministratore delegato Arthur Mensch.

Se guidi una PMI, la notizia porta con sé una domanda molto pratica. Uso ChatGPT o Copilot, ogni tanto mi chiedo dove finiscano i dati che ci metto dentro: devo cambiare? La risposta breve è «non ancora». Quella lunga è più utile, perché Large 4 rende concreta una scelta che a molte aziende interessa: un modello grande, fatto in Europa, che può girare dove decidi tu.

Mille miliardi di manopole, ne girano quarantanove

I parametri sono, semplificando parecchio, le manopole che un modello regola durante l’addestramento. Più ce ne sono, più cose il modello riesce a imparare, e più costa farlo funzionare.

Large 4 ne ha mille miliardi, ma non li usa tutti insieme. È costruito come un insieme di blocchi specializzati e per ogni parola che scrive ne accende solo una parte: 49 miliardi di parametri, meno del cinque per cento del totale. Per questo un modello così grande riesce a rispondere con tempi e costi ragionevoli.

Mistral lo presenta come il migliore tra i modelli scaricabili per sicurezza informatica, finanza e manifattura. Nell’annuncio mostra il modello mentre analizza disegni tecnici, ingrandisce i dettagli e ricontrolla finché la risposta è esatta. Per un’azienda meccanica che passa le giornate tra tavole e quote è la parte più curiosa, ma sono prove fatte da Mistral, e ci torno tra poco.

Scaricabile, ma non sulla scrivania

Un modello a pesi aperti, o open-weight, si può scaricare e far girare dove si vuole, invece di usarlo solo attraverso il servizio di chi l’ha creato.

Un modello da mille miliardi di parametri però non sta sul pc dell’ufficio, e nemmeno sul server che tieni nello sgabuzzino. Il Sole 24 Ore e Trending Topics lo scrivono chiaramente: Large 4 è pensato per i data center. Per una PMI le strade realistiche sono quindi due.

La prima è usarlo attraverso Mistral. L’azienda dice di avere un’installazione europea che gestisce dall’inizio alla fine da sola, senza appoggiarsi ad altri fornitori di servizi digitali, sotto la legge europea. Per chi oggi manda documenti a servizi americani e non ci dorme tranquillo, è un argomento da mettere sul tavolo.

La seconda arriverà con i pesi. Quando il modello sarà scaricabile, potrà farlo girare anche un cloud europeo o il fornitore che ti segue, sui loro server. A quel punto sarai tu a scegliere chi tiene i tuoi dati, invece di accontentarti di quello che passa il convento. Sempre che la licenza lo permetta, e qui c’è il primo punto aperto.

Il server in azienda resta un’opzione per chi ha budget e persone per gestirlo. Per tutti gli altri, se l’obiettivo è tenere i documenti in casa, un modello più piccolo è quasi sempre la scelta più sensata.

Le righe che mancano ancora

Prima di innamorarsi conviene guardare cosa non è ancora scritto, a partire proprio dalla licenza. È il documento che dice cosa puoi fare con un modello scaricato, e per Large 4 ancora non c’è: Mistral non la cita nell’annuncio e Il Sole 24 Ore scrive che le condizioni arriveranno entro fine ottobre. Non è un dettaglio. In passato Mistral ha usato licenze diverse, alcune che permettono qualsiasi uso commerciale e altre con dei limiti. Finché non esce, «scaricabile» non vuol dire «usalo come vuoi».

Poi ci sono i numeri. Mistral stessa scrive che l’addestramento dietro questa anteprima è ancora in corso, quindi i risultati cambieranno. E le prove pubblicate finora sono quasi tutte sue: i confronti indipendenti arriveranno quando i pesi saranno disponibili e chiunque potrà misurarlo.

Infine c’è la parte che ti riguarda più da vicino. Il Sole 24 Ore fa notare che le prestazioni cambiano da una lingua all’altra, anche in un modello che ne conosce più di 160, e che nessuno ha ancora visto come se la cava con i documenti e i processi veri delle aziende. Che conosca l’italiano lo dice l’annuncio. Quanto bene legga le tue bolle, i tuoi capitolati e le mail dei tuoi clienti lo scoprirai solo provando.

Una prova con i tuoi documenti

Quindi, che cosa fare? Per ora niente di drastico. Non ha senso spostare il lavoro su un modello in anteprima, con i numeri che cambiano e una licenza che ancora non c’è.

Ha senso invece prepararsi per fine ottobre con una prova piccola e onesta, che vale per Large 4 come per qualsiasi altro modello:

1. scegli un compito vero e ripetitivo, per esempio leggere le bolle dei fornitori o rispondere alle domande più frequenti dei clienti;
2. raccogli una trentina di casi reali di cui conosci già la risposta giusta, togliendo i dati personali che non servono;
3. falli passare dallo strumento che usi oggi e da Large 4, attraverso il tuo fornitore o le API europee di Mistral;
4. conta gli errori, guarda quanto hai speso e chiedi in quale paese sono passati i dati.

Se Large 4 sbaglia quanto il tuo strumento attuale e i dati restano in Europa, hai trovato un’alternativa. Se sbaglia di più, hai speso un pomeriggio e ti resta una prova pronta per il prossimo modello che finirà sui giornali.

Al fornitore che ti segue puoi fare anche una domanda semplice: «Se domani volessimo usare un modello che gira in Europa, come Large 4, quanto lavoro servirebbe?» Se la risposta è «bisogna rifare tutto», il problema non è Mistral.

Quello che voglio lasciarti

Difficilmente una PMI scaricherà Large 4 sul proprio server. Per chi vuole poter scegliere, però, è una buona notizia: un modello grande, fatto e addestrato in Europa, che entro fine mese chiunque potrà far girare dove preferisce, licenza permettendo.

La scelta conta solo se sei in grado di farla. Serve sapere dove finiscono oggi i tuoi dati, e avere una prova pronta per confrontare i modelli sui compiti che ti interessano davvero. Il resto lo diranno i numeri veri, che arriveranno nelle prossime settimane.

Le informazioni vengono dall’annuncio di Mistral del 6 ottobre e da come l’hanno raccontato Reuters, The Next Web, Il Sole 24 Ore, Quartz e Trending Topics.

E tu, sai in quale paese finiscono i documenti che la tua azienda affida all’AI?