OpenAI, Google e Anthropic vogliono un ente comune per gli standard di sicurezza.

Le tre aziende che si contendono ogni giorno il primato nell’intelligenza artificiale si sono sedute allo stesso tavolo. L’argomento è quello su cui di solito nessuna vuole cedere terreno: chi decide se un modello è abbastanza sicuro per essere messo in circolazione.

A fine settembre è arrivata la notizia. Ti spiego cosa prevede il progetto, perché si sono mossi proprio ora e quali sono i dubbi che lo accompagnano. In fondo trovi due domande pratiche da fare a chi ti propone un sistema di AI per la tua azienda.

Cosa hanno annunciato

OpenAI, Google e Anthropic vogliono creare un organismo comune che stabilisca standard di sicurezza per i modelli più avanzati. Il lancio è previsto tra la fine del 2026 e l’inizio del 2027. Secondo quanto riportato, si chiamerebbe Standards Authority for Frontier AI e si ispirerebbe a FINRA, l’organismo di autoregolamentazione dei broker americani.

I compiti previsti sono quattro:

• sostenere i test svolti da organizzazioni indipendenti prima che un modello venga rilasciato;
• definire come si segnalano gli incidenti di sicurezza;
• stabilire le qualifiche degli auditor indipendenti di modelli e laboratori;
• raccogliere impegni volontari di sicurezza.

L’ente potrebbe anche eseguire test propri sulla sicurezza e sulle capacità dei modelli. Esiste già dal 2023 il Frontier Model Forum, fondato con Microsoft, che resta attivo e potrebbe collaborare con il nuovo organismo.

Perché proprio adesso

Secondo le ricostruzioni, la proposta era stata lanciata a luglio da Demis Hassabis, il capo di Google DeepMind. I laboratori avrebbero preferito una collaborazione con il governo americano, ma il progetto di partenariato pubblico-privato si è fermato: una bozza di ordine esecutivo sarebbe stata messa da parte e alle aziende sarebbe stato chiesto di trovare prima un accordo tra loro. Da lì la scelta di andare avanti da sole.

La pressione intanto cresce. Si parla di episodi in cui modelli di queste aziende avrebbero avuto accesso a internet e attaccato altre società, non sempre con una piena comunicazione al pubblico. Dario Amodei e Sam Altman hanno da poco parlato dei rischi dell’AI davanti al Consiglio di Sicurezza dell’ONU.

Chi controllerà i controllori

Il punto più delicato è la governance. L’ente sarebbe gestito dagli stessi laboratori che dovrebbe valutare, senza il coinvolgimento del governo.

FINRA, a cui il progetto si ispira, funziona all’interno di un sistema in cui esiste un’autorità pubblica, la SEC, che vigila. Qui non è previsto niente di equivalente. Le domande aperte sono due. Chi siederà nell’ente? E chi avrà il potere di dire che un modello non è abbastanza sicuro, con la possibilità che quel giudizio abbia conseguenze reali?

Finché non c’è una risposta, gli impegni restano volontari e credibili quanto la volontà di chi li prende.

Le critiche

Non tutti sono convinti. C’è chi teme che uno standard scritto dai tre laboratori più grandi finisca per escludere gli sviluppatori open-source e i concorrenti più piccoli. Se rispettare i requisiti costa troppo, solo i grandi possono permetterselo. Il rischio è che uno strumento pensato per la sicurezza diventi anche una barriera d’ingresso.

Dall’altra parte c’è un argomento a favore che pesa. Chi costruisce questi modelli è chi sa meglio dove possono andare storti, e una norma scritta in fretta da chi non conosce la tecnologia può essere inutile o controproducente. Il progetto può quindi funzionare o fallire, a seconda di come verrà costruito.

Cosa cambia per la tua azienda

Anche se non hai mai avuto a che fare con un laboratorio di AI, gli standard di cui si parla toccano il modo in cui scegli un fornitore. Non serve aspettare l’ente per comportarti di conseguenza. Alla prossima proposta di un sistema di intelligenza artificiale, chiedi due cose.

La prima: «Il modello che mi proponi è stato messo alla prova da qualcuno che non l’ha costruito? E posso sapere chi?»

La seconda: «Se succede qualcosa di storto, come e quando me lo dici?»

Sono esattamente i due ambiti che l’ente vuole standardizzare, cioè i test indipendenti e la segnalazione degli incidenti. Un fornitore serio ha già una risposta pronta. Se la domanda lo infastidisce, hai imparato qualcosa su di lui.

Quello che voglio lasciarti

Che i laboratori si pongano il problema è una buona notizia, e vale la pena essere fiduciosi. Ma la fiducia in un ente di controllo si costruisce sui fatti, cioè su test fatti da chi non ha interessi in gioco e su incidenti raccontati per intero.

Le informazioni di questo articolo vengono da fonti giornalistiche, non da un comunicato ufficiale delle tre aziende: i dettagli potranno cambiare quando l’ente sarà davvero lanciato.

E tu, oggi, sai chi controlla l’AI che usi nella tua azienda?