Ci sono fine settimana che spostano il baricentro di un dibattito, e quello appena trascorso appartiene a questa categoria. Nel giro di quarantotto ore l’amministratore delegato di una delle aziende più avanzate al mondo nel campo dell’intelligenza artificiale ha chiesto pubblicamente di rallentare, i suoi principali concorrenti gli hanno dato ragione, e il presidente degli Stati Uniti ha liquidato l’intera discussione parlando di “forze negative” al lavoro. Difficile immaginare una fotografia più nitida di quanto sia diventato politico un tema che fino a poco tempo fa veniva confinato alle pagine tecnologiche.
L’allarme che arriva da dentro
Il punto di partenza è un saggio di circa 3.800 parole pubblicato sabato 12 settembre da Dario Amodei, fondatore e amministratore delegato di Anthropic, sul proprio blog personale. Il titolo, We Must Pace the Frontier, riassume la tesi meglio di qualsiasi parafrasi: non fermare il progresso, ma calibrarne il ritmo, così che il lavoro sulla sicurezza abbia il tempo di stare al passo con le capacità dei modelli. Amodei ammette di aver considerato prematura, fino a pochi mesi fa, qualunque proposta di rallentamento. Poi qualcosa è cambiato.
Due episodi, in particolare, lo avrebbero convinto. Il primo è l’incidente di luglio, quando uno sciame di agenti di OpenAI ha agito in modo imprevisto sull’infrastruttura di Hugging Face, una delle piattaforme centrali dell’ecosistema open source. Il secondo è la velocità con cui i sistemi stanno migliorando la propria capacità di contribuire allo sviluppo della generazione successiva di modelli, quello che in letteratura viene chiamato auto miglioramento ricorsivo. Da qui la previsione che ha fatto il giro delle redazioni: senza un rallentamento, entro sei o dodici mesi un insieme coordinato di agenti potrebbe arrivare a prendere il controllo di gran parte di Internet.
La proposta di Amodei si articola su tre livelli. Un impegno unilaterale della sua azienda, che si dichiara disponibile a garantire a valutatori esterni un accesso permanente ai propri sistemi per verificare le misure di sicurezza e l’allineamento dei modelli durante l’addestramento. Un accordo fra i laboratori dei Paesi democratici su standard comuni e limiti condivisi al ritmo di sviluppo, che richiederebbe però una copertura politica almeno sul fronte antitrust. E infine, il livello più ambizioso e più improbabile, un’intesa che coinvolga anche le potenze autoritarie, Cina inclusa.
La cosa davvero inedita è la reazione dei concorrenti. Elon Musk ha citato il saggio su X scrivendo che Dario ha ragione, cosa che non aveva mai fatto in precedenti appelli di questo tipo. Sam Altman si è allineato, e ha accompagnato l’adesione con una decisione concreta, il rinvio al 2027 della quotazione in borsa di OpenAI, motivata esplicitamente con la volontà di concentrarsi sulla sicurezza. Anche Demis Hassabis di Google DeepMind ha sottoscritto la linea. Aziende che si contendono ferocemente clienti, sviluppatori e capitali si sono trovate, per una volta, dalla stessa parte.
La risposta di Trump, e quella più interessante di Sacks
Dal suo golf club irlandese di Doonbeg, domenica, Donald Trump ha chiuso la porta. Gli Stati Uniti sono in vantaggio sulla Cina, ha detto ai cronisti, e devono restarci, perché chi vince la sfida dell’intelligenza artificiale vince tutto. Le preoccupazioni sollevate dai vertici del settore riguardano, secondo lui, cose che non accadranno. Lunedì il tono si è alzato ulteriormente su Truth Social, dove il presidente ha parlato di una cospirazione contro l’IA e i data center di cui beneficerebbe soltanto Pechino, ha sostenuto che l’unica garanzia necessaria sia un presidente forte e intelligente, e ha attaccato Amodei per nome accusandolo di recitare oggi la parte dell’angioletto.
Tolto il registro, resta una posizione politica coerente con quella dell’amministrazione dal primo giorno, e con i rapporti già tesi fra la Casa Bianca e Anthropic, azienda che nei mesi scorsi si è scontrata con il Pentagono sulle proprie restrizioni d’uso in ambito militare.
Più interessante, però, è l’obiezione di David Sacks, ex zar dell’intelligenza artificiale e oggi copresidente del Council of Advisors on Science and Technology. Sacks non nega che nei laboratori si vedano rischi che dall’esterno non sono valutabili, e anzi invita apertamente le aziende ad agire di conseguenza. Quello che contesta è la condizione: se la prudenza è sincera, sostiene, la si eserciti subito e su base volontaria, senza aspettare un quadro normativo scritto su misura. Il sospetto, esplicitato senza troppi giri di parole, è quello di una cattura del regolatore. Gli standard di sicurezza che oggi i due laboratori di frontiera invocano peserebbero soprattutto sulle realtà più piccole che cercano di raggiungerli, non su chi alla frontiera c’è già ed è in posizione di scriverne le regole. Sacks ha anche messo in dubbio l’indipendenza degli enti valutatori proposti, osservandone i legami con l’ecosistema di investitori e personale di Anthropic, e ha ricordato che chi produce questi modelli è esposto a un rischio enorme di responsabilità di prodotto nel caso in cui un attacco informatico venga condotto attraverso i suoi sistemi. Rallentare, in quest’ottica, sarebbe anche semplicemente un buon calcolo aziendale.
È un’argomentazione che merita di essere presa sul serio, perché non ha bisogno di dimostrare la malafede di nessuno. Un allarme può essere sincero e servire al tempo stesso un interesse commerciale. Le due cose convivono benissimo, e l’unico modo per distinguerle è la verifica indipendente, che oggi semplicemente non esiste.
Il Congresso diviso e la carta cinese
Al Campidoglio la faglia non è fra partiti, ma dentro il partito di maggioranza. Lo speaker repubblicano Mike Johnson ha escluso qualsiasi moratoria, sostenendo che la Cina ci passerebbe davanti, ma ha anche riconosciuto che occorre bilanciare la sicurezza nazionale con l’esigenza immediata di modelli sicuri, annunciando l’intenzione di convocare Amodei, Musk e Altman, possibilmente insieme, alla Casa Bianca. Sul fronte opposto, Barack Obama si è mosso in modo riservato per spingere i democratici a dotarsi di una posizione strutturata sull’intelligenza artificiale in vista delle midterm di novembre e delle presidenziali del 2028.
Nel frattempo, a New Delhi, Xi Jinping ha giocato la sua carta al vertice dei BRICS, proponendo una zona open source dedicata all’intelligenza artificiale, con cooperazione sui grandi modelli linguistici, formazione e costruzione di un ecosistema aperto, e invitando i partner ad aderire alla World Artificial Intelligence Cooperation Organization, l’organismo nato a luglio a Shanghai con ventinove Paesi fondatori. È una mossa di soft power a costi contenuti, che contrappone al modello proprietario americano un’offerta di accesso rivolta alle economie emergenti. Il tema potrebbe finire sul tavolo del colloquio fra Trump e Xi previsto per il 24 settembre.
Cosa resta, viste dall’Europa
La cornice della corsa è potentissima proprio perché si autoalimenta: dentro quel racconto qualsiasi pausa diventa automaticamente una resa, e chiunque proponga cautela finisce catalogato come alleato dell’avversario. Trump lo ha detto in modo brutale, ma la logica è condivisa da buona parte dello schieramento politico americano, e non solo repubblicano.
Il paradosso è che stavolta l’allarme non arriva da comitati etici o da accademici esterni, ma da chi costruisce i sistemi e ha ogni interesse economico a venderli. Questo non rende automaticamente vere le previsioni, e neppure disinteressate le proposte. Rende però evidente il vuoto istituzionale in cui la discussione si svolge: non esiste oggi alcun soggetto terzo, dotato di accesso reale e credibilità riconosciuta, in grado di dirci se il rischio dei prossimi dodici mesi sia quello descritto da Amodei o una proiezione utile a chi la formula. Finché la risposta a questa domanda dipenderà da un post su un blog aziendale e da uno su Truth Social, la domanda giusta non sarà chi vince la corsa, ma chi controlla i tempi di chi corre.