C’è un documento pubblicato il 4 giugno scorso che, a mio avviso, merita una lettura attenta da parte di chiunque si occupi di innovazione, governance tecnologica e futuro del lavoro. Si intitola “When AI builds itself” — letteralmente “Quando l’IA costruisce sé stessa” — ed è firmato da Marina Favaro, responsabile dell’Anthropic Institute, e Jack Clark, cofondatore di Anthropic, l’azienda creatrice del chatbot Claude.
Non è un comunicato stampa. Non è marketing. È un documento basato su dati interni inediti, che arriva a una conclusione che, nel settore, in pochi si aspettavano di leggere così presto: stiamo avvicinandoci al punto in cui l’intelligenza artificiale potrebbe iniziare a costruire autonomamente il proprio successore. E quel momento potrebbe arrivare prima che la maggior parte delle istituzioni sia pronta ad affrontarlo.
Il concetto che cambia tutto: l’auto-miglioramento ricorsivo
Per comprendere la portata dell’allarme, bisogna partire dal concetto tecnico al centro del documento: il recursive self-improvement, ovvero l’auto-miglioramento ricorsivo.
In termini semplici: fino a oggi, lo sviluppo dell’IA ha richiesto l’intervento umano in ogni fase. Gli ingegneri progettavano i modelli, li addestravano, correggevano gli errori, definivano gli obiettivi. L’IA era uno strumento potente, ma pur sempre guidato. Il salto concettuale che Anthropic descrive è un altro: un sistema in grado di progettare autonomamente il proprio aggiornamento e, in ultima istanza, il proprio successore. Ogni generazione più capace della precedente, senza che la mano umana debba intervenire nel ciclo.
Anthropic è esplicita: “Non siamo ancora a quel punto, e l’auto-miglioramento ricorsivo non è inevitabile. Ma potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia preparata ad affrontarlo.”
I numeri che rendono l’allarme credibile
Ciò che distingue questo documento dalla retorica sul futuro dell’IA — di cui siamo tutti ormai un po’ saturi — è la presenza di dati concreti, misurati internamente in Anthropic.
Alcuni numeri che meritano attenzione:
- A maggio 2026, oltre l’80% del codice integrato nel software di Anthropic è stato scritto da Claude, il suo modello di intelligenza artificiale. Dodici mesi prima, quando Claude non aveva ancora la capacità di eseguire codice autonomamente, quella percentuale era nell’ordine di poche unità.
- Il volume di codice prodotto per singolo ingegnere è oggi 8 volte superiore rispetto al 2024. Non perché gli ingegneri lavorino di più: perché lavorano in coppia con un sistema che genera, testa e corregge codice in modo autonomo.
- In un benchmark interno standardizzato — nel quale a Claude veniva chiesto di ottimizzare un programma di addestramento per un modello più piccolo, massimizzando la velocità di esecuzione — i risultati sono eloquenti: Claude Opus 4, a maggio 2025, otteneva un’accelerazione di circa 3 volte rispetto al codice di partenza. Claude Mythos Preview, ad aprile 2026, raggiungeva 52 volte. Per calibrare il dato: un ricercatore umano esperto, su questo stesso compito, impiega dalle quattro alle otto ore per arrivare a un’accelerazione di 4 volte.
- Il tasso di successo su problemi aperti e ad alta difficoltà nei session di Claude Code interne è passato da circa il 15% alla fine del 2025 a oltre il 70% nella primavera del 2026.
Questi non sono proiezioni. Sono misurazioni. Ed è proprio questa concretezza che, dal mio punto di vista di Innovation Manager, impone di prendere sul serio il documento e le sue implicazioni.
La richiesta: una pausa globale, ma coordinata
Favaro e Clark non si limitano alla diagnosi. Avanzano una proposta: costruire meccanismi internazionali che consentano di rallentare o sospendere temporaneamente lo sviluppo dei modelli di frontiera, qualora le condizioni di sicurezza non siano adeguatamente garantite.
La logica è chiara: il problema non è fermare l’innovazione per principio, ma creare le condizioni affinché le istituzioni — governi, organismi di regolazione, accademia — possano tenere il passo con una tecnologia che si sviluppa a velocità senza precedenti.
Dario Amodei, CEO di Anthropic, ha sintetizzato la posta in gioco con una frase che non lascia molto spazio all’interpretazione: “C’è una possibilità su quattro che le cose vadano davvero, davvero male.”
Va detto: Anthropic non chiede di fermarsi da sola. La condizione esplicita è che anche i concorrenti — americani e non — facciano lo stesso. “Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia per darci più tempo per affrontare le sue immense implicazioni, pensiamo che sarebbe probabilmente una cosa positiva.” È una posizione che riconosce la dimensione geopolitica del problema, e che implicitamente ammette l’impossibilità di una soluzione unilaterale.
L’analogia con la corsa agli armamenti: pertinente, ma incompleta
Nel documento, i due autori paragonano lo sviluppo dell’IA avanzata a una corsa agli armamenti. Il paragone non è nuovo — se ne discute da anni — ma Favaro e Clark vi aggiungono un elemento che lo rende più urgente: a differenza dei silos missilistici, le sessioni di addestramento dei modelli di IA sono molto più difficili da verificare e controllare. Possono avvenire in modo distribuito, con risorse relativamente accessibili, e l’incentivo a proseguire di nascosto — per un attore statale o privato — è enorme.
È un problema di struttura degli incentivi prima ancora che di cattive intenzioni. E chi si occupa di governance dell’innovazione sa bene quanto sia difficile costruire regimi di controllo in assenza di meccanismi di verifica credibili.
Mythos e il caso concreto: quando l’IA diventa troppo potente per essere rilasciata
Anthropic ha già affrontato, in concreto, il dilemma che il documento teorizza. Il suo modello più avanzato — Claude Mythos — non è stato reso disponibile al pubblico. La ragione: la capacità del sistema di individuare vulnerabilità nei codici esistenti era tale da renderlo potenzialmente utilizzabile per attacchi informatici devastanti.
È una decisione significativa, e non priva di costi economici per l’azienda. Ma è anche la dimostrazione che una certa cultura della responsabilità nel settore esiste, e che può tradursi in scelte concrete — non solo in dichiarazioni di principio.
La mia lettura: un appello legittimo in un momento complesso
Ho dedicato parte del mio percorso accademico e professionale all’etica dell’intelligenza artificiale. E trovo che questo documento ponga domande legittime, anche se il contesto in cui viene pubblicato — Anthropic è prossima a quotarsi in borsa con una valutazione che sfiora i mille miliardi di dollari — rende opportuno un approccio critico.
Detto questo, ritengo che le preoccupazioni sollevate siano reali e meritino attenzione indipendentemente dalle dinamiche di comunicazione aziendale. L’accelerazione che i dati interni di Anthropic documentano è verificabile, almeno parzialmente, attraverso benchmark pubblici. Il dibattito sulla governance internazionale dell’IA avanzata è aperto da anni e non ha ancora prodotto strumenti adeguati. E la velocità con cui le capacità dei modelli stanno crescendo — non linearmente, ma in modo esponenziale — è un fatto, non una narrativa.
Il vero nodo, per chi si occupa di innovazione nelle organizzazioni, non è se credere o meno all’allarme. È capire come posizionarsi strategicamente in uno scenario in cui le regole del gioco possono cambiare molto rapidamente, e in cui le decisioni prese oggi — su quali tecnologie adottare, su come strutturare i processi, su quali competenze sviluppare — avranno effetti strutturali difficilmente reversibili.
Cosa possiamo fare, concretamente
Come Innovation Manager, mi trovo spesso a dover tradurre questo tipo di discorso in azioni operative. Alcune riflessioni pratiche:
1. Monitorare l’evoluzione normativa con più attenzione. La regolamentazione sull’IA è in movimento rapido, sia in Europa che negli Stati Uniti. Chi si occupa di trasformazione digitale non può più permettersi di delegare questo monitoraggio all’ufficio legale.
2. Costruire una governance interna sull’uso dell’IA. Non basta adottare strumenti di IA: è necessario definire chi decide come vengono usati, quali dati vengono esposti, quali processi vengono automatizzati e con quali salvaguardie.
3. Investire nella comprensione critica, non solo nell’uso. I team che useranno l’IA nei prossimi anni devono essere in grado di valutarne i limiti, non solo le potenzialità. La competenza tecnica di base — sapere cosa fa un modello linguistico, come viene addestrato, dove può fallire — diventa parte del profilo professionale richiesto.
4. Contribuire al dibattito pubblico. Le aziende italiane e europee hanno interesse a essere parte attiva della conversazione sulla governance dell’IA, non solo a recepire passivamente le decisioni prese altrove. Questo passa anche attraverso la partecipazione a tavoli di lavoro, il contributo alle consultazioni normative, la formazione interna.
Conclusione
“When AI builds itself” non è un testo di fantascienza. È un documento tecnico, fondato su dati, che descrive una traiettoria in atto. Che il punto di non ritorno sia vicino o lontano, che la pausa globale sia praticabile o utopica, sono domande aperte. Ma la direzione è chiara, e ignorarla sarebbe un errore che le organizzazioni, i policy maker e i professionisti dell’innovazione non possono permettersi.
Il tempo per costruire i meccanismi di controllo adeguati si accorcia. E — come insegna ogni buona pratica di gestione del rischio — è sempre meglio intervenire sulla struttura prima che il sistema si trovi a dover gestire l’emergenza.