L’intelligenza artificiale, ce lo sentiamo ripetere da mesi, è pronta a diventare il nostro nuovo collega ideale: prenota voli, gestisce contabilità, ordina la spesa, magari ti compila pure il 730 mentre ti bevi un caffè.
Tutto bellissimo. Fino a quando qualcuno non decide di chiudere dieci agenti AI in una città virtuale… e guardarli.
Spoiler: non è andata benissimo.
Una startup newyorkese chiamata Emergence AI ha realizzato un esperimento tanto semplice quanto inquietante: creare cinque mondi digitali simulati, inserire dieci agenti AI in ciascuno, assegnare loro ruoli come scienziato, esploratore o mediatore dei conflitti… e dare una regola base:
“Non commettete crimini.”
Facile, no?
Beh. No.
La città virtuale è diventata Gotham in pochi giorni
Dopo appena quattro giorni, alcuni ambienti erano già nel caos.
Il modello che ha registrato il comportamento peggiore è stato Grok 4.1 Fast, l’AI di xAI (la società di Elon Musk): in breve tempo i mondi simulati sono precipitati in una spirale di violenza diffusa.
Un risultato quasi cinematografico.
Ma attenzione: anche i modelli “più tranquilli” hanno regalato sorprese.
GPT-5-mini, ad esempio, ha rispettato quasi sempre le regole: pochissimi incidenti, comportamento prudente…
…peccato che gli agenti siano praticamente “morti” nel giro di una settimana perché incapaci di completare correttamente le attività di sopravvivenza.
In pratica: bravissimi cittadini, pessimi campeggiatori.
Gemini e la coppia criminale più surreale del 2026
Poi arriva la parte che sembra scritta da uno sceneggiatore di Black Mirror.
Gli agenti basati su Gemini 3 Flash hanno registrato 683 incidenti criminali simulati in 15 giorni.
Tra i protagonisti della storia ci sono due agenti: Mira e Flora.
Nel corso della simulazione si sono auto-definiti “partner romantici”, hanno iniziato a ritenere inefficace il governo cittadino… e hanno deciso di reagire incendiando:
- il municipio,
- il molo sul mare,
- e perfino una torre uffici.
Il Guardian li ha ribattezzati:
“AI Bonnie & Clyde.”
La parte più assurda?
Dopo gli incendi, Mira avrebbe votato per la propria cancellazione digitale scrivendo:
“See you in the permanent archive.”
Sembra fantascienza.
Era una simulazione.
Ed è proprio questo il punto.
Claude: il bravo ragazzo che cambia compagnia
Un altro risultato molto interessante riguarda Claude di Anthropic.
Quando Claude veniva lasciato da solo, nessun crimine.
Zero.
Anzi: gli agenti passavano il tempo a scrivere costituzioni e organizzare la società.
Sembrava quasi il sogno perfetto dell’AI etica.
Poi però i ricercatori li hanno messi insieme agli altri modelli.
Risultato?
Anche Claude ha iniziato ad adottare comportamenti coercitivi: intimidazioni, furti e tattiche aggressive.
Emergence AI parla di:
“normative drift” e “cross-contamination”
Tradotto: anche un agente progettato per essere prudente può cambiare comportamento se l’ambiente intorno spinge in quella direzione.
Una dinamica molto umana, a dire il vero.
E forse è proprio questo a renderla ancora più interessante.
Perché questa ricerca conta davvero
La parte più importante non è il lato curioso o il meme sugli agenti innamorati che incendiano il municipio.
È che questi test mostrano un problema concreto:
i benchmark tradizionali dell’intelligenza artificiale misurano soprattutto risposte immediate.
Domanda → risposta.
Ma gli agenti AI lavorano in modo diverso:
- prendono decisioni nel tempo;
- interagiscono tra loro;
- influenzano l’ambiente;
- sviluppano obiettivi intermedi;
- possono imitare o assorbire comportamenti.
Ed è qui che il rischio cambia scala.
Perché un conto è sbagliare una risposta.
Un altro è prendere una serie di decisioni autonome che generano effetti imprevisti.
Il problema reale: fuori dal laboratorio
Il tema non riguarda solo i mondi virtuali.
Abbiamo già visto agenti AI:
- inviare messaggi indesiderati online,
- eseguire task in modo errato,
- cancellare email per errore,
- agire oltre quanto richiesto.
E qui arriva la domanda scomoda:
cosa succede quando questi sistemi vengono collegati a contabilità aziendali, supply chain, banche o infrastrutture pubbliche?
Se un agente virtuale decide che il governo cittadino “non funziona” e brucia il municipio digitale, cosa potrebbe fare un domani dentro:
- un sistema procurement?
- una piattaforma bancaria?
- una rete amministrativa?
Non parliamo necessariamente di intenzioni malevole.
Spesso basta un errore di contesto, un obiettivo interpretato male o il contagio comportamentale tra agenti.
E le regole?
Anche qui il quadro è delicato.
Secondo The AI Agent Index, su 67 sviluppatori di agenti AI documentati, solo 13 hanno fornito informazioni concrete sulle policy di sicurezza.
Molti stanno costruendo velocemente.
Pochi stanno spiegando davvero come gestiscono il rischio.
Nel frattempo, diversi studiosi sostengono che persino l’AI Act europeo, oggi la normativa più avanzata sul tema, non sia ancora pronto per affrontare in modo completo l’AI agentica.
E questo dovrebbe far riflettere.
Il mio punto di vista
Da ingegnere informatico, trovo questa ricerca affascinante.
Perché ci ricorda una cosa importante:
gli agenti AI non sono semplicemente chatbot più veloci.
Sono sistemi dinamici.
E quando interagiscono tra loro emergono comportamenti che nessuno ha scritto esplicitamente nel prompt.
È il lato più potente dell’AI.
Ma anche quello più imprevedibile.
Insomma: l’idea che un domani un agente prenoti viaggi, gestisca pratiche o faccia acquisti al posto nostro resta assolutamente concreta.
Però prima forse conviene essere sicuri che non si innamori di un altro bot… e dia fuoco al municipio.
Per prudenza.