Frontier AI e cybersecurity: la governance del rischio entra nel ciclo di vita dei modelli
L’intelligenza artificiale più avanzata sta cambiando anche il modo in cui imprese e amministrazioni devono pensare alla cybersecurity. Non basta più proteggere l’infrastruttura che ospita un modello: occorre governare dati, accessi, valutazioni, aggiornamenti, fornitori e modalità d’uso lungo tutto il ciclo di vita.
Perché la frontier AI cambia il perimetro della sicurezza
Nel luglio 2026 la Commissione europea ha presentato un piano d’azione su cybersecurity e intelligenza artificiale. Il documento parte da una constatazione concreta: i modelli avanzati possono aiutare a individuare vulnerabilità e prevenire attacchi, ma possono anche accelerare la ricerca di debolezze, automatizzare operazioni offensive e aumentare la scala degli incidenti.
La questione, quindi, non è scegliere tra innovazione e prudenza. È costruire condizioni organizzative e tecniche che permettano di usare l’IA in modo verificabile. Il piano europeo richiama anche la collaborazione con ENISA per un blueprint europeo sull’accesso sicuro ai sistemi avanzati e per una piattaforma di test destinata ai settori critici.
Dalla sicurezza del prodotto alla sicurezza del sistema
La sicurezza di un modello non coincide con la sicurezza dell’applicazione che lo utilizza. Un sistema può essere tecnicamente robusto e produrre comunque un rischio se:
- riceve dati oltre lo scopo previsto o senza adeguati controlli di accesso;
- viene collegato a strumenti capaci di compiere azioni senza supervisione;
- non conserva tracce sufficienti per ricostruire richieste, output e decisioni;
- viene aggiornato senza una nuova valutazione degli impatti;
- dipende da un fornitore del quale l’organizzazione non conosce modalità di test e gestione degli incidenti.
È una logica coerente con l’approccio dell’AI Act e con il risk management: responsabilità, documentazione e controllo devono essere distribuiti tra chi sviluppa, fornisce, integra e usa il sistema.
Il contributo di ENISA sulla frontier AI
Nel documento “ENISA’s view on Cybersecurity in the Frontier AI Era”, l’Agenzia europea evidenzia la necessità di considerare i rischi cyber dei modelli avanzati, compresi quelli con capacità general-purpose e potenziale impatto sistemico. Il rapporto richiama la valutazione dei rischi, le misure di sicurezza lungo il ciclo di vita e l’importanza di dataset e informazioni sulle minacce trattati con basi giuridiche, anonimizzazione e controlli di accesso.
Per le organizzazioni non significa adottare automaticamente una tecnologia o una certificazione. Significa, piuttosto, trasformare le raccomandazioni in requisiti misurabili: quali prove vengono richieste al fornitore? quali scenari di abuso vengono testati? chi autorizza l’accesso a dati e strumenti? come si gestisce un output inatteso?
Una governance operativa per imprese e PA
Un programma realistico può partire da cinque passaggi.
1. Inventario e classificazione
Registrare modelli, applicazioni, API, dataset, fornitori e dipendenze. Per ogni caso d’uso indicare finalità, dati trattati, utenti, strumenti collegati e livello di supervisione umana.
2. Threat modelling specifico
Affiancare alle minacce infrastrutturali i rischi propri dell’IA: prompt injection, esfiltrazione di dati, avvelenamento dei dati, abuso degli strumenti, manipolazione degli output e uso improprio delle credenziali.
3. Test prima della messa in produzione
Definire soglie di accettazione, test avversariali, controlli sui dati e procedure per bloccare o limitare il sistema. Nei contesti critici, il test deve includere anche continuità operativa e ripristino.
4. Controlli su fornitori e contratti
Chiedere informazioni su versioni del modello, localizzazione e conservazione dei dati, logging, subfornitori, notifiche di incidente e tempi di risposta. La due diligence non può fermarsi alla brochure commerciale.
5. Monitoraggio e riesame
Misurare errori, rifiuti, anomalie, accessi, cambiamenti di comportamento e incidenti. Ogni aggiornamento significativo deve riaprire la valutazione, con responsabilità chiare tra IT, sicurezza, privacy, compliance e direzione.
La checklist minima per il prossimo progetto
Prima di autorizzare un sistema frontier o un servizio basato su modelli avanzati, l’organizzazione dovrebbe poter rispondere a queste domande:
- Qual è il caso d’uso e quale decisione può influenzare?
- Quali dati entrano nel sistema e dove vengono conservati?
- Quali azioni può eseguire automaticamente?
- Quali test di sicurezza sono stati documentati?
- Chi può sospendere il servizio e con quale procedura?
- Quali eventi vengono registrati e per quanto tempo?
- Come vengono comunicati incidenti, aggiornamenti e cambiamenti del fornitore?
Conclusione
La frontier AI non richiede soltanto modelli più potenti: richiede organizzazioni capaci di valutarne i limiti, controllarne l’uso e dimostrare che le decisioni di sicurezza sono state prese prima dell’emergenza. Per imprese e PA, il vantaggio competitivo sarà usare l’IA con una governance proporzionata, documentata e integrata nei processi cyber già esistenti.
Per approfondire il tema della governance dell’intelligenza artificiale e della sicurezza digitale, è possibile seguire gli aggiornamenti di Riccardo Petricca.
*Nota AI Act: il contenuto testuale e parte dei contenuti visivi di questo articolo sono stati realizzati anche con l’utilizzo dell’intelligenza artificiale, con revisione e verifica editoriale delle fonti.*
Fonti
- Commissione europea, EU Action Plan on Cybersecurity and Artificial Intelligence
- Commissione europea, Commission presents EU Action Plan on Cybersecurity and Artificial Intelligence
- ENISA, ENISA’s view on Cybersecurity in the Frontier AI Era
- Regolamento (UE) 2024/1689, AI Act