Il piano d’azione della Commissione europea sulla sicurezza informatica e l’intelligenza artificiale, pubblicato all’inizio di questo mese, illustra come l’UE intenda rispondere alle minacce e alle opportunità poste dall’IA.
Il quadro strategico collega la legislazione esistente, le istituzioni dell’UE, i programmi di investimento e le iniziative operative con l’obiettivo di aiutare le organizzazioni europee ad adottare l’IA avanzata in modo sicuro, preparandosi al contempo a minacce informatiche sempre più rapide e sofisticate.
Per le imprese dell’UE e per le organizzazioni che intrattengono rapporti commerciali con clienti dell’UE o forniscono loro prodotti e servizi, la direzione da seguire è chiara: il rischio informatico legato all’IA sta diventando parte integrante della governance, della resilienza e della conformità.
Il Piano d’azione rappresenta la risposta coordinata della Commissione alle opportunità e ai rischi generati dall’IA avanzata e di frontiera, come Fable e Mythos.
Per «IA di frontiera» si intendono i modelli più potenti attualmente disponibili o in fase di sviluppo. Questi sistemi possono supportare l’individuazione delle vulnerabilità, l’analisi del codice, il rilevamento delle minacce, la risposta agli incidenti e la loro risoluzione. Le stesse capacità possono però essere utilizzate in modo improprio dagli autori degli attacchi.
Il piano si concentra su quattro obiettivi:
Il piano si basa sulla legge dell’UE sull’IA, sulla direttiva NIS2, sulla legge sulla resilienza operativa digitale, sulla legge sulla resilienza informatica e sulla legge sulla solidarietà informatica. Inoltre, attribuisce all’ENISA, al Centro comune di ricerca e ad altri organismi dell’UE un ruolo centrale nel tradurre le politiche in orientamenti pratici e sostegno operativo.
No. Il piano d’azione non introduce una serie separata di obblighi giuridici.
Tuttavia, molte delle sue raccomandazioni sono strettamente legate agli obblighi esistenti ai sensi della direttiva NIS2, del DORA, della legge sull’IA e della legge sulla resilienza informatica. Indica inoltre in che modo le autorità di regolamentazione possono valutare la preparazione informatica in un contesto di minacce basate sull’IA.
La Commissione si aspetta che gli operatori dei settori critici e gli enti finanziari rivedano i propri quadri di gestione dei rischi, si preparino ad attacchi sempre più rapidi e su vasta scala, migliorino l’applicazione delle patch, rafforzino la sicurezza dei sistemi e integrino l’intelligenza artificiale in modo sicuro nelle operazioni informatiche.
Le imprese dovrebbero quindi considerare il Piano d’azione come un’indicazione delle future aspettative in materia di vigilanza, contratti e appalti, piuttosto che come un documento politico puramente programmatico.
Il primo pilastro si concentra sulla valutazione dell’IA all’avanguardia, sul controllo dell’accesso alle sue capacità informatiche avanzate e sul suo collaudo in condizioni di sicurezza.
La Commissione intende istituire una capacità di valutazione a livello dell’UE per i modelli di IA avanzata, compresi i loro potenziali rischi informatici. Ciò sosterrà la vigilanza prevista dalla legge sull’IA e contribuirà a valutare se i fornitori di modelli gestiscono efficacemente i rischi sistemici.
Verrà inoltre elaborato un piano d’azione europeo per un accesso strutturato alle capacità avanzate di IA. L’obiettivo è fornire alle organizzazioni europee ammissibili, tra cui autorità pubbliche, gestori di infrastrutture critiche, fornitori di servizi di sicurezza informatica e ricercatori, un percorso più chiaro verso sistemi di IA potenti.
L’ENISA e il Centro comune di ricerca svilupperanno inoltre una piattaforma di test sicura. Le organizzazioni potranno valutare l’IA sulla base di casi d’uso realistici in materia di sicurezza informatica senza esporre i sistemi di produzione o le infrastrutture critiche.
I «cyber range» sosterranno questo lavoro simulando reti, sistemi e ambienti operativi in condizioni controllate. Questi ambienti potranno essere utilizzati per testare il rilevamento assistito dall’IA, la scansione delle vulnerabilità, la classificazione, la correzione e la risposta agli incidenti.
Il secondo pilastro è incentrato sulla prontezza operativa.
La preoccupazione della Commissione è che l’IA stia riducendo il tempo e le competenze necessarie per individuare e sfruttare le vulnerabilità. I processi di sicurezza esistenti potrebbero non essere abbastanza rapidi per stare al passo.
Il piano d’azione richiede il rafforzamento dei fondamenti della sicurezza informatica, tra cui:
Inoltre, mette in evidenza i rischi specifici dell’IA, quali l’iniezione di prompt, l’avvelenamento dei modelli, l’avvelenamento dei dati e gli attacchi avversariali.
L’ENISA pubblicherà linee guida sia sulla protezione dalle minacce basate sull’IA sia sull’integrazione sicura dell’IA nelle operazioni di sicurezza informatica.
Una delle principali priorità è la gestione delle vulnerabilità. La Commissione intende garantire che la banca dati delle vulnerabilità dell’Unione europea, i processi nazionali di divulgazione e la piattaforma unica di segnalazione prevista dal Cyber Resilience Act rimangano efficaci, poiché l’IA aumenta la velocità e il volume dell’individuazione delle vulnerabilità.
La sfida non consiste più semplicemente nell’individuare i punti deboli, ma nel stabilirne la priorità e risolverli prima che gli aggressori ne approfittino.
Il terzo pilastro si concentra su investimenti, sovranità e competenze.
Molti dei modelli di IA più avanzati vengono sviluppati al di fuori dell’UE. L’accesso alle loro capacità informatiche potrebbe essere controllato da fornitori commerciali o da governi stranieri.
La Commissione considera ciò un rischio sia per la sicurezza che per l’economia.
Il piano d’azione propone maggiori investimenti nei modelli europei di IA, nelle infrastrutture di calcolo, nei «centri di produzione» di IA, nelle tecnologie di sicurezza informatica e nei fornitori emergenti.
Include inoltre una «Grande sfida dell’UE» sulla risoluzione delle vulnerabilità assistita dall’IA. Ciò riunirà aziende di sicurezza informatica, sviluppatori di IA, ricercatori, gestori di infrastrutture critiche e comunità open source per sviluppare strumenti a supporto dell’intero processo di risoluzione delle vulnerabilità.
L’UE prevede inoltre di introdurre una formazione incentrata sull’IA per i professionisti della sicurezza informatica e di aggiornare il quadro europeo delle competenze in materia di sicurezza informatica per includere nuove competenze e ruoli.
L’IA è in grado di identificare i punti deboli e analizzare il codice più rapidamente di quanto molte organizzazioni riescano a valutarli e a correggere le vulnerabilità.
Questo crea uno squilibrio. L’individuazione sta diventando sempre più automatizzata, ma la correzione rimane spesso lenta e manuale.
Le organizzazioni devono ridurre il tempo che intercorre tra l’identificazione di una vulnerabilità e l’implementazione di una soluzione efficace.
L'IA può supportare la ricognizione, il phishing, l'ingegneria sociale, lo sviluppo di codice dannoso e lo sfruttamento delle vulnerabilità.
Ciò consente agli aggressori di prendere di mira un numero maggiore di organizzazioni con meno sforzo. I team di sicurezza potrebbero trovarsi ad affrontare volumi di attacchi più elevati, tempi di risposta più brevi ed esche più convincenti.
Le organizzazioni europee potrebbero affidarsi a fornitori non europei per le funzionalità avanzate di IA.
L’accesso potrebbe essere limitato, ritardato o revocato. Il piano d’azione proposto mira a rendere l’accesso più strutturato, mentre la più ampia strategia di investimento dell’UE è concepita per ridurre la dipendenza dai fornitori esterni.
L’IA rappresenta anche una nuova superficie di attacco.
I rischi includono:
Questi rischi devono essere valutati prima che gli strumenti di IA vengano collegati a dati sensibili, sistemi di produzione o flussi di lavoro relativi alla sicurezza.
Il software moderno dipende fortemente dai componenti open source. Una singola vulnerabilità ampiamente diffusa può avere ripercussioni su migliaia di organizzazioni.
Il Piano d’azione propone una Campagna per la resilienza dell’open source critico volta a identificare e rafforzare i componenti importanti utilizzati nei settori critici. L’ENISA creerà inoltre un catalogo dei servizi basati sull’IA per supportare l’applicazione di patch e le misure correttive.
L’IA non eliminerà la necessità di professionisti qualificati nel campo della sicurezza informatica.
I team di sicurezza avranno ancora bisogno di persone in grado di convalidare i risultati, indagare sugli incidenti, mettere in discussione le decisioni automatizzate e comprendere i rischi aziendali.
Il divario di competenze potrebbe ampliarsi a meno che le organizzazioni non investano nella governance dell’IA, nella sicurezza dei modelli e nelle capacità di implementazione sicura.
Per le organizzazioni dell’UE, i rischi legati all’IA e quelli legati alla sicurezza informatica non possono più essere gestiti separatamente.
Le organizzazioni soggette alla direttiva NIS2, al regolamento DORA o a normative settoriali specifiche dovrebbero verificare se le loro valutazioni dei rischi tengano conto del fatto che gli autori degli attacchi utilizzano l’IA per agire più rapidamente e su scala più ampia.
Le valutazioni annuali da sole potrebbero non essere più sufficienti. La gestione dei rischi deve tenere conto di tempi di attacco più brevi e di attività sempre più automatizzate.
Le aziende dovranno dimostrare di essere in grado di:
Un rapporto di scansione non è sufficiente. Le organizzazioni devono dimostrare che i risultati individuati portano all’adozione di misure concrete.
La governance dell’IA dovrebbe andare oltre la privacy, l’accuratezza e l’etica.
Dovrebbe inoltre affrontare:
I team di sicurezza devono sapere quali sistemi di IA sono in uso, a quali dati possono accedere e quali azioni sono autorizzati a eseguire.
La Commissione non chiede alle organizzazioni di evitare l’IA.
Intende invece che le imprese la utilizzino per migliorare la resilienza in ambiti quali:
Questi sistemi devono comunque essere testati, gestiti e sottoposti a supervisione umana.
Il Piano d’azione avrà ripercussioni anche sulle organizzazioni nel Regno Unito, negli Stati Uniti e altrove.
La sua rilevanza dipende dal fatto che un’azienda fornisca, supporti o tratti dati per clienti dell’UE.
I fornitori di tecnologia che vendono software o hardware nell’UE devono già tenere conto del Cyber Resilience Act.
Il Piano d’azione rafforza le aspettative in materia di sviluppo sicuro, supporto durante il ciclo di vita, divulgazione delle vulnerabilità e applicazione tempestiva delle patch.
Le organizzazioni soggette alla direttiva NIS2 e al regolamento DORA devono gestire i rischi legati a terze parti.
Ai fornitori potrebbe essere sempre più richiesto di fornire informazioni su:
È probabile che questi requisiti compaiano nei bandi di gara, nei contratti e nelle valutazioni dei fornitori.
I fornitori di IA generica e di frontiera potrebbero dover interagire con le strutture di valutazione dell’UE, la supervisione prevista dall’IA Act e i programmi di accesso strutturato.
I fornitori extra-UE che immettono modelli o servizi sul mercato europeo potrebbero comunque rientrare nell’ambito di applicazione delle norme UE.
Il Piano d’azione prevede la cooperazione attraverso il G7, le Nazioni Unite, la NATO e i partenariati bilaterali.
Il suo approccio alla valutazione dell’IA di frontiera, alla gestione delle vulnerabilità, alla sicurezza dell’open source e alla protezione delle infrastrutture critiche potrebbe quindi plasmare gli standard anche al di fuori dell’Europa.
Le organizzazioni non dovrebbero attendere il completamento di ogni singola iniziativa del Piano d’azione.
Dovrebbero iniziare a valutare la propria esposizione sia alle minacce legate all’IA sia all’adozione non sicura dell’IA.
Le priorità chiave includono:
Le aziende dovrebbero inoltre valutare se le proprie operazioni di sicurezza siano in grado di far fronte ad attacchi sempre più rapidi. I processi che si basano in larga misura sulla valutazione e sull’analisi manuale potrebbero incontrare difficoltà man mano che gli autori degli attacchi aumentano il ricorso all’automazione.
Il Piano d’azione è concepito per aiutare l’Europa ad adattarsi a un panorama delle minacce in cui sia gli aggressori che i difensori operano più rapidamente.
Il suo messaggio centrale è semplice: valutazioni annuali, applicazione lenta delle patch e operazioni di sicurezza fortemente manuali potrebbero non essere più sufficienti.
Le organizzazioni necessitano di visibilità continua, definizione più rapida delle priorità, capacità di risposta più solide e una governance sicura dell’IA.
Per le imprese dell’UE, queste aspettative influenzeranno sempre più la regolamentazione e la vigilanza. Per le organizzazioni al di fuori dell’UE, determineranno l’accesso al mercato, i contratti e i requisiti della catena di fornitura.
Integrity360 aiuta le organizzazioni a rafforzare la resilienza informatica, a ridurre l’esposizione e a prepararsi alle minacce basate sull’IA.
I nostri esperti supportano le aziende in tutta Europa con valutazioni dei rischi informatici, preparazione alle normative, gestione dell’esposizione alle minacce, gestione delle vulnerabilità, test di penetrazione, rilevamento e risposta gestiti, risposta agli incidenti e sicurezza dell’IA.
Possiamo aiutarvi a:
Contatta Integrity360 per sviluppare un programma di sicurezza informatica più resiliente, reattivo e pronto per l’intelligenza artificiale.