Europeiska kommissionens handlingsplan för cybersäkerhet och artificiell intelligens, som offentliggjordes tidigare denna månad, beskriver hur EU avser att hantera de hot och möjligheter som artificiell intelligens medför.
Det strategiska ramverket kopplar samman befintlig lagstiftning, EU-institutioner, investeringsprogram och operativa initiativ i syfte att hjälpa europeiska organisationer att på ett säkert sätt införa avancerad AI samtidigt som de förbereder sig för snabbare och mer sofistikerade cyberhot.
För företag inom EU och för organisationer som bedriver handel med eller levererar till kunder i EU är riktlinjerna tydliga: AI-relaterade cyberrisker blir en del av den allmänna styrningen, motståndskraften och efterlevnaden.
Handlingsplanen är kommissionens samordnade svar på de möjligheter och risker som skapas av avancerad AI och banbrytande AI som Fable och Mythos.
Med banbrytande AI avses de mest avancerade modellerna som för närvarande finns tillgängliga eller är under utveckling. Dessa system kan stödja upptäckt av sårbarheter, kodanalys, hotdetektering, incidenthantering och avhjälpande åtgärder. Samma funktioner kan också missbrukas av angripare.
Planen fokuserar på fyra mål:
Den bygger på EU:s AI-lag, NIS2-direktivet, lagen om digital operativ motståndskraft, lagen om cybermotståndskraft och lagen om cybersolidaritet. Den ger också ENISA, Gemensamma forskningscentret och andra EU-organ en central roll när det gäller att omsätta politiken i praktiska riktlinjer och operativt stöd.
Nej. Handlingsplanen skapar inte någon separat uppsättning rättsliga skyldigheter.
Många av rekommendationerna är dock nära kopplade till befintliga skyldigheter enligt NIS2, DORA, AI-lagen och lagen om cyberresiliens. Den ger också en fingervisning om hur tillsynsmyndigheter kan bedöma cyberberedskapen i en hotbild där AI spelar en viktig roll.
Kommissionen förväntar sig att operatörer inom kritiska sektorer och finansiella enheter ser över sina ramverk för riskhantering, förbereder sig för attacker som sker i högre hastighet och större skala, förbättrar uppdateringshanteringen, stärker systemets säkerhet och integrerar AI på ett säkert sätt i cyberverksamheten.
Företagen bör därför betrakta handlingsplanen som en indikation på framtida förväntningar vad gäller tillsyn, avtal och upphandling snarare än som ett rent vägledande policydokument.
Den första pelaren fokuserar på att utvärdera banbrytande AI, kontrollera tillgången till dess avancerade cyberfunktioner och testa den på ett säkert sätt.
Kommissionen planerar att inrätta en EU-kapacitet för utvärdering av avancerade AI-modeller, inklusive deras potentiella cyberrisker. Detta kommer att stödja tillsynen enligt AI-lagen och bidra till att bedöma om modellleverantörerna hanterar systemrisker på ett effektivt sätt.
Kommissionen kommer också att utarbeta en europeisk plan för strukturerad tillgång till avancerade AI-funktioner. Syftet är att ge berättigade europeiska organisationer, däribland offentliga myndigheter, operatörer av kritisk infrastruktur, leverantörer av cybersäkerhetstjänster och forskare, en tydligare väg till kraftfulla AI-system.
ENISA och Gemensamma forskningscentret kommer också att utveckla en säker testplattform. Organisationerna kommer att kunna utvärdera AI mot realistiska användningsfall inom cybersäkerhet utan att utsätta produktionssystem eller kritisk infrastruktur för risker.
Cyberövningsanläggningar kommer att stödja detta arbete genom att simulera nätverk, system och driftsmiljöer under kontrollerade förhållanden. Dessa miljöer kan användas för att testa AI-stödd detektering, sårbarhetsskanning, prioritering, avhjälpande åtgärder och incidenthantering.
Den andra pelaren är inriktad på operativ beredskap.
Kommissionen är oroad över att AI minskar den tid och expertis som krävs för att upptäcka och utnyttja sårbarheter. Befintliga säkerhetsprocesser kanske inte är tillräckligt snabba för att hålla jämna steg.
Handlingsplanen efterlyser starkare grunder för cybersäkerhet, bland annat:
Den belyser även AI-specifika risker såsom promptinjektion, modellförgiftning, dataförgiftning och fientliga attacker.
ENISA kommer att publicera riktlinjer både för skydd mot AI-drivna hot och för säker integrering av AI i cybersäkerhetsverksamheten.
En viktig prioritering är hanteringen av sårbarheter. Kommissionen vill att EU:s sårbarhetsdatabas, de nationella processerna för offentliggörande och den gemensamma rapporteringsplattformen inom ramen för lagen om cyberresiliens ska förbli effektiva, eftersom AI ökar hastigheten och omfattningen av upptäckten av sårbarheter.
Utmaningen handlar inte längre bara om att hitta svagheter. Det handlar om att prioritera och åtgärda dem innan angripare utnyttjar dem.
Den tredje pelaren fokuserar på investeringar, suveränitet och kompetens.
Många av de mest avancerade AI-modellerna utvecklas utanför EU. Tillgången till deras cyberkapacitet kan kontrolleras av kommersiella leverantörer eller utländska regeringar.
Kommissionen ser detta som både en säkerhetsmässig och en ekonomisk risk.
I handlingsplanen föreslås ökade investeringar i europeiska AI-modeller, datainfrastruktur, AI-fabriker, cybersäkerhetsteknik och nya leverantörer.
Den innehåller också en EU-omfattande utmaning om AI-stödd åtgärd av sårbarheter. Detta kommer att sammanföra cybersäkerhetsföretag, AI-utvecklare, forskare, operatörer av kritisk infrastruktur och öppen källkodsgemenskaper för att utveckla verktyg som stöder hela åtgärdsprocessen.
EU planerar också att införa AI-inriktad utbildning för cybersäkerhetspersonal och uppdatera det europeiska kompetensramverket för cybersäkerhet så att det omfattar nya kompetenser och roller.
AI kan identifiera svagheter och analysera kod snabbare än vad många organisationer hinner utvärdera och åtgärda dem.
Detta skapar en obalans. Upptäckten blir alltmer automatiserad, men åtgärdandet är ofta fortfarande långsamt och manuellt.
Organisationer måste förkorta tiden mellan att en sårbarhet identifieras och att en effektiv åtgärd implementeras.
AI kan underlätta rekognosering, nätfiske, social manipulation, utveckling av skadlig kod och utnyttjande av sårbarheter.
Detta gör det möjligt för angripare att rikta in sig på fler organisationer med mindre ansträngning. Säkerhetsteam kan ställas inför större attackvolymer, kortare reaktionstider och mer övertygande lockbeten.
Europeiska organisationer kan vara beroende av icke-europeiska leverantörer för avancerade AI-funktioner.
Tillgången kan begränsas, försenas eller dras in. Den föreslagna planen syftar till att göra tillgången mer strukturerad, medan EU:s övergripande investeringsstrategi är utformad för att minska beroendet av externa leverantörer.
AI utgör också en ny attackyta.
Riskerna omfattar:
Dessa risker måste utvärderas innan AI-verktyg kopplas till känsliga data, produktionssystem eller säkerhetsarbetsflöden.
Modern programvara är i hög grad beroende av komponenter med öppen källkod. En enda brist som är utbredd kan drabba tusentals organisationer.
I handlingsplanen föreslås en kampanj för motståndskraft hos kritisk öppen källkod för att identifiera och stärka viktiga komponenter som används i kritiska sektorer. ENISA kommer också att upprätta en katalog över AI-drivna tjänster för att stödja uppdateringar och åtgärder.
AI kommer inte att eliminera behovet av kompetenta cybersäkerhetsexperter.
Säkerhetsteamen kommer fortfarande att behöva personal som kan validera resultat, utreda incidenter, ifrågasätta automatiserade beslut och förstå affärsrisker.
Kompetensbristen kan öka om inte organisationerna investerar i AI-styrning, modellsäkerhet och säker driftsättning.
För organisationer inom EU kan AI-risker och cybersäkerhetsrisker inte längre hanteras separat.
Organisationer som omfattas av NIS2, DORA eller sektorsspecifik lagstiftning bör granska om deras riskbedömningar tar hänsyn till att angripare använder AI för att agera snabbare och i större skala.
Årliga bedömningar räcker kanske inte längre. Riskhanteringen måste ta hänsyn till kortare attacktider och mer automatiserad verksamhet.
Företagen kommer att behöva visa att de kan:
En skanningsrapport räcker inte. Organisationer måste visa att resultaten leder till åtgärder.
AI-styrningen bör omfatta mer än integritet, noggrannhet och etik.
Den bör även omfatta:
Säkerhetsteamen måste veta vilka AI-system som används, vilka data de har tillgång till och vilka åtgärder de har tillstånd att utföra.
Kommissionen uppmanar inte organisationerna att undvika AI.
Den vill att företagen ska använda den för att förbättra motståndskraften inom områden som:
Dessa system måste fortfarande testas, styras och övervakas av människor.
Handlingsplanen kommer också att påverka organisationer i Storbritannien, USA och på andra håll.
Dess relevans beror på om ett företag levererar, stödjer eller behandlar data för EU-kunder.
Teknikleverantörer som säljer programvara eller hårdvara i EU måste redan nu ta hänsyn till lagen om cyberresiliens.
Handlingsplanen skärper kraven på säker utveckling, support under hela livscykeln, rapportering av sårbarheter och snabb utgivning av säkerhetsuppdateringar.
Organisationer som omfattas av NIS2 och DORA måste hantera risker kopplade till tredje part.
Leverantörer kan i allt högre grad bli ombedda att tillhandahålla information om:
Dessa krav kommer sannolikt att förekomma i anbud, avtal och leverantörsbedömningar.
Leverantörer av allmän AI och banbrytande AI kan behöva förhålla sig till EU:s utvärderingsstrukturer, tillsynen enligt AI-lagen och program för strukturerad tillgång.
Leverantörer utanför EU som släpper ut modeller eller tjänster på den europeiska marknaden kan fortfarande omfattas av EU:s regler.
Handlingsplanen efterlyser samarbete genom G7, FN, Nato och bilaterala partnerskap.
Dess strategi för utvärdering av banbrytande AI, hantering av sårbarheter, säkerhet för öppen källkod och skydd av kritisk infrastruktur kan därför komma att forma standarder även utanför Europa.
Organisationer bör inte vänta på att varje initiativ i handlingsplanen ska vara genomfört.
De bör börja med att granska sin exponering för både AI-baserade hot och osäker AI-användning.
Viktiga prioriteringar är bland annat:
Företag bör också undersöka om deras säkerhetsverksamhet klarar av snabbare attacker. Processer som i hög grad bygger på manuell prioritering och utredning kan få svårt att hänga med när angriparna ökar automatiseringen.
Handlingsplanen är utformad för att hjälpa Europa att anpassa sig till ett hotlandskap där både angripare och försvarare agerar snabbare.
Dess centrala budskap är enkelt: årliga utvärderingar, långsam patchning och i hög grad manuella säkerhetsrutiner kanske inte längre räcker till.
Organisationer behöver kontinuerlig insyn, snabbare prioritering, starkare insatsförmåga och säker AI-styrning.
För företag inom EU kommer dessa förväntningar i allt högre grad att påverka reglering och tillsyn. För organisationer utanför EU kommer de att forma marknadstillträde, avtal och krav på leverantörskedjan.
Integrity360 hjälper organisationer att stärka sin cyberresiliens, minska sin exponering och förbereda sig för AI-baserade hot.
Våra experter stöder företag över hela Europa med cyberriskbedömningar, förberedelser inför regelverk, hantering av hotexponering, sårbarhetshantering, penetrationstestning, hanterad detektering och respons, incidenthantering samt AI-säkerhet.
Vi kan hjälpa er att:
Kontakta Integrity360 för att bygga upp ett mer motståndskraftigt, responsivt och AI-klart cybersäkerhetsprogram.