Europeiska kommissionens handlingsplan för cybersäkerhet och artificiell intelligens, som offentliggjordes tidigare denna månad, beskriver hur EU avser att hantera de hot och möjligheter som artificiell intelligens medför.

Det strategiska ramverket kopplar samman befintlig lagstiftning, EU-institutioner, investeringsprogram och operativa initiativ i syfte att hjälpa europeiska organisationer att på ett säkert sätt införa avancerad AI samtidigt som de förbereder sig för snabbare och mer sofistikerade cyberhot.

För företag inom EU och för organisationer som bedriver handel med eller levererar till kunder i EU är riktlinjerna tydliga: AI-relaterade cyberrisker blir en del av den allmänna styrningen, motståndskraften och efterlevnaden.

Vad är EU:s handlingsplan för cybersäkerhet och artificiell intelligens?

Handlingsplanen är kommissionens samordnade svar på de möjligheter och risker som skapas av avancerad AI och banbrytande AI som Fable och Mythos.

Med banbrytande AI avses de mest avancerade modellerna som för närvarande finns tillgängliga eller är under utveckling. Dessa system kan stödja upptäckt av sårbarheter, kodanalys, hotdetektering, incidenthantering och avhjälpande åtgärder. Samma funktioner kan också missbrukas av angripare.

Planen fokuserar på fyra mål:

• Att göra banbrytande AI säkrare och mer tillgänglig för legitim användning inom cybersäkerhet.
• Att förbereda kritiska sektorer, små och medelstora företag samt offentliga organ för AI-drivna hot.
• Att utöka Europas egna kapaciteter inom AI och cybersäkerhet.
• Att främja internationellt samarbete om säker utveckling och användning av AI.

Den bygger på EU:s AI-lag, NIS2-direktivet, lagen om digital operativ motståndskraft, lagen om cybermotståndskraft och lagen om cybersolidaritet. Den ger också ENISA, Gemensamma forskningscentret och andra EU-organ en central roll när det gäller att omsätta politiken i praktiska riktlinjer och operativt stöd.

Är det en ny lag?

Nej. Handlingsplanen skapar inte någon separat uppsättning rättsliga skyldigheter.

Många av rekommendationerna är dock nära kopplade till befintliga skyldigheter enligt NIS2, DORA, AI-lagen och lagen om cyberresiliens. Den ger också en fingervisning om hur tillsynsmyndigheter kan bedöma cyberberedskapen i en hotbild där AI spelar en viktig roll.

Kommissionen förväntar sig att operatörer inom kritiska sektorer och finansiella enheter ser över sina ramverk för riskhantering, förbereder sig för attacker som sker i högre hastighet och större skala, förbättrar uppdateringshanteringen, stärker systemets säkerhet och integrerar AI på ett säkert sätt i cyberverksamheten.

Företagen bör därför betrakta handlingsplanen som en indikation på framtida förväntningar vad gäller tillsyn, avtal och upphandling snarare än som ett rent vägledande policydokument.

De tre huvudpelarna

Pelare 1: Att göra avancerad AI säker och tillgänglig

Den första pelaren fokuserar på att utvärdera banbrytande AI, kontrollera tillgången till dess avancerade cyberfunktioner och testa den på ett säkert sätt.

Kommissionen planerar att inrätta en EU-kapacitet för utvärdering av avancerade AI-modeller, inklusive deras potentiella cyberrisker. Detta kommer att stödja tillsynen enligt AI-lagen och bidra till att bedöma om modellleverantörerna hanterar systemrisker på ett effektivt sätt.

Kommissionen kommer också att utarbeta en europeisk plan för strukturerad tillgång till avancerade AI-funktioner. Syftet är att ge berättigade europeiska organisationer, däribland offentliga myndigheter, operatörer av kritisk infrastruktur, leverantörer av cybersäkerhetstjänster och forskare, en tydligare väg till kraftfulla AI-system.

ENISA och Gemensamma forskningscentret kommer också att utveckla en säker testplattform. Organisationerna kommer att kunna utvärdera AI mot realistiska användningsfall inom cybersäkerhet utan att utsätta produktionssystem eller kritisk infrastruktur för risker.

Cyberövningsanläggningar kommer att stödja detta arbete genom att simulera nätverk, system och driftsmiljöer under kontrollerade förhållanden. Dessa miljöer kan användas för att testa AI-stödd detektering, sårbarhetsskanning, prioritering, avhjälpande åtgärder och incidenthantering.

Pelare 2: Förbereda Europa för AI-drivna attacker

Den andra pelaren är inriktad på operativ beredskap.

Kommissionen är oroad över att AI minskar den tid och expertis som krävs för att upptäcka och utnyttja sårbarheter. Befintliga säkerhetsprocesser kanske inte är tillräckligt snabba för att hålla jämna steg.

Handlingsplanen efterlyser starkare grunder för cybersäkerhet, bland annat:

• Översikt över tillgångar och exponering
• Säker konfiguration och systemhärdning
• Zero Trust där så är lämpligt
• Hantering av sårbarheter
• Säker kodning
• Snabbare riskbaserad patchning
• Samordnad rapportering av sårbarheter
• Effektiv upptäckt och hantering av incidenter

Den belyser även AI-specifika risker såsom promptinjektion, modellförgiftning, dataförgiftning och fientliga attacker.

ENISA kommer att publicera riktlinjer både för skydd mot AI-drivna hot och för säker integrering av AI i cybersäkerhetsverksamheten.

En viktig prioritering är hanteringen av sårbarheter. Kommissionen vill att EU:s sårbarhetsdatabas, de nationella processerna för offentliggörande och den gemensamma rapporteringsplattformen inom ramen för lagen om cyberresiliens ska förbli effektiva, eftersom AI ökar hastigheten och omfattningen av upptäckten av sårbarheter.

Utmaningen handlar inte längre bara om att hitta svagheter. Det handlar om att prioritera och åtgärda dem innan angripare utnyttjar dem.

Pelare 3: Utbyggnad av den europeiska kapaciteten inom cyber-AI

Den tredje pelaren fokuserar på investeringar, suveränitet och kompetens.

Många av de mest avancerade AI-modellerna utvecklas utanför EU. Tillgången till deras cyberkapacitet kan kontrolleras av kommersiella leverantörer eller utländska regeringar.

Kommissionen ser detta som både en säkerhetsmässig och en ekonomisk risk.

I handlingsplanen föreslås ökade investeringar i europeiska AI-modeller, datainfrastruktur, AI-fabriker, cybersäkerhetsteknik och nya leverantörer.

Den innehåller också en EU-omfattande utmaning om AI-stödd åtgärd av sårbarheter. Detta kommer att sammanföra cybersäkerhetsföretag, AI-utvecklare, forskare, operatörer av kritisk infrastruktur och öppen källkodsgemenskaper för att utveckla verktyg som stöder hela åtgärdsprocessen.

EU planerar också att införa AI-inriktad utbildning för cybersäkerhetspersonal och uppdatera det europeiska kompetensramverket för cybersäkerhet så att det omfattar nya kompetenser och roller.

Vilka utmaningar tar handlingsplanen itu med?

AI påskyndar upptäckten av sårbarheter

AI kan identifiera svagheter och analysera kod snabbare än vad många organisationer hinner utvärdera och åtgärda dem.

Detta skapar en obalans. Upptäckten blir alltmer automatiserad, men åtgärdandet är ofta fortfarande långsamt och manuellt.

Organisationer måste förkorta tiden mellan att en sårbarhet identifieras och att en effektiv åtgärd implementeras.

Det blir allt enklare att skala upp attacker

AI kan underlätta rekognosering, nätfiske, social manipulation, utveckling av skadlig kod och utnyttjande av sårbarheter.

Detta gör det möjligt för angripare att rikta in sig på fler organisationer med mindre ansträngning. Säkerhetsteam kan ställas inför större attackvolymer, kortare reaktionstider och mer övertygande lockbeten.

Frontier AI kontrolleras av ett litet antal leverantörer

Europeiska organisationer kan vara beroende av icke-europeiska leverantörer för avancerade AI-funktioner.

Tillgången kan begränsas, försenas eller dras in. Den föreslagna planen syftar till att göra tillgången mer strukturerad, medan EU:s övergripande investeringsstrategi är utformad för att minska beroendet av externa leverantörer.

AI skapar nya säkerhetsrisker

AI utgör också en ny attackyta.

Riskerna omfattar:

• Insprutning av kommandon
• Läckage av känsliga uppgifter
• Förgiftade tränings- eller hämtningsdata
• Osäkra integrationer
• Överdrivna behörigheter
• Komprometterade modellförsörjningskedjor
• Obehöriga autonoma åtgärder

Dessa risker måste utvärderas innan AI-verktyg kopplas till känsliga data, produktionssystem eller säkerhetsarbetsflöden.

Beroendet av öppen källkod är fortfarande en svag punkt

Modern programvara är i hög grad beroende av komponenter med öppen källkod. En enda brist som är utbredd kan drabba tusentals organisationer.

I handlingsplanen föreslås en kampanj för motståndskraft hos kritisk öppen källkod för att identifiera och stärka viktiga komponenter som används i kritiska sektorer. ENISA kommer också att upprätta en katalog över AI-drivna tjänster för att stödja uppdateringar och åtgärder.

Europa står inför en kompetensbrist

AI kommer inte att eliminera behovet av kompetenta cybersäkerhetsexperter.

Säkerhetsteamen kommer fortfarande att behöva personal som kan validera resultat, utreda incidenter, ifrågasätta automatiserade beslut och förstå affärsrisker.

Kompetensbristen kan öka om inte organisationerna investerar i AI-styrning, modellsäkerhet och säker driftsättning.

Vad innebär detta för företag i EU?

För organisationer inom EU kan AI-risker och cybersäkerhetsrisker inte längre hanteras separat.

Riskbedömningarna måste ta hänsyn till AI-baserade hot

Organisationer som omfattas av NIS2, DORA eller sektorsspecifik lagstiftning bör granska om deras riskbedömningar tar hänsyn till att angripare använder AI för att agera snabbare och i större skala.

Årliga bedömningar räcker kanske inte längre. Riskhanteringen måste ta hänsyn till kortare attacktider och mer automatiserad verksamhet.

Uppdateringar kommer att granskas noggrannare

Företagen kommer att behöva visa att de kan:

• Snabbt identifiera drabbade tillgångar
• Prioritera sårbarheter utifrån affärsrisken
• Säkert implementera nödkorrigeringar
• Uppdatera komplexa system
• Spåra undantag och kompenserande kontroller
• Mät resultatet av åtgärderna

En skanningsrapport räcker inte. Organisationer måste visa att resultaten leder till åtgärder.

AI-styrning måste omfatta säkerhet

AI-styrningen bör omfatta mer än integritet, noggrannhet och etik.

Den bör även omfatta:

• Identitets- och åtkomstkontroller
• Dataexponering
• Beroende av tredje part
• Modellbehörigheter
• Övervakning
• Hantering av incidenter
• Verksamhetskontinuitet
• Risker med agentbaserad AI

Säkerhetsteamen måste veta vilka AI-system som används, vilka data de har tillgång till och vilka åtgärder de har tillstånd att utföra.

Säkerhetsteamen förväntas använda AI på ett ansvarsfullt sätt

Kommissionen uppmanar inte organisationerna att undvika AI.

Den vill att företagen ska använda den för att förbättra motståndskraften inom områden som:

• Hotdetektering
• Prioritering av varningar
• Hotinformation
• Prioritering av sårbarheter
• Kodanalys
• Utredning av incidenter
• Övervakning av regelefterlevnad
• Planering av åtgärder

Dessa system måste fortfarande testas, styras och övervakas av människor.

Vad innebär detta för företag utanför EU?

Handlingsplanen kommer också att påverka organisationer i Storbritannien, USA och på andra håll.

Dess relevans beror på om ett företag levererar, stödjer eller behandlar data för EU-kunder.

Tillträde till EU-marknaden kommer att påverka produktsäkerheten

Teknikleverantörer som säljer programvara eller hårdvara i EU måste redan nu ta hänsyn till lagen om cyberresiliens.

Handlingsplanen skärper kraven på säker utveckling, support under hela livscykeln, rapportering av sårbarheter och snabb utgivning av säkerhetsuppdateringar.

EU-kunder kan ställa högre krav på leverantörerna

Organisationer som omfattas av NIS2 och DORA måste hantera risker kopplade till tredje part.

Leverantörer kan i allt högre grad bli ombedda att tillhandahålla information om:

• AI-system som används vid tillhandahållande av tjänster
• Modell- och dataleverantörer
• Säkerhetskontroller
• Anmälan av incidenter
• Hantering av sårbarheter
• Programvaruberoenden
• Kontinuitetsplanering
• Datalagring och dataskydd

Dessa krav kommer sannolikt att förekomma i anbud, avtal och leverantörsbedömningar.

AI-leverantörer kan ställas inför nya utvärderingskrav

Leverantörer av allmän AI och banbrytande AI kan behöva förhålla sig till EU:s utvärderingsstrukturer, tillsynen enligt AI-lagen och program för strukturerad tillgång.

Leverantörer utanför EU som släpper ut modeller eller tjänster på den europeiska marknaden kan fortfarande omfattas av EU:s regler.

EU:s standarder kan påverka den globala praxisen

Handlingsplanen efterlyser samarbete genom G7, FN, Nato och bilaterala partnerskap.

Dess strategi för utvärdering av banbrytande AI, hantering av sårbarheter, säkerhet för öppen källkod och skydd av kritisk infrastruktur kan därför komma att forma standarder även utanför Europa.

Vad bör företagen göra nu?

Organisationer bör inte vänta på att varje initiativ i handlingsplanen ska vara genomfört.

De bör börja med att granska sin exponering för både AI-baserade hot och osäker AI-användning.

Viktiga prioriteringar är bland annat:

• Kartläggning av nuvarande AI-användning
• Granska AI-relaterade risker
• Att testa planer för hantering av incidenter
• Förbättra prioriteringen av sårbarheter
• Att minska fördröjningarna vid patchning
• Bedömning av leverantörsberoenden
• Stärka identitetskontroller
• Utbildning av cybersäkerhetsteam
• Testa AI-verktyg innan de tas i drift

Företag bör också undersöka om deras säkerhetsverksamhet klarar av snabbare attacker. Processer som i hög grad bygger på manuell prioritering och utredning kan få svårt att hänga med när angriparna ökar automatiseringen.

Förberedelser för cybersäkerhet i AI-takt

Handlingsplanen är utformad för att hjälpa Europa att anpassa sig till ett hotlandskap där både angripare och försvarare agerar snabbare.

Dess centrala budskap är enkelt: årliga utvärderingar, långsam patchning och i hög grad manuella säkerhetsrutiner kanske inte längre räcker till.

Organisationer behöver kontinuerlig insyn, snabbare prioritering, starkare insatsförmåga och säker AI-styrning.

För företag inom EU kommer dessa förväntningar i allt högre grad att påverka reglering och tillsyn. För organisationer utanför EU kommer de att forma marknadstillträde, avtal och krav på leverantörskedjan.

Hur Integrity360 kan hjälpa till

Integrity360 hjälper organisationer att stärka sin cyberresiliens, minska sin exponering och förbereda sig för AI-baserade hot.

Våra experter stöder företag över hela Europa med cyberriskbedömningar, förberedelser inför regelverk, hantering av hotexponering, sårbarhetshantering, penetrationstestning, hanterad detektering och respons, incidenthantering samt AI-säkerhet.

Vi kan hjälpa er att:

• Bedöma säkerhetskonsekvenserna av AI-införandet
• Identifiera och prioritera kritiska risker
• Förbättra åtgärdandet av sårbarheter
• Stärka detektering och respons
• Granska risker kopplade till tredjeparter och leverantörskedjan
• Förbered dig för NIS2, DORA och relaterade krav
• Testa om befintliga kontroller klarar snabbare, AI-drivna attacker

Kontakta Integrity360 för att bygga upp ett mer motståndskraftigt, responsivt och AI-klart cybersäkerhetsprogram.