AI-förordningen

Cybersäkerhet är avgörande för att skapa förtroende för AI och för att skydda användare och samhället, enligt EU:s AI-förordning med omfattande lagkrav 2027.

Förordningen delar in AI i fyra nivåer av risk. Skadliga tillämpningar förbjuds. För AI-system med hög risk finns krav på transparens, teknisk dokumentation och loggning. De ska utformas för att hantera och motstå cyberattacker och skyddas mot manipulering och obehörig åtkomst – vara robusta.

Dokumentationen ska ge detaljer om skydd av data och skydd mot cyberhot. Loggningen ska göra det möjligt att spåra och logga alla väsentliga händelser för att kunna upptäcka och åtgärda säkerhetsbrister och utreda incidenter.

AI-system ska regelbundet uppdateras och underhållas för att förbli säkra över tid. Leverantörer måste kunna visa att de har rutiner för att hantera uppdateringar på ett sätt som inte äventyrar systemets säkerhet.

Förordningen pekar särskilt på att bristande cybersäkerhet öppnar för avsiktligt orsakade fel i maskininlärning, såsom risken för förgiftningsattacker mot dataset för träning (det drabbar riktigheten, i triaden konfidentialitet-riktighet-tillgänglighet) och risken för medlemskapsinferens (det drabbar konfidentialieten och kan bryta sekretess) som innebär att en angripare kan avgöra om en viss datapost ingick i modellens träningsdata eller inte.

Lagkraven omfattar företag som utvecklar, levererar, driftar och förvaltar AI samt importörer, distributörer, produkttillverkare och i viss mån även andra i värdekedjan. Leverantörer av högrisksystem måste ha säkerhetskontroller på plats och hantera den underliggande infrastrukturen.

Sanktioner för den som bryter mot förordningen kan innebära höga böter
(20 miljoner euro eller fyra procent av företagets årliga omsättning)
till exempel för att använda förbjuden AI, eller måttliga men betydande böter
(10 miljoner euro eller två procent av omsättningen)
till exempel för bristande transparens eller dokumentation.

I Sverige kan flera myndigheter komma att samverka om tillsyn. Här finns Integritetsskyddsmyndigheten (IMY), Post- och telestyrelsen (PTS),
Myndigheten för samhällsskydd och beredskap (MSB), Konsumentverket, Arbetsmiljöverket och Finansinspektionen, i samverkan med European Artificial Intelligence Board. Nationella myndigheter ska säkerställa en lämplig nivå av cybersäkerhet. EU:s cybersäkerhetsbyrå Enisa spelar en rådgivande roll.

Avgränsningar och undantag omfattar AI som beslutar utan mänsklig kontroll men enligt ”regler som fastställs endast av fysiska personer för att automatiskt utföra operationer”. Reglerna gäller inte vetenskaplig forskning och utveckling, kommersiell forskning, utveckling och prototypframställning före lansering på marknaden, personligt icke-professionellt bruk och användande i militären eller för nationell säkerhet. Det finns också vissa öppningar för AI inom öppen källkod.

Som högrisk räknas inte snäva proceduruppgifter, förbättring av ett tidigare genomfört resultat av mänsklig aktivitet, att upptäcka beslutsmönster eller avvikelser från mönster och att förbereda en bedömning – såvida det inte handlar om att profilera individer.

Biometriska system som används enbart för cybersäkerhet och skydd av personuppgifter ses inte som högrisk. Komponenter som används enbart för cybersäkerhet räknas inte, till exempel brandlarm i serverhallar och datacenter.

AI som klarar andra EU-förordningar om cybersäkerhet anses uppfylla kraven om cybersäkerhet i AI-förordningen. Certifieringar och försäkringar om överensstämmelse enligt andra EU-förordningar är giltiga även för krav på cybersäkerhet i AI-förordningen.

Förordningen beslutades av Europaparlamentet i mars och ministerrådet i maj 2024. Högrisksystem måste klara kraven efter 36 månader, det vill säga 2027. Merparten av lagkraven börjar gälla efter 24 månader. Förbud mot oacceptabla AI-system gäller efter sex månader, uppförandekoder efter nio månader och regler om insyn efter 12 månader.

Förordningen uppmuntrar utvecklingen och användningen av internationella och europeiska standarder för cybersäkerhet.