EU-kommissionen la den 21 april 2021 fram ett förslag till förordning rörande harmoniserade regler för utveckling och användning av artificiell intelligens (AI).
AI-Act syftar till att reglera användningen av artificiell intelligens (AI) i EU. Förordningen syftar till att säkerställa att användningen av AI sker på ett etiskt och ansvarsfullt sätt, samtidigt som den främjar innovation och tillväxt.
Förordningen kommer att omfatta alla typer av AI-system, inklusive både högrisksystem som kan ha betydande konsekvenser för individer och samhället som helhet, samt lågrisksystem som används för mindre viktiga ändamål. Några exempel på högrisk-AI-system inkluderar ansiktsigenkänningsteknik, autonoma fordon, och AI som används för att bedöma kreditvärdighet eller anställningsbarhet.
Förordningen kommer att innehålla regler för hur dessa system kan användas, inklusive krav på transparens, säkerhet, ansvar och etisk användning av AI.
Det kommer också att finnas en process för att bedöma och godkänna högrisk-AI-system innan de kan användas på marknaden, exempelvis CE-märkning.
Det kommer vara ett riskbaserat synsätt indelat i oacceptabel risk, hög risk, begränsad risk, minimal risk. Detta innebär att användningen av vissa AI-system, som innebär en oacceptabel risk för enskildas säkerhet, rättigheter och möjligheter till försörjning, kommer att vara förbjudna. Exempelvis sådana som handlar om att profilera och klassificera fysiska personers trovärdighet över tid baserat på deras beteenden eller personlighetsdrag.
För organisationer som utvecklar och använder AI, kommer den nya regleringen att innebära ytterligare krav på dokumentation och riskbedömningar. Utöver GDPR:s konsekvensbedömning (Data Processing Impact Assessment, DPIA) rörande dataskydd kommer även en AI-riskbedömning (AI Risk Assessment, AIRA) att behöva göras.
Förordningen innehåller höga administrativa sanktionsavgifter. Storleken beror på vilket brott mot förordningen som skett, men kan vara upp till 30 miljoner euro eller 6 procent av bolagets årsomsättning.
Målet med AI-förordningen är att skapa en balans mellan användningen av AI för att främja innovation och ekonomisk tillväxt, samtidigt som man skyddar de grundläggande rättigheterna och värderingarna som EU:s medborgare har. Oklart exakt när förordningen ska börja tillämpas på medlemsstater i EU, troligen 2024.

#AI