EU's AI-forordning vedtaget

Natten til lørdag, og efter over 36 timers forhandling, faldt brikkerne endeligt på plads for den nye AI-forordning Her er de vigtigste ændringer, bl.a. dem der er relevant for undervisningssektoren.

Europa-Parlamentet har vedtaget fremover at bruge OECD’s forslag til en definition på hvad kunstig intelligens er, i stedet for den tidligere foreslåede definition. Der foreligger endnu ikke en dansk oversættelse af definitionen:

“An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment.”

Det er også aftalt, at forordningen ikke kan benyttes uden for EU-rettens anvendelsesområde og under ingen omstændigheder, bør påvirke medlemslandenes egne kompetencer for national sikkerhed.

Derudover er de væsentligste ændringer i den endelige AI-forordning som følger:

Det er som udgangspunkt forbudt at bruge ansigtsgenkendelse i det offentlige rum, men der åbnes nu op for at medlemslandene kan bruge teknologien til at søge efter ofre og mistænkte ved alvorlig kriminalitet, og til at forsøge at forhindre terrorangreb.
Det er også forbudt at bruge systemer til følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner, men kan i visse tilfælde bruges ved grænseovergange
Man må heller ikke systematisk skrabe ansigtsbilleder fra internettet eller overvågnings-optagelser til at oprette ansigtsgenkendelsesdatabaser.

AI-systemer klassificeret som højrisiko skal nu gennemgå en obligatorisk vurdering af deres indvirkning på fundamentale rettigheder.

Der stilles krav om transparens for modeller til generelle formål (general purpose systemer), som for eksempel den model ChatGPT bygger på, før de markedsføres. Og aftalen indfører en trinmodel, så der holdes ekstra meget øje med de mest kraftfulde AI-modeller (f.eks. GPT-4, Googles Gemini og fremtidige modeller).

Når man anvender AI-systemer såsom chatbots, skal brugere gøres opmærksomme på, at de interagerer med en maskine. Deep-fakes og andet AI-genereret indhold skal tydeligt mærkes så brugerne er informeres om hvad de ser. Derudover skal udbydere designe systemer på en måde, så syntetisk lyd-, video-, tekst- og billedeindhold er markeret i et maskinlæsbart format (en form for vandmærke) som kan registreres som kunstigt genereret eller manipuleret.

Der laves særlige og strengere regler for ”high-impact general-purpose” AI-modeller, der kan forårsage systemisk risiko i fremtiden, på samme måde som for høj-risiko AI-systemer. Der etableres et nyt kontor i EU-Kommissionen, som skal håndhæve reglerne for disse modeller.

Det er dog vigtigt at forstå, at der kun er landet en politisk aftale. Detaljerne om, hvordan de enkelte dele skal efterleves af virksomhederne, er endnu ikke på plads. Der vil være en to-årig indfasningsperiode, før der kan straffes med bøde.

I den foreløbige aftale om den nye EU-lovgivning om kunstig intelligens er der fastsat forskellige bødeniveauer for virksomheder, der ikke overholder loven: Hvis en virksomhed bruger AI-teknologier, som er forbudt, kan den blive straffet med en bøde på op til €35 millioner eller 7% af deres samlede globale årlige omsætning, afhængigt af hvad der er højst. For overtrædelser af andre forpligtelser i AI-loven, for eksempel ikke at følge reglerne for højrisiko AI-systemer, kan bøden være op til €15 millioner eller 3% af den globale omsætning. Hvis en virksomhed giver forkerte oplysninger i forbindelse med deres AI-systemer, kan den få en bøde på op til €7,5 millioner eller 1,5% af den globale omsætning. Vigtigt at bemærke er, at der i aftalen er taget hensyn til mindre virksomheder og startups. Dette betyder, at hvis de overtræder lovens bestemmelser, vil de potentielt kunne modtage lavere bøder, som er mere passende i forhold til deres størrelse og økonomiske kapacitet.