Nye vejledninger om forbudt brug af AI
Fra februar 2025 har det været forbudt i EU at bruge AI til følelsesanalyse eller social bedømmelse af personer. Nye vejledninger skal hjælpe med at sikre, at reglerne bliver overholdt.
Indholdsfortegnelse
Digitaliseringsstyrelsen har netop udgivet en samlet vejledningspakke om de typer af AI-brug, der er forbudt i henhold til EU’s AI-forordning. Formålet er at gøre det lettere for myndigheder, virksomheder og institutioner at forstå og efterleve reglerne i en dansk kontekst.
Vejledningspakken består af én hovedvejledning samt fem supplerende vejledninger, der dækker de specifikke, forbudte praksisser:
- Hovedvejledning om de forbudte former for AI-praksis efter AI-forordningens artikel 5
- Vejledning om forbud mod AI, der anvender skadelige manipulerende teknikker
- Vejledning om forbud mod AI, der udnytter særlige sårbarheder
- Vejledning om forbud mod AI, der foretager social bedømmelse
- Vejledning om forbud mod AI, der foretager en ikke-målrettet indsamling af ansigtsbilleder
- Vejledning om forbud mod AI, der udleder følelser på arbejdspladser og uddannelsesinstitutioner
For den enkelte underviser er almindelig brug af værktøjer som ChatGPT, Copilot, Canva eller lignende ikke omfattet af forbuddene.
Derimod er et EdTech-system, der måler en elevs opmærksomhed via webcam, forbudt. Det samme gælder, hvis et AI-værktøj analyserer en elevs stemme eller ansigt under mundtlige fremlæggelser for at give feedback på fx "engagement", "usikkerhed" eller "følelsesmæssigt udtryk". Det betyder også, at det i praksis lukker af for al eksamenstræning, hvor man bliver optaget, og en AI analyserer stemmen eller ansigtet for at give feedback.
Vejledningerne indeholder desuden fiktive eksempler, der skal hjælpe organisationer med at vurdere, om en bestemt praksis kan være i strid med reglerne. Materialet supplerer EU-Kommissionens retningslinjer og omfatter de områder, Digitaliseringsstyrelsen fører tilsyn med.
