Ugens nyheder: EU's AI-regler træder i kraft
I denne uge ser vi på EU's første AI-regler, demokratiske dilemmaer med AI i uddannelse samt nye værktøjer og debatter om ChatGPT i forskning og litteratur.
Indholdsfortegnelse
Velkommen til denne uges forsinkede nyhedsbrev. Vores hovedhistorie er, at de første regler i EU’s AI-forordning nu er trådt i kraft. Det betyder også, at medarbejdere på uddannelsesinstitutioner, der arbejder med AI, skal have en solid forståelse af teknologien. Er alle uddannelsesinstitutioner klar til det?
Det er også opsigtsvækkende, at Datatilsynet har valgt at deaktivere Microsofts AI-tjeneste Copilot på grund af bekymringer om databeskyttelse og manglende gennemsigtighed. Det kan få stor betydning for, hvordan vi arbejder med AI i skolerne, hvis Copilot bliver udelukket. Jeppe Stricker skriver i sit nyeste nyhedsbrev om digital ulighed og de udfordringer, der følger med afhængighed af store techselskaber.
I sidste uge udgav vi to nye artikler på Viden.AI:
- DeepSeek R1 har GDPR-udfordringer, som gør den problematisk at bruge i undervisningen.
- Vi har undersøgt, hvordan små AI-læringsobjekter kan understøtte undervisningen i kommunikation og it, blandt andet i logodesign.
Derudover har vi valgt at fokusere på følgende nyheder i dette nyhedsbrev:
- Videnskab.dk giver gode råd til, hvordan studerende kan bruge ChatGPT uden at gå på kompromis med deres læring og forståelse.
- Ny forskning viser, at AI ikke fjerner jobs, men ændrer efterspørgslen.
- OpenAI har lanceret Deep Research, en ny ChatGPT-funktion, der kan udføre avanceret research autonomt med kildehenvisninger og visuelle elementer.
- En ny undersøgelse fra Aarhus Universitet viser, at danske forskere er uenige om ChatGPT’s rolle i forskning – fra nyttigt værktøj til begrænset teknologi.
- P1 Debat undersøger, om Danmark skal investere i egen AI-udvikling eller forlade sig på internationale techgiganter.
- AI-forfatteren Rosy Lett udfordrer idéen om litteratur som en menneskelig kunstart – hvad betyder det for fremtidens forfatterskab?
- + Ugens andre nyheder
Vi holder vinterferielukket i uge 7, men vender tilbage med nyhedsbrevet igen mandag i uge 8.
God læselyst med dette nyhedsbrev!
De første regler i EU’s AI-forordning træder i kraft
Fra den 2. februar 2025 skal virksomheder og myndigheder, som udvikler, distribuerer eller anvender AI, overholde de første regler i EU’s AI-forordning. Formålet med reglerne er at sikre, at AI ikke udgør en trussel mod sikkerhed, borgerrettigheder eller menneskers værdighed.
Forordningen indebærer blandt andet et forbud mod visse AI-anvendelser, herunder systemer, som aflæser følelsesmæssig tilstand på arbejdspladser eller uddannelsesinstitutioner, samt AI til social scoring af borgere, da disse teknologier kan føre til diskrimination og udelukkelse.
Derudover skal virksomheder og myndigheder, der arbejder med kunstig intelligens sikre, at deres medarbejdere har et tilstrækkeligt niveau af AI-færdigheder blandt deres personale eller andre personer, der er involveret i driften eller anvendelsen af AI. Det gælder uanset hvad AI-systemerne bruges til. Alle relevante aktører i AI-værdikæden skal have færdigheder til at kunne forstå og overholde AI-forordningen, der hvor den er gældende.
Dette er særligt vigtigt for lærere, der skal undervise elever i AI og bruge AI-systemer i undervisningen. Lærerne skal have en solid forståelse for:
- Hvordan AI fungerer og hvilke muligheder og begrænsninger, der er ved teknologien.
- De etiske overvejelser og potentielle risici ved anvendelsen af AI, herunder risikoen for bias, diskrimination og krænkelse af privatlivets fred.
- De juridiske rammer for brug af AI, herunder AI-forordningens regler og krav.
- Hvordan man kan undervise eleverne i at bruge AI på en ansvarlig og hensigtsmæssig måde.
Skolerne bør derfor prioritere efteruddannelse og kompetenceudvikling af lærerne indenfor AI-området. Det kan fx være gennem kurser, workshops eller samarbejde med eksperter. Lærerne skal derfor rustes til at kunne navigere i det nye AI-landskab og være i stand til at vejlede eleverne.
Samtidig er det vigtigt, at skolerne har klare retningslinjer og politikker for brug af AI i undervisningen, som er i overensstemmelse med AI-forordningen. Skolerne bør løbende vurdere og kontrollere deres brug af AI for at sikre, at den er forsvarlig og ikke krænker elevernes rettigheder.
AI-forordningen blev vedtaget den 1. august 2024 og implementeres gradvist frem til 2027. Virksomheder anbefales at skabe overblik over deres AI-systemer og vurdere, hvilken risikokategori deres teknologi tilhører.
Datatilsynet advarer mod Microsoft Copilot på grund af GDPR-udfordringer
Datatilsynet har valgt at deaktivere Microsofts AI-tjeneste Copilot i hele organisationen på grund af bekymringer om databeskyttelse og manglende gennemsigtighed. Copilot indsamler persondata, men Microsoft giver ikke tilstrækkelig indsigt i, hvordan disse behandles og opbevares.
Dette gør det vanskeligt at vurdere, om tjenesten overholder GDPR-lovgivningen. Problemer med Microsofts håndtering af persondata er ikke nye. Københavns Kommune har tidligere erkendt at fortsætte med ulovlige IT-kontrakter, da deres systemer er afgørende for velfærdsydelser.
I Holland har uddannelsesinstitutioner frarådet brugen af Copilot af samme årsager, mens det norske datatilsyn har påpeget sikkerhedsrisici ved tjenestens adgang til data i Microsoft 365-miljøet. Datatilsynet i Danmark er enig med Norge i, at Copilot, som det er konstrueret nu, ikke kan anvendes af offentlige myndigheder uden betydelige usikkerheder.
Organisationer opfordres derfor til at skabe fuldt overblik over databehandlingen, før de implementerer systemet – eller undlade at bruge det.
Louise Olifent
AI, datasikkerhed og demokratiske udfordringer i uddannelsessektoren
I sit nyhedsbrev skriver Jeppe Stricker om, hvordan AI skaber komplekse demokratiske dilemmaer i uddannelsessektoren. Datatilsynet har afvist at bruge Microsoft Copilot på grund af bekymringer om datasikkerhed, mens den kinesiske AI-udbyder DeepSeek har lanceret en gratis sprogmodel, der rejser spørgsmål om gennemsigtighed, censur og økonomisk tilgængelighed.
Disse problemstillinger kan føre til en ny form for digital ulighed, hvor kun velhavende institutioner har adgang til gennemsigtige og sikre AI-løsninger. Uden en samlet politisk strategi overlades institutionerne til at navigere i et komplekst teknologisk landskab uden den nødvendige støtte.
Jeppe Klitgaard Stricker
DeepSeek: Potentiale og udfordringer i undervisningen
På Viden AI har vi udgivet en artikel om DeepSeek R1, en open-source sprogmodel fra kinesiske DeepSeek, som hurtigt har opnået anerkendelse for at matche niveauet af ChatGPT. Modellen har vakt stor interesse, blandt andet fordi den kan downloades og tilpasses frit, hvilket giver skoler og undervisere nye muligheder for at arbejde med AI i et kontrolleret miljø.
DeepSeek indsamler dog store mængder brugerdata, og eftersom de lagres på servere i Kina, giver det anledning til alvorlige GDPR-udfordringer.
Det italienske datatilsyn har allerede bedt DeepSeek redegøre for sin håndtering af persondata, hvilket understreger, at tjenesten ikke er velegnet til brug i undervisningen via sin hjemmeside eller app.
Per Størup Lauridsen
Logodesign med AI-læringsobjekter
På Viden AI har vi udgivet en artikel, der tager udgangspunkt i faget kommunikation og it, hvor vi har udviklet og afprøvet AI-læringsobjekter som en del af vores undervisning. I stedet for at bruge ChatGPT har vi udviklet små AI-baserede læringsressourcer, der understøtter specifikke dele af undervisningsforløbet og hjælper eleverne i deres kreative proces.
Tanken er at bruge AI, når det giver mening og merværdi, og at anvende meget afgrænsede og specialiserede værktøjer i undervisningen.
Læs artiklen her:
Per Størup Lauridsen
Videnskab.dk: Sådan bruger du ChatGPT uden at miste læringsudbytte
Videnskab.dk har skrevet en artikel om, hvordan studerende kan bruge ChatGPT uden at gå på kompromis med deres læring. AI kan være et nyttigt værktøj, men hvis det bruges ukritisk, risikerer elever og studerende at miste muligheden for at udvikle en dyb forståelse.
Læs artiklen her:
Se Antonias profil
AI ændrer efterspørgslen på arbejdsmarkedet
En ny undersøgelse viser, at AI har en markant indvirkning på arbejdsmarkedet.
På visse områder, såsom oversættelse og tekstforfatning, er efterspørgslen faldet markant efter lanceringen af ChatGPT. Samtidig er efterspørgslen stigende på kompetencer inden for maskinlæring, chatbot-udvikling og kreativt indhold.
Forskere fra bl.a. Københavns Universitet har analyseret over tre millioner freelancejobs og konkluderer, at AI ikke fjerner jobs generelt, men omfordeler dem. Kortvarige og rutineprægede opgaver er mest udsatte, mens mere komplekse og kreative opgaver oplever vækst.
Undersøgelsen peger på, at arbejdsmarkedet kræver større fleksibilitet, og at uddannelsessystemet bør fokusere på brede kompetencer såsom omstillingsevne og nysgerrighed.
OpenAI lancerer Deep Research
OpenAI har introduceret en ny funktion til ChatGPT, kaldet Deep Research, som kan udføre komplekse, flertrins researchopgaver autonomt. Funktionen planlægger og udfører søgninger, tilpasser sig realtidsinformation og præsenterer resultater med kildehenvisninger i en sidelinje.
Brugere kan stille spørgsmål ved hjælp af tekst, billeder og filer, såsom PDF’er og regneark. Svarene, som kan tage 5-30 minutter at generere, vil fremover også kunne inkludere indlejrede billeder og diagrammer.
Funktionen lanceres først for Pro-brugere med op til 100 forespørgsler om måneden, mens Plus-, Team- og Enterprise-brugere får begrænset adgang.
Richard Lawler
Undersøgelse: Danske forskere er splittede i deres brug af ChatGPT
En ny undersøgelse fra Aarhus Universitet viser, at danske forskere er splittede i deres brug og opfattelse af ChatGPT. Mens nogle ser AI som et revolutionerende forskningsværktøj, finder andre det begrænset eller problematisk.
Historikeren Benjamin Breen har testet ChatGPT til transskription, oversættelse og ikonografisk analyse af historiske kilder – med overraskende gode resultater. Han påpeger dog, at AI primært producerer analyser på kandidat- eller ph.d.-niveau og mangler egentlig innovation.
Inden for biomedicin har AI skabt gennembrud i proteinforskning, mens humanistiske forskere hovedsageligt bruger ChatGPT til tekstredigering og formatering. Arkæologen David Stott er skeptisk og mener, at AI kun kan reproducere eksisterende viden, hvilket begrænser dens anvendelighed i hans felt.
Undersøgelsen viser, at 40 % af forskerne bruger ChatGPT som sparringspartner til hypoteseudvikling, mens kun 8,5 % anvender det til at skrive abstracts. Litteraturprofessor Mads Rosendahl Thomsen ser potentiale i AI som refleksionsværktøj, men understreger vigtigheden af gennemsigtighed i videnskabeligt arbejde.
P1 Debat: En dansk ChatGPT?
I P1 Debat diskuteres, om Danmark bør investere i udviklingen af egne AI-chatbots, eller om vi skal overlade markedet til store techgiganter og udenlandske teknologier.
Panel:
- Lisbeth Bech-Nielsen, digitaliseringsordfører, SF.
- Torben Blach, projektleder, Alexandra-instituttet.
- Dina Raabjerg, digitaliseringsordfører, Konservative.
- Martin Ågerup, debattør og økonom, tidligere direktør i tænketanken Cepos.
- Anders Søgaard, professor, Københavs Universitet, ekspert i kunstig intelligens og sprog.
- Birgitte Vind, digitaliseringsordfører Socialdemokratiet.
Vært: Morten Runge.
Lyt til debatten her:
AI-forfatter debuterer: Hvad betyder det for litteraturen?
I P1-programmet K-Live diskuteres den opsigtsvækkende debut af AI-forfatteren Rosy Lett, der har skrevet en roman uden menneskelig indblanding. Dette rejser spørgsmålet: Hvor meget menneskelig indflydelse kræves der egentlig for at skabe god litteratur?
Panelet undersøger, om AI kan erstatte menneskelig kreativitet, og hvordan det vil påvirke litteraturens fremtid.
Ugens andre nyheder
Anne Sofie Allarp Kronikredaktør
Helene Caprani
Tony Andersen Søndergaard
Dylan Patel
Nicolai Busekist
Agence France-Presse - AFP
, The Arizona Republic
Chris Farrell
Ben Lovejoy
Martin Jørgensen marjojv.dk
Daniel Rasmussen darasfrdb.dk
