Ugens nyheder: Den digitale bogbrænding er begyndt
I denne uge skriver vi om en ny, rystende artikel, der afslører, hvordan AI bruges til en såkaldt “digital bogbrænding” i USA, og danske undervisere advarer om, at AI skaber dyb social ulighed i Danmark.
Indholdsfortegnelse
Hermed denne uges nyhedsbrev om kunstig intelligens i undervisningen, hvor jeg gennemgår udvalgte artikler og nyheder fra sidste uge.
Ugens hovedhistorie er en artikel fra 404 Media, som har undersøgt en ny type AI-software, der bruges i USA til at sortere bøger i biblioteker. Det er ikke, fordi bøgerne er slidte eller forældede, men fordi algoritmen har identificeret såkaldt sensitivt indhold om race, køn og historie. Jeg skriver om det i ugens kommentar til slut i nyhedsbrevet og kalder det en moderne form for digital bogbrænding.
Det, der sker lige nu, er ikke science fiction. Det handler om magt.
AI-pioneren Yoshua Bengio slår alarm i Weekendavisen, hvor han advarer om, at den hurtige teknologiske udvikling kan føre til misbrug og en farlig koncentration af magt.
Herhjemme advarer undervisere fra Københavns Professionshøjskole om en anden form for sortering, nemlig den sociale og faglige. I et indlæg i Information skriver de om, hvordan AI øger kløften mellem stærke og svage studerende. Imens advarer gymnasieelev Alexander Kruse Hansen i Politiken om en skole, der desperat klamrer sig til fortiden, mens verden forandrer sig omkring os.
I en artikel i Nature stilles spørgsmålet om, hvilken værdi den menneskelige proces har, når AI kan producere det perfekte produkt.
I sidste uge lancerede RÆSON en ny podcastserie, og i et af afsnittene diskuteres AI’s rolle i undervisningen. Det er en god indgangsvinkel til at forstå elevernes perspektiver på teknologien. Jeg fandt det især interessant, at de unge har tabuiseret deres brug af AI.
Jeg har udvalgt tre centrale pointer, du bør tage med dig fra ugens nyhedsbrev:
- AI som ideologisk våben
Den mest alarmerende tendens lige nu er ikke snyd, men at AI aktivt markedsføres og bruges som et censurværktøj i USA. - AI skaber ny social og faglig ulighed
I Danmark advarer undervisere fra professionshøjskolerne om, at ukritisk brug af AI øger kløften mellem fagligt stærke og svage studerende. - Skolen er afkoblet fra virkeligheden
Mens eksperter, politikere og tech-firmaer kæmper om fremtiden, advarer en gymnasieelev om, at undervisningen er “gammeldags” og afkoblet fra den digitale verden, hvilket efterlader eleverne uforberedte.
God læselyst med nyhedsbrevet
AI bruges til at styre viden i skoler og biblioteker i USA
En artikel af Jason Koebler i 404 Media beskriver, hvordan AI i stigende grad anvendes som redskab i kampen mod fri adgang til viden og uddannelse i USA.
Et konkret eksempel er softwaren Class-Shelf Plus fra firmaet CLCD, der bruger AI til at identificere “sensitive” bøger i skolebiblioteker. Systemet præsenteres som et værktøj til at hjælpe skoler med at overholde lovgivning om bogforbud, men fungerer i praksis som en automatisk censurmekanisme, der kan sortere bøger om for eksempel køn, seksualitet, race og historiske temaer fra.
Lærere og bibliotekarer advarer om, at sådanne AI-systemer reelt styrker politisk censur og svækker den menneskelige dømmekraft. Ifølge flere kilder i artiklen anvendes AI som et "neutralt" værktøj, men ender med at forstærke ideologiske dagsordener, hvor viden, kritisk tænkning og ekspertise bliver mistænkeliggjort.
Denne udvikling kobles til højrefløjens kampagner mod undervisning i emner som racisme, ligestilling og LGBTQ+-rettigheder. Bevægelsen anvender nu AI til at effektivisere censuren.
Bibliotekarer fortæller, at de oversvømmes af AI-genererede bøger og aggressive salgspitch fra teknologivirksomheder, samtidig med at de kæmper mod trusler, chikane og nedskæringer. Flere peger på, at AI-boomet og den ideologiske kamp mod viden gensidigt forstærker hinanden.
Artiklen advarer mod en fremtid, hvor information filtreres gennem få AI-platforme, ejet af store teknologivirksomheder med politiske interesser, og hvor uddannelse og biblioteker mister deres rolle som uafhængige kilder til kritisk viden.
Jason Koebler
Skoler skal ruste elever til AI’s risici og muligheder
AI-pioneren Yoshua Bengio advarer i Weekendavisen mod, at hurtig teknologisk udvikling kan føre til misbrug, tab af kontrol og en farlig koncentration af magt. Han opfordrer især Europa til at tage aktivt ejerskab over AI og sikre ansvarlig brug gennem uddannelse, politik og offentlig debat. Bengio understreger, at forståelsen af AI’s risici ikke må forbeholdes eksperter, men derimod skal være almen viden, også blandt unge.
Han ser undervisning som et centralt værktøj til at skabe den nødvendige bevidsthed. Skoler og uddannelsesinstitutioner bør derfor give elever redskaber til at forstå og forholde sig kritisk til AI’s indflydelse på samfund, økonomi og etik. Det handler ifølge Yoshua Bengio ikke om at skabe frygt, men om at opbygge handlekraft og ansvarlighed i den næste generation.
Kasper Saugmann
Bag betalingsmur
Professionshøjskolerne skal beskytte de studerende mod ukritisk brug af AI
I en kronik i Information advarer tre undervisere fra Københavns Professionshøjskole om, at ukritisk brug af generativ AI kan svække de studerendes faglige og kognitive udvikling. Debatten om AI i uddannelsessektoren har hidtil fokuseret på universiteterne. Ifølge forfatterne er konsekvenserne mindst lige så alvorlige på professionsuddannelserne, fordi det er her, de mennesker uddannes, som skal sikre kvaliteten i fremtidens velfærd.
Kronikken fremhæver, at fagligt stærke studerende kan anvende AI som støtte til idéudvikling og strukturering. Fagligt svagere studerende risikerer derimod at bruge teknologien som en genvej, der hæmmer læring og refleksion. Det kan føre til større forskelle i uddannelsessystemet både fagligt og socialt, især fordi økonomisk stærkere studerende har adgang til mere avancerede AI-værktøjer.
Gymnasieelev: Skolen halter bagefter i en verden i forandring
Gymnasieelev Alexander Kruse Hansen efterlyser i et debatindlæg i Politiken en skole, der tør følge med samfundets udvikling. Han beskriver, hvordan teknologi, digitalisering og AI forandrer hverdagen i et hastigt tempo, mens undervisningen i gymnasiet stadig bygger på gamle traditioner. Eleverne sidder stadig i rækker, læreren underviser fra tavlen, og viden vurderes gennem eksamener, der primært tester hukommelse frem for refleksion.
Ifølge Alexander Kruse Hansen bør skolen ikke lade sig styre af teknologien, men bruge den som en anledning til at styrke elevernes evne til at tænke kritisk, reflektere og forstå de forandringer, der præger verden. Hvis skolen ikke forandrer sig, risikerer den at blive stående i fortiden, mens verden bevæger sig fremad.
Bag betalingsmur
Kan AI være virkelig kreativ?
En artikel i Nature undersøger, om AI kan betragtes som kreativ, eller om den blot efterligner menneskelig kreativitet. Gennem eksempler som et AI-komponeret klaverstykke og systemer, der skriver digte og designer eksperimenter, viser forskningen, at AI kan skabe originale og effektive produkter, men uden den menneskelige proces bagved.
Ifølge forskere som James Kaufman og Mark Runco mangler AI det, der kendetegner ægte kreativitet, nemlig intention, følelser, autenticitet og evnen til at lære af fejl. Når AI skaber musik eller kunst, sker det ud fra mønstre i data og ikke på baggrund af oplevelse eller personlig vision. Andre forskere, som Simon Colton, mener dog, at AI kan opnå kreativitet, hvis modellerne får større autonomi og evnen til at sætte egne mål.
Debatten rækker dybt ind i undervisnings- og kulturfeltet. Flere forskere advarer mod, at samfundet risikerer at forveksle produkt med proces og dermed nedtone de menneskelige kvaliteter, som kreativitet bygger på. Det kan især få konsekvenser for uddannelse, hvor elever lærer at tænke selvstændigt, tage chancer og udtrykke sig individuelt. Andre ser dog AI som en mulighed for at demokratisere kreativitet og give flere adgang til at udtrykke sig gennem skabende processer.
Jo Marchant
RÆSON-podcast stiller skarpt på AI i undervisningen
RÆSON har lanceret en ny podcastserie med titlen "Hvad gør jeg i morgen?", hvor journalist Philippa Rošić sammen med eksperter og unge stemmer undersøger, hvordan næste generation skal navigere i en verden præget af hurtig teknologisk forandring.
I afsnittet diskuteres AI’s rolle i undervisningen, et emne, der allerede påvirker hverdagen for størstedelen af landets unge.
Panelet består af Anders Søgaard, professor i datalogi ved Københavns Universitet og ekspert i AI og sprogmodeller, Helene Friis Ratner, professor ved DTU’s Institut for Teknologi, samt Freja Sinclair, forperson for Danske Gymnasieelevers Sammenslutning.
Samtalen kredser om de centrale spørgsmål, som undervisere og elever står over for. Hvordan kan AI bruges til at styrke læring i stedet for at erstatte den? Hvordan sikrer man faglighed, kritisk tænkning og etisk anvendelse i en tid, hvor teknologien udvikler sig hurtigere end skolens rammer?
Ugens kommentar: Den digitale bogbrænding er begyndt
I denne uge er der en artikel, som jeg mener rykker ved hele vores samtale om AI i uddannelsessystemet, og som vi i Danmark bør tage ekstremt alvorligt.
Den handler om amerikanske firmaer, der har udviklet og sælger AI-systemer, som automatisk identificerer "sensitive" bøger. Begrebet "sensitiv" viser sig i virkeligheden at være et kynisk og neutralt ord for litteratur om køn, seksualitet og race, og systemerne er designet til at sortere disse bøger fra.
Jeg mener, at det er den falske neutralitet, der er den virkelige fare. Her bliver en politisk dagsorden, i dette tilfælde højrefløjens kamp mod viden om racisme og LGBTQ+-rettigheder, bygget direkte ind i algoritmen. Herefter kan man hævde, at det "bare er algoritmen", der træffer valget, og på den måde bliver menneskelig og faglig dømmekraft samt etik fuldstændigt sat ud af spillet.
Det her er ikke en fjern, teoretisk dystopi. Det sker lige nu, og det er en fundamental advarsel til os i Danmark. Jeg mener at vi er vidne til en moderne, digital bogbrænding. Mindre røg og flammer, men den samme farlige intention om at "rense" bibliotekerne for uønskede ideer.
Når vi i Danmark diskuterer, hvilke AI-systemer vi skal købe, og hvordan vi skal integrere dem, er vi nødt til at se ud over prisen og de smarte funktioner. Vi skal spørge: Hvem har bygget det? Hvilke værdier er kodet ind i det? Og hvem tjener på, at vi udskifter menneskelig og faglig dømmekraft med en sort boks?
Kampen om AI i uddannelse handler i sidste ende ikke om snyd. Den handler om, hvem der skal have magten over vores viden. Lige nu viser artiklen fra 404 Media, at AI bruges til at give magten til dem, der vil indskrænke den.