SkoleGPT-debatten: Mellem sikkerhed og læring
Debatten om SkoleGPT rejser spørgsmålet: Hvordan balancerer vi sikkerhed og læring i AI-baseret undervisning? Er frygt og sensationsprægede debatter en hindring for digital dannelse, eller kræves der bedre regulering og undervisning?
Indholdsfortegnelse
På det seneste har debatten om kunstig intelligens i undervisningen været præget af diskussionen om chatbotten SkoleGPT. Kontroversen opstod efter en artikel fra Danmarks Radio (DR), som i en dramatisk tone hævdede, at SkoleGPT kunne give detaljerede beskrivelser af selvskade og selvmord. Dækningen fokuserede på de potentielle risici ved, at børn og unge bruger teknologien.
Jeg vil kort gennemgå hele udfordringen, og måske er mere modererede sprogmodeller ikke vejen frem.
Allan Nisgaard
Flere kilder kritiserer dog DR’s tilgang for at være ensidig og sensationspræget. Det påpeges, at DR aktivt opsøgte det kontroversielle output uden at oplyse deres metode eller nævne de mange tilfælde, hvor SkoleGPT ikke gav problematiske svar. Derudover kritiseres det, at nuancer og baggrundsinformation - herunder selve formålet med SkoleGPT - gik tabt.
Ove Christensen, specialkonsulent i digitalt kompetenceløft, mener, at fokus i stedet burde være på, hvordan elever bedst lærer at forstå og forholde sig kritisk til AI. I en LinkedIn-artikel argumenterer han for, at det egentlige problem ikke er sikkerhedshullerne i SkoleGPT, men manglen på systematisk undervisning i AI og digital dømmekraft i folkeskolen.
Ove Christensen påpeger også, at en mere sikker SkoleGPT ville kræve større investeringer, men at det centrale problem er fraværet af en dansk eller nordisk AI-model udviklet under demokratisk kontrol. Dette efterlader skoler afhængige af kommercielle AI-løsninger, der mangler tilstrækkelig regulering.
Ove Christensen
Sagen har også haft politiske konsekvenser. SF har bedt undervisningsminister Mattias Tesfaye (S) om at redegøre for, hvordan man vil sikre mere grundige tests af AI-systemer til skoler fremover. Partiets skoleordfører, Sigurd Agersnap, mener, at der er behov for begrænsninger på, hvilke svar chatbots til skolebrug kan give eleverne.
Sebastian Bjerril
Laurits Rasmussen, CEO og medstifter af Pathfindr, foreslår i sit debatindlæg i Skolemonitor, at teknologien bruges under opsyn, f.eks. ved at indføre moderatorer, der overvåger samtaler og griber ind, hvis elever viser tegn på mistrivsel. Han sammenligner AI med andre værktøjer i skolen, der kan være farlige, hvis de bruges forkert – såsom knive i sløjdlokalet eller kemikalier i fysiktimen.
"Hvis vi lukker helt ned for alt indhold, der i nogle sammenhænge kan være skadeligt, men i andre kan være gavnligt, skubber vi vores børn ud på andre platforme – helt uden gårdvagter," skriver Laurits Rasmussen.
Laurits Rasmussen Cand.comm, MA i pædagogik, MA i ledelse af uddannelsesinstitutioner, CEO og co-founder af Pathfindr
Vi anbefaler også, at man læser Malte von Sehesteds artikel på IT Torvet, hvor han påpeger, at AI-undervisning ikke er systematisk, hvilket efterlader elever dårligt rustet til at navigere digitalt.
Malte von Sehested
Andre platforme har samme udfordring
De udfordringer, vi ser, er ikke unikke for AI-chatbots, og sociale medier som TikTok og Instagram kæmper allerede med udfordringer relateret til selvmord og selvskade. Og den store udfordring er nok snarere, at en almindelig googlesøgning vil kunne give de samme resultater som dem, DR kommer frem til. Og med en lille indsats vil man kunne finde mere åbne modeller, som ikke har nogen guardrails. Samtidig ser vi også tvivlsomme opslag på TikTok og Instagram, hvor børn i endnu højere grad bliver eksponeret for selvskade.
Sprogmodeller i undervisningen
Diskussionen om SkoleGPT illustrerer det grundlæggende dilemma, som skolerne står over for: Hvordan balancerer vi mellem behovet for at beskytte eleverne og nødvendigheden af at klæde dem på til en digital fremtid?
Spørgsmålet, man burde stille, er, om det ikke er bedre at have en sprogmodel i undervisningen, som i højere grad er åben, men hvor læreren didaktiserer den for eleven, end at eleven selv skal navigere i teknologien.
Mens debatten fortsætter, står det klart, at løsningen ikke kun ligger i at forbedre sikkerhedsfiltre, men også i at styrke den systematiske undervisning i teknologiforståelse og digital dømmekraft i skolen.
Line Jenvall
Ritzau Indland
