Hvad skal generative sprogmodeller bruges til i undervisningen?

I et debatindlæg i fagbladet folkeskolen skriver CFU-konsulent Mikkel Aslak Koudal Andersen, at det er tid til, at skolerne og lærerne kommer i gang med at forholde sig til generative sprogmodeller, at skabe egne erfaringer og  at snakke med hinanden og med eleverne om den banebrydende teknologi.

I vores netop afsluttede speciale giver vi et bud på, hvordan man kan komme i gang med at tage denne snak på lærerværelset ud fra en emancipatorisk kritisk-konstruktiv tilgang, der tager afsæt i didaktisk teori fra Kant, Freire og Klafki. Specialet og det it-didaktiske produkt itdidak.dk sigter mod at kunne klæde undervisere på til, på et reflekteret grundlag, at kunne tage snakken med elever og med kolleger om dette nye værktøj, der med ChatGPT i spidsen ramte undervisningsverdenen med et brag i november 2022.

itdidak.dk: En ressource til undervisning med generative sprogmodeller

Vores produktspeciale, der blev påbegyndt i starten af januar 2023, tog afsæt i en hypotese om, at mange lærere ikke føler sig tilstrækkeligt klædt på til at undervise i og med generative sprogmodeller i grundskolen. Indledningsvis tog vi derfor kontakt til en lærergruppe, der for deres vedkommende bekræftede vores hypotese, og som efterspurgte guides og vejledninger til anvendelsen af generative sprogmodeller i deres undervisning. I dialogen med lærergruppen, blev vi samtidig opmærksomme på, at de var bekymrede for, at deres elever ikke havde kompetencerne til at forholde sig kritisk reflekteret til brugen af generative værktøjer som ChatGPT. 

Sammen med inputs fra forskere indenfor undervisning og datalogi og teoretiske studier blev lærernes ønsker og ideer taget med i vores designproces. Resultatet blev webside itdidak.dk, der er tænkt som en samlet ramme for en række tekst- og videoguides, samt tips, opmærksomhedspunkter og pædagogiske formater, der skal fungere som inspiration til lærernes undervisning. Vores vurdering er, at generative sprogmodeller indgår i den samlede dannelsesopgave, som skolen står over for i forhold til at gøre eleverne både alment og digitalt dannede, da de generative sprogmodeller vil komme til at fylde meget i både skolen, på arbejdspladsen og i vores privatliv. Der er derfor behov for, at der er voksne, der forstår de teknologiske, etiske og moralske implikationer af denne teknologiske omvæltning, som vi som samfund står overfor og som formår at tage den samtale med eleverne. Vores intervention blev af lærerne set som et godt bud på en introduktion til generative sprogmodeller og et godt afsæt til at søge inspiration til deres egen praksis i forhold til både at kunne introducere de generative sprogmodellers muligheder og særligt deres begrænsninger samtidigt med at der også lå konkrete bud på inspiration til at kunne arbejde med forskellige dilemmaer og etisk/moralske problematikker gennem anvendelse af de pædagogiske formater.

Vores arbejde med specialet gav os også nogle opmærksomhedspunkter, som vi tog med til lærerne i form af “de vigtigste ting som man som underviser skal vide, inden man kaster sig ud i at undervise i og med generative sprogmodeller”.De syv opmærksomhedspunkter er:

1. Der findes ikke ”kunstig intelligens”

Der findes på nuværende tidspunkt ikke en almen kunstig intelligens (AGI, artificial general intelligence), men der er aspekter af menneskelig intelligens, der kan efterlignes. Det, sprogmodeller som ChatGPT efterligner, er evnen til at kunne forstå almindeligt sprog og generere menneskelignende tekst.

2. Sprogmodeller anvender statistik for at lave svar

Sprogmodeller udregner et af de mest sandsynlige svar på et givent spørgsmål, ved først gennem træning at have udregnet sandsynligheden for, at et givent ord eller endelse optræder i en kontekst sammen med andre ord. På den måde kan sprogmodellen servere et svar på et spørgsmål ved hele tiden at finde et bud på en næste sandsynlig sætningsdel i den tekst, den producerer.

3. Sprogmodeller er ”trænet” til at lyde overbevisende

Under træning modtager sprogmodellen feedback fra brugerne om, hvilke svar der lyder mest overbevisende. Dette kan give problemer, når sprogmodellen genererer svar, der er overbevisende simuleringer af, at den udtaler sig skråsikkert, uden at have reel viden.

4. Sprogmodeller er trænet på store mængder tekst

Sprogmodellen er trænet på store mængder tekst. Dette er ofte en blanding af skønlitterære værker, faktuelle tekster, internetfora og websider . Disse tekster er udvalgt af dem, der står bag den enkelte sprogmodel.

5. Sprogmodeller er ikke alvidende

Sprogmodeller er begrænset af den træning, den har modtaget, og de spørgsmål, den bliver stillet. Jo mere specifikke og komplicerede spørgsmål, der bliver stillet uden for træningsmaterialet, jo mere usikre bliver de svar, som sprogmodellen kan levere. Derfor er sprogmodeller bedre til at generere tekst om velbeskrevne emner og til at fremstille frie tekster, hvor der ikke er et facit. I fremtiden vil det dog være muligt at kombinere sprogmodeller med databaser over fakta, så dens svar kan blive mere sikre indenfor specifikke områder.

6. Sprogmodeller er også forretningsmodeller

Vær opmærksom på, hvordan de forskellige sprogmodeller behandler dine data og om de overholder GDPR. Husk at være opmærksom på at hjælpe eleverne med at beskytte deres personfølsomme oplysninger. Mange sprogmodeller gemmer og anvender dine input som træningsdata.

7. Sprogmodeller er ikke din (og elevernes) ven!

Sprogmodeller kan ikke føle, tænke, huske eller være empatiske. Det er vigtigt at forstå, at de intentioner og holdninger, der afspejles i et svar fra sprogmodellen, udelukkende er skabt på baggrund af den data, som modellen har er trænet på, samt den prompt, som sprogmodellen har fået. Der er ingen intentionalitet eller agency bag den kommunikation, som man har med sprogmodellen, også selvom det nogle gange kan være svært ikke at lade sig imponere af “samtalen”. Dette kan være en af de vigtigste ting at holde sig for øje, især når man arbejder med sprogmodeller sammen med børn og unge.

Men omvendt er det naturligvis også vigtigt ikke at lade sig skræmme, generative sprogmodeller er kommet for at blive og det vil stå en godt hvis man gør sig klar over hvilke begrænsninger der ligger i teknologien og sætter sig for som underviser at gøre sig nogle refleksioner over hvordan kunstig intelligens kan komme til at påvirke verden.

Dialog om generative sprogmodeller

Sigtet med denne artikel er at indbyde til, at man som lærer i grundskolen kan anvende vores side som inspiration til en undervisning i en kritisk og reflekteret tilgang til anvendelsen af generative sprogmodeller. Vores ønske er at bidrage til, at lærere bliver klædt bedre på til at vejlede elever i at forholde sig mere kritisk til, hvordan de anvender generative sprogmodeller i hverdagen, hvilke oplysninger de deler og i det hele taget, hvordan de passer på sig selv og deres kammerater i brugen af et potentielt kraftfuldt digitalt værktøj.  

Hvad enten man som lærer har tænkt sig at anvende denne teknologi selv, vil en stor del af eleverne allerede have stiftet bekendtskab med den nye verden af muligheder, som generative sprogmodeller som ChatGPT bringer. Derfor er det i vores øjne væsentligt, at man som lærer tilegner sig en grundlæggende viden om teknologiens muligheder og begrænsninger og alle de etiske og sikkerhedsmæssige udfordringer, der følger med.

Derfor mener vi som Mikkel Aslak, at det er væsentligt, at lærere begynder at tage snakken med elever og kolleger om, hvad generative sprogmodeller er, hvad de som værktøjer kan bidrage med og hvad de bestemt ikke kan. 

Vi håber at vores produkt kan bidrage med undervisningstilgange samt til at stille kritiske spørgsmål og åbne for en dialog om fordele og potentielle ulemper ved anvendelsen af generative sprogmodeller i skolen. Vi håber derfor på at få positiv respons og meget gerne konstruktiv kritik, så vi på sigt kan forbedre og udvikle vores koncept.