Etiske aspekter ved chatrobotter i undervisning

I en tidligere artikel har vi forudsagt, at de store forlag i Danmark med nemhed kunne træne deres egen kunstige intelligens på deres bøger, og dermed kunne lærere og elever chatte sammen med bogen. Dette er nu en realitet, eftersom Praxis netop har implementeret en ChatGPT i deres e-bog til faget Afsætning B.

Artiklen her vil dog ikke gå i dybden med deres integration, men jeg vil prøve at se på, hvad der sker med læremidlerne, når de bliver beriget med kunstig intelligens. Er det i virkeligheden en god idé? Vi ved ikke, hvordan eleverne vil anvende funktionerne i hverdagen, for det er meget nyt, at man giver mulighed for at bruge sprogmodeller i læremidler. Nogle elever vil bruge det som værktøj til hurtigt at få udarbejdet en afleveringsopgave, mens andre vil øge deres læring, få stiliseret indholdet og et bedre overblik i faget.

I det følgende undersøger jeg både etiske udfordringer og de mange muligheder, teknologien giver. Til slut opstiller jeg en række etiske spørgsmål, der er vigtige at have for øje.

Læremidlernes udvikling og rolle i undervisningen

Udviklingen af nye læremidler er en omkostningstung proces, både for analoge og digitale udgaver, for man skal tilpasse indholdet og niveauet til den pågældende faglighed, samtidig med at det kræver meget faglig viden om domænet. Efterfølgende kræver det også en løbende justering af indholdet, og i nogle fag går det så stærkt, at det kan være svært at følge med. Forfatteren udarbejder også en progression i læremidlet, der sikrer, at eleverne hele tiden er inden for zonen for nærmeste udvikling. Det kræver viden og forståelse, inden man kan arbejde med næste kapitel.

I undervisningen er det den enkelte lærer, der bringer læremidlet i spil og løbende tilpasser det til elevernes niveau og supplerer det med andet indhold, hvor læremidlet ikke slår til. Men læremidlets fornemste rolle er (uanset om det er en bog, en digital i-bog eller noget tredje), at vi har et fælles referencepunkt i undervisningen. Et velkendt udgangspunkt for den videre diskussion og bearbejdning af emnet og en målestok for omfanget af anvendt materiale inden en eksamen.

Ovenstående er den måde, hvorpå vi arbejder med læremidler i undervisningen, og det sikrer, at vi er fælles om indholdet i undervisningen. Det betyder dog også, at vi har læremidler, der ikke er tilpasset til elevernes forskellige niveauer. Nogle elever vil have svært ved at forstå indholdet, mens andre har alt for nemt ved det. I undervisningen er det lærerens rolle at differentiere indholdet og hjælpe eleven på elevens niveau.

Lærerbogsforfatterne kan blive reduceret til en faktaboks

Når man træner en sprogmodel med tekster, bliver teksten omdannet og reduceret til en række mindre enheder, kaldet tokens. En token er en matematisk repræsentation af et ord, dele af ord, eller hele sætninger. I denne proces kan der være unøjagtigheder og nuancer, der ikke kommer med, og dermed kan teksten ændre karakter. Selvom forfatteren af læremidlet har gjort sig umage for at skrive gode tekster, kan disse blive påvirket af sprogmodellen og præsenteret på en ny måde.

I øjeblikket er der meget få europæiske sprogmodeller, og ingen af dem er på højde med GPT-3.5 og GPT-4-modellerne fra OpenAI. Derfor er det netop GPT-3.5 (den billigste udgave), som i øjeblikket bliver anvendt i stor stil rundt omkring, for at få kunstig intelligens ind i it-systemer. Udfordringen er, at GPT-3.5 bygger på amerikanske værdier og etik, og det vil dermed påvirke, hvad eleverne må skrive og det svar, de får. Det kan derfor betyde, at elever, der udelukkende chatter med læremidlet, kan få helt anden version af teksten, end det var hensigten. Eller at der er emner, sprogmodellen slet ikke kan bearbejde eller vil skrive om. F.eks. vil sprogmodellen forsøge at undgå upassende, seksuelt eller voldeligt indhold. Vi kan ende med, at der bliver indført et lag af censur over vores læremidler, som ikke altid er tydeligt afgrænset og dermed også meget svært at håndtere i undervisningen.

Når sprogmodeller forfatter tekster til eleverne, kan vi spørge os selv, om det i bund og grund er nødvendigt, at en forfatter skal bruge tid på at skrive teksten? Grundlæggende kunne man blot give sprogmodellen en række fakta og herefter lade kunstig intelligens indpakke og tilpasse indholdet til eleverne. Efterfølgende kan forlagene blot vedligeholde indholdet ved at bede ChatGPT om at lave en opdatering med nye data. Der ligger derfor en udfordring i, hvad det er, vi vil med lærermidlet. Måske skal vi gentænke læremidlets rolle, så det er tilpasset de nye teknologiske muligheder?

Kunstig intelligens giver nye muligheder for tilpasset indhold

Det kan give elever og lærere helt nye muligheder i undervisningen, når læremidlet indeholder kunstig intelligens. Eleverne kan arbejdet med indholdet sammen med sprogmodellen og dermed få en personificeret udgave af teksterne. Tidligere brugte eleverne måske Google, hvis de havde problemer med at forstå indholdet, men nu gives der mulighed for, at kommunikationen foregår sammen med læremidlet og ikke mindst i læremidlet. Her er det måske værd at bemærke, at hvis sprogmodellen har bearbejdet hele bogen, vil eleven måske blive præsenteret for indhold, der progressionsmæssigt ikke giver mening. Derfor kunne man med fordel indbygge mulighed for, at læreren kunne afgrænse sprogmodellen til kun at bruge bestemte kapitler.

Eftersom eleven ikke skal ud af læremidlet for at søge en forståelse af indhold i teksten, vil det være et trygt sted at stille spørgsmål. Vi har altså at gøre med en teknologi, der i høj grad understøtter den enkeltes måde at tilegne sig viden (indtil videre kun gennem tekst), og med mulighed for at eleven undervejs selv skifter niveau i fagstoffet. F.eks. kan eleven skrive, at vedkommende ønsker indholdet på et lavere niveau eller få sprogmodellen til at komme med en udvidet forklaring af ord, vendinger eller begreber. Her er det dog vigtigt, at eleverne forstår at skrive til en sprogmodel og ved, hvordan man stiller et spørgsmål. Små nuancer kan give meget forskellige resultater, og hvis eleven ikke er trænet i disse muligheder, får de også resultater derefter.

En traditionel tilgang til læsning af tekster har været at fordybe sig i indholdet, indtil det gav mening. Man kunne derfor godt ende med at læse samme tekst mange gange. Dette kræver en stor indsats, og vi ser måske en fundamental ændring i måden, hvorpå vi tilgår og bearbejder tekster i undervisningen.

Eleven kan dog også ende med at få et mere kompliceret svar, end forfatteren havde lagt op til, eftersom svar ændres og tilpasses hvert enkelt spørgsmål til teksten. Derved kan læreren få svært ved at hjælpe den enkelte elev, for vedkommende skal forholde sig til uendeligt mange måder at sige det samme på. Eleverne kan derfor sidde med hver deres ChatGPT'ske udgave af teksterne og mister måske noget af forståelsen.

Fremtidens læremidler?

Ovennævnte er at af de første skridt til at lave digitale læremidler med indbygget kunstig intelligens, og vi vil se mange flere forlag, der kommer med nye løsninger. Vi skal dog passe på med ikke at gå for hurtigt frem, for det er stadig meget uklart, hvordan eleverne vil tage imod og anvende teknologien. Også hvordan lærerne og lærernes rolle bliver i samspillet med sprogmodellerne, for der kommer til at opstå helt nye dynamikker i undervisningen.

Læremidlerne bevæger sig hen mod at blive personaliserede og måske endda hyper-personaliserede og dermed skræddersyet til den enkelt elev. Tidligere har denne personalisering ligget som lærerens arbejdsopgave, men vi kommer til at se algoritmer, der kommer til at overtage flere af disse roller. Og på længere sigt vil der opstå kunstig intelligens, der handler ud fra forudgående viden om elevens niveau og udfordringer, kommer med adaptiv feedback og foretager tilpasset støtte, hvor det er nødvendigt.

Derfor er der en række etiske spørgsmål, vi kan bruge til at finde ud af, om vi skal vente, eller om teknologien er moden nok:

Hvordan påvirker læremidlet undervisningen og giver det noget til undervisningen som ellers ikke var muligt?
Hvordan vil eleverne i realiteten anvende en kunstig intelligens i læremidlet?
Hvad vil det betyde for læremidlets funktion i undervisningen?
Hvordan vil det påvirke elevernes måde at søge hjælp? Vil sprogmodellen overtage for meget af lærerens arbejde?
Vil vi tillade en sprogmodel, der bygger på amerikanske værdier og etik, at være dybt integreret i vores undervisning?
Mister vi noget af progressionen, når sprogmodellen kender hele bogen?
Giver vi en masse data til techvirksomhederne, når vi lader eleverne bruge et kommercielt produkt?
Bliver eleverne uselvstændige, når de bliver trænet til at bruge kunstig intelligens uden at have læst kilden?

Det er også nødvendigt at diskutere, om det er forlagene bag læremidlerne, der skal indføre kunstig intelligens i skolerne. De færreste skoler har haft tid til at lave politikker for kunstig intelligens, og teknologien går så stærkt, at de hele tiden skal revideres. Her bør man som minimum lade det være op til læreren at kunne aktivere eller deaktivere mulighederne. Den enkelte skole bør også kunne fravælge aktiveringen af kunstig intelligens for alle læremidler.