6 gode råd til etisk forsvarlig brug af kunstig intelligens i undervisning

Kunstig intelligens findes efterhånden i mange forskellige undervisningsmaterialer, og her bør man som lærer foretage en række etiske overvejelser, inden man begynder at introducere AI i undervisningen. Derfor har vi i denne artikel samlet en række gode råd til, hvordan du udvælger værktøjer til undervisningen på et etisk grundlag.

1. Giver det mening at bruge kunstig intelligens i mit fag?

Giver kunstig intelligens rent faktisk noget mere til elevernes læring, eller gør vi det, fordi det er nyt og smart? For tiden er der et udefrakommende pres om, at alle skal have taget stilling til kunstig intelligens, men også at teknologien bør/skal inkluderes i undervisningen. Men vi skal ikke digitalisere for digitaliseringens skyld, og de nye værktøjer skal bruges, når det er med til at danne elevernes teknologiforståelse. Denne læring kan også godt være fagfaglig, hvor eleverne sammen med læreren forholder sig eksplorativt til teknologien med fagbriller på, både for at se muligheder, men også for at se udfordringerne. Her vil der dog være en nyhedseffekt, fordi vi inddrager ny teknologi i vores fag, og vi kan derfor blive forblændet af, at det er nyt og smart. Det betyder ikke, at vi skal droppe vores normale undervisning, blot fordi der er kommet en ny teknologi. Vi skal bare selv tilvælge eller fravælge kunstig intelligens, så det giver mening i vores undervisningen.

Vi behøver heller ikke altid at være firstmovers bare fordi der kommer en ny teknologi. Derfor handler det også om, hvorvidt man personligt og fagligt kan følge med.

2. Undersøg, hvordan kunstig intelligens virker

Før man begynder at bruge kunstig intelligens i undervisningen, er det vigtigt at forstå, hvordan teknologien fungerer. Uanset om det er ChatGPT, en app eller et plugin til et læringsstyringssystem, vil der altid være en underliggende teknologi, der styrer det genererede output.

Alle de programmer og hjemmesider, der bliver beriget med kunstig intelligens, vil have styrker og svagheder. For eksempel er det ikke mange, der kan forklare, hvordan en sprogmodel fungerer uden at blive for tekniske, men det er nødvendigt at forstå det grundlæggende for at fjerne det "magiske" slør omkring chatbots. I sidste ende er det hele baseret på statistik, matematik, en række algoritmer og menneskelig træning.

Desuden har de mange forskellige værktøjer deres fordele og ulemper. For eksempel stoppede ChatGPT med at indsamle data i september 2021, hvilket betyder, at den ikke har nogen viden om krigen i Ukraine. ChatGPT-3.5 har også store problemer med kilder, og i dette tilfælde ville det være bedre at benytte Bing Chat. Der vil også være stor forskel på, om man bruger en kunstig intelligens, som er trænet til videnskabelige tekster i en lukket vidensdatabase, eller om den foretager søgninger på internettet

En model til at styre dem alle

Det er dyrt at udvikle og træne modeller, for det kræver enorme computerkræfter, et stort datagrundlag og en masse menneskelig træning. Det estimeres, at ChatGPT koster omkring 4,5 millioner dkr. om dagen i serverudgifter, og derfor skal der også tjenes penge på modellen.

OpenAI har lanceret en API til deres GPT-model, og det er primært grundlaget for de fleste programmer, som er beriget med kunstig intelligens. En API er en standardiseret måde at udveksle data mellem it-systemer, og det gør det meget nemt for udviklere at lave nye programmer, der anvender data fra OpenAI.

Derfor ser vi mange programmer for tiden, der på overfladen ligner, at de har lavet deres egen kunstige intelligens, men nedenunder drives (og styres) det hele af OpenAI. Grunden til at nogle af disse programmer er gode til et specielt fag, kan simulere at være en kendt person eller kan være kundeservice i en virksomhed, er den måde, de er blevet trænet. Her har udviklerne været inde og opsætte rammer for kunstig intelligens og trænet den til et bestemt domæne. Herefter har de lanceret deres egen kunstige intelligens som deres eget "unikke" produkt. Derfor ser vi også meget magt lagt i hænderne på en virksomhed, der kan bestemme retningen for mange små virksomheder.

Man bør derfor stille en række spørgsmål, inden man vælger at bruge kunstig intelligens i undervisningen:

Hvad er det for et datagrundlag, kunstig intelligens er trænet på?
Er det muligt at få kilder på det, som bliver genereret?
Hvem står bag teknologien?

3. Er lærerens rolle klart defineret i undervisningen?

Når man beslutter at anvende et nyt værktøj i undervisningen, er det afgørende at overveje lærerens rolle for at undgå, at kunstig intelligens underminerer lærerens autoritet.

Her er nogle etiske spørgsmål, som lærere kan stille sig selv, før man introducerer kunstig intelligens i undervisningen. Skolens ledelse kan i øvrigt også have svar på nogle af disse spørgsmål:

Skal læreren overvåge og justere de anbefalinger, som kunstig intelligens giver eleverne, for at sikre at de er relevante og passende?
Hvordan tackles potentielle fejlinformationer eller manglende kontekst, som kunstig intelligens kan generere?
Hvordan kan læreren anvende kunstig intelligens til at differentiere undervisningen og imødekomme elevernes individuelle behov og forudsætninger?
Skal læreren være passiv, mens eleverne arbejder med et værktøj og kun yde støtte, hvis de har brug for hjælp?

Man skal hele tiden sørge for at opretholde lærerens funktion i klasserummet og ikke lade kunstig intelligens overtage områder, som kræver menneskelig empati eller handlekraft. Derfor vil et råd være, at man vælger værktøjer, hvor læreren har en funktion og kan støtte eleverne. Læreren bør også have en klart defineret rolle, hvor han/hun samler op på det faglige indhold, som eleverne har arbejdet med og derved sikrer, at undervisningen forbliver meningsfuld og engagerende.

Hvis man vælger at inddrage kunstig intelligens i undervisningen, er det derfor vigtigt at overveje, hvordan lærer-elev-forholdet bevares.

4. Undersøg, og vælg de rigtige værktøjer til dit fagområde

Der findes mange værktøjer, som kan integreres i undervisningen, men ofte bruges de samme værktøjer til alle opgaver. Tag dig tid til at undersøge de forskellige muligheder inden for dit fagområde og vær nysgerrig.

I matematik kan ChatGPT eksempelvis bruges til at oprette opgaver til eleverne, men den er ikke optimal til at udføre beregninger, da det er en sprogmodel. OpenAI arbejder dog på at implementere plugins, der gør det muligt at koble ChatGPT sammen med WolframAlpha.

Når det kommer til billedegenerering i kreative fag, har værktøjer som MidJourney, BlueWillow og DALL-E 2 allerede indbygget et etisk regelsæt i de billeder, der produceres. Dette hjælper med at sikre, at de værktøjer, der bruges i undervisningen, opfylder etiske standarder (amerikansk). Man skal dog være opmærksom på, at Midjourney og BlueWillow anvender Discord som platform, og derfor vil der være problemer med GDPR.

Læs vores artikel ”Generativ AI laver billeder”.

5. Undersøg, om teknologien opsamler elevdata

Den helt store udfordring med alle de værktøjer, der findes, er, at det går så stærkt, at vi ikke når at undersøge hvilke data, de opsamler. Her er det vigtigt at være kritisk og fravælge en teknologi, hvis der ikke kan redegøres for, hvor data opbevares, eller hvor man kan få en databehandleraftale.

Vi ser, at Microsoft og Google begynder at berige deres programmer med kunstig intelligens, og de vil givetvis blive gjort tilgængelige for eleverne. Det betyder dog ikke, at vi bare skal tro, at alle regler bliver overholdt, og vi bliver nødt til overveje, om vi vil anvende disse systemer i undervisningen.

Det er også værd at overveje, om man ønsker, at eleverne skal være en del af et ureguleret masseeksperiment, som bruges til at træne nye kunstige intelligenser.

Hvilke techfirmaer er det, jeg deler mine elevers oplysninger med?
Hvad må og kan vi bruge kunstig intelligens til?
Har vores skole databehandleraftale med det pågældende firma?

6. Skævheder og bias

Man skal være opmærksom på, om der i værktøjerne kan være samfundsmæssige skævheder, racemæssige bias, kønsspecifikke stereotyper m.m. Hvis de træningsdata, som kunstig intelligens er trænet til, er biased, vil den sandsynligvis overføre disse bias i det output, som den genererer. Det betyder fx, at hvis modellen er trænet på tekster skrevet af mandlige forfattere, er det muligt, at den er forudindtaget i forhold til mandlige karakteristika eller perspektiver. Et andet eksempel er Googles billedgenkendelsesalgoritme, hvor den fejlidentificerer farvede mennesker som primater.

Der kan samtidig være udfordringer, hvis sprogmodellen på baggrund af sprogmønstre i træningsdataene, er mere positiv eller negativ over for forskellige befolkningsgrupper.

Ovenstående er nogle af grundene til, at sprogmodellerne nogle gange fejler i dets output, men vi bliver nødt til at tænke over, at disse skævheder og bias påvirker det, som vores elever læser. Ifølge OpenAI er det noget, man må tage med, hvis man vil bruge deres model. Men efterhånden, som flere bruger teknologien, bliver den også bedre til at sikre det indhold, brugerne bliver præsenteret for.

Men og der er et men, for selvom den bliver bedre til at sortere de ting fra, som kan virke stødende, er det stadig en amerikansk etik, der bliver lagt ned over sprogmodellerne. Prøv f.eks. at spørge ind til abortspørgsmålet. Her vil den have meget svært ved at komme med et svar.

Modsat findes der også modeller, der er renset for al etik, hvilket dermed betyder, at de kan skrive om alt. Det kan også være problematisk, for her er ikke noget filter, og man skal være meget påpasselig. For eksemplets skyld har vi lavet et par forespørgsler til denne sprogmodel.

Det betyder også at man med fordel kan arbejde med kritisk tænkning i undervisningen, og eleverne dermed forstår, at sprogmodellerne indeholder bias og skævheder.

Muligheder og begrænsninger

Ovenstående er vores bud på aspekter, man skal tænke over, hvis man vil arbejde med kunstig intelligens i undervisningen. Listen er ikke prioriteret, og den kunne faktisk indeholde mange flere punkter. Vi har dog valgt de vigtigste ud og forsøgt at komme med et bud på de udfordringer og muligheder, man skal adressere, inden man begynder at inddrage teknologien.

Noget af indholdet vil ikke være muligt at anvende på grund af GDPR, begrænsninger i læreplaner, skolens politik på området, fagets metoder eller manglende rammer og retningslinjer fra UVM. Der vil være en periode, hvor ret meget vil være op til den enkelte lærer ude på den enkelte skole, og det lægger ekstra pres på en i forvejen travl hverdag.