Kunstig intelligens findes efterhånden i mange forskellige undervisningsmaterialer, og her bør man som lærer foretage en række etiske overvejelser, inden man begynder at introducere AI i undervisningen. Derfor har vi i denne artikel samlet en række gode råd til, hvordan du udvælger værktøjer til undervisningen på et etisk grundlag.

1. Giver det mening at bruge kunstig intelligens i mit fag?

Giver kunstig intelligens rent faktisk noget mere til elevernes læring, eller gør vi det, fordi det er nyt og smart? For tiden er der et udefrakommende pres om, at alle skal have taget stilling til kunstig intelligens, men også at teknologien bør/skal inkluderes i undervisningen. Men vi skal ikke digitalisere for digitaliseringens skyld, og de nye værktøjer skal bruges, når det er med til at danne elevernes teknologiforståelse. Denne læring kan også godt være fagfaglig, hvor eleverne sammen med læreren forholder sig eksplorativt til teknologien med fagbriller på, både for at se muligheder, men også for at se udfordringerne. Her vil der dog være en nyhedseffekt, fordi vi inddrager ny teknologi i vores fag, og vi kan derfor blive forblændet af, at det er nyt og smart. Det betyder ikke, at vi skal droppe vores normale undervisning, blot fordi der er kommet en ny teknologi. Vi skal bare selv tilvælge eller fravælge kunstig intelligens, så det giver mening i vores undervisningen.

Vi behøver heller ikke altid at være firstmovers bare fordi der kommer en ny teknologi. Derfor handler det også om, hvorvidt man personligt og fagligt kan følge med.

2. Undersøg, hvordan kunstig intelligens virker

Før man begynder at bruge kunstig intelligens i undervisningen, er det vigtigt at forstå, hvordan teknologien fungerer. Uanset om det er ChatGPT, en app eller et plugin til et læringsstyringssystem, vil der altid være en underliggende teknologi, der styrer det genererede output.

Alle de programmer og hjemmesider, der bliver beriget med kunstig intelligens, vil have styrker og svagheder. For eksempel er det ikke mange, der kan forklare, hvordan en sprogmodel fungerer uden at blive for tekniske, men det er nødvendigt at forstå det grundlæggende for at fjerne det "magiske" slør omkring chatbots. I sidste ende er det hele baseret på statistik, matematik, en række algoritmer og menneskelig træning.

Desuden har de mange forskellige værktøjer deres fordele og ulemper. For eksempel stoppede ChatGPT med at indsamle data i september 2021, hvilket betyder, at den ikke har nogen viden om krigen i Ukraine. ChatGPT-3.5 har også store problemer med kilder, og i dette tilfælde ville det være bedre at benytte Bing Chat. Der vil også være stor forskel på, om man bruger en kunstig intelligens, som er trænet til videnskabelige tekster i en lukket vidensdatabase, eller om den foretager søgninger på internettet

En model til at styre dem alle

Det er dyrt at udvikle og træne modeller, for det kræver enorme computerkræfter, et stort datagrundlag og en masse menneskelig træning. Det estimeres, at ChatGPT koster omkring 4,5 millioner dkr. om dagen i serverudgifter, og derfor skal der også tjenes penge på modellen.

OpenAI har lanceret en API til deres GPT-model, og det er primært grundlaget for de fleste programmer, som er beriget med kunstig intelligens. En API er en standardiseret måde at udveksle data mellem it-systemer, og det gør det meget nemt for udviklere at lave nye programmer, der anvender data fra OpenAI.

Derfor ser vi mange programmer for tiden, der på overfladen ligner, at de har lavet deres egen kunstige intelligens, men nedenunder drives (og styres) det hele af OpenAI. Grunden til at nogle af disse programmer er gode til et specielt fag, kan simulere at være en kendt person eller kan være kundeservice i en virksomhed, er den måde, de er blevet trænet. Her har udviklerne været inde og opsætte rammer for kunstig intelligens og trænet den til et bestemt domæne. Herefter har de lanceret deres egen kunstige intelligens som deres eget "unikke" produkt. Derfor ser vi også meget magt lagt i hænderne på en virksomhed, der kan bestemme retningen for mange små virksomheder.

Man bør derfor stille en række spørgsmål, inden man vælger at bruge kunstig intelligens i undervisningen:

  • Hvad er det for et datagrundlag, kunstig intelligens er trænet på?
  • Er det muligt at få kilder på det, som bliver genereret?
  • Hvem står bag teknologien?

3. Er lærerens rolle klart defineret i undervisningen?

Når man beslutter at anvende et nyt værktøj i undervisningen, er det afgørende at overveje lærerens rolle for at undgå, at kunstig intelligens underminerer lærerens autoritet.

Her er nogle etiske spørgsmål, som lærere kan stille sig selv, før man introducerer kunstig intelligens i undervisningen. Skolens ledelse kan i øvrigt også have svar på nogle af disse spørgsmål:

  • Skal læreren overvåge og justere de anbefalinger, som kunstig intelligens giver eleverne, for at sikre at de er relevante og passende?
  • Hvordan tackles potentielle fejlinformationer eller manglende kontekst, som  kunstig intelligens kan generere?
  • Hvordan kan læreren anvende kunstig intelligens til at differentiere undervisningen og imødekomme elevernes individuelle behov og forudsætninger?
  • Skal læreren være passiv, mens eleverne arbejder med et værktøj og kun yde støtte, hvis de har brug for hjælp?

Man skal hele tiden sørge for at opretholde lærerens funktion i klasserummet og ikke lade kunstig intelligens overtage områder, som kræver menneskelig empati eller handlekraft. Derfor vil et råd være, at man vælger værktøjer, hvor læreren har en funktion og kan støtte eleverne. Læreren bør også have en klart defineret rolle, hvor han/hun samler op på det faglige indhold, som eleverne har arbejdet med og derved sikrer, at undervisningen forbliver meningsfuld og engagerende.

Hvis man vælger at inddrage kunstig intelligens i undervisningen, er det derfor vigtigt at overveje, hvordan lærer-elev-forholdet bevares.

4. Undersøg, og vælg de rigtige værktøjer til dit fagområde

Der findes mange værktøjer, som kan integreres i undervisningen, men ofte bruges de samme værktøjer til alle opgaver. Tag dig tid til at undersøge de forskellige muligheder inden for dit fagområde og vær nysgerrig.

I matematik kan ChatGPT eksempelvis bruges til at oprette opgaver til eleverne, men den er ikke optimal til at udføre beregninger, da det er en sprogmodel. OpenAI arbejder dog på at implementere plugins, der gør det muligt at koble ChatGPT sammen med WolframAlpha.

Når det kommer til billedegenerering i kreative fag, har værktøjer som MidJourney, BlueWillow og DALL-E 2 allerede indbygget et etisk regelsæt i de billeder, der produceres. Dette hjælper med at sikre, at de værktøjer, der bruges i undervisningen, opfylder etiske standarder (amerikansk). Man skal dog være opmærksom på, at Midjourney og BlueWillow anvender Discord som platform, og derfor vil der være problemer med GDPR.

Læs vores artikel ”Generativ AI laver billeder”.

5. Undersøg, om teknologien opsamler elevdata

Den helt store udfordring med alle de værktøjer, der findes, er, at det går så stærkt, at vi ikke når at undersøge hvilke data, de opsamler. Her er det vigtigt at være kritisk og fravælge en teknologi, hvis der ikke kan redegøres for, hvor data opbevares, eller hvor man kan få en databehandleraftale.

Vi ser, at Microsoft og Google begynder at berige deres programmer med kunstig intelligens, og de vil givetvis blive gjort tilgængelige for eleverne. Det betyder dog ikke, at vi bare skal tro, at alle regler bliver overholdt, og vi bliver nødt til overveje, om vi vil anvende disse systemer i undervisningen.

Det er også værd at overveje, om man ønsker, at eleverne skal være en del af et ureguleret masseeksperiment, som bruges til at træne nye kunstige intelligenser.

  • Hvilke techfirmaer er det, jeg deler mine elevers oplysninger med?
  • Hvad må og kan vi bruge kunstig intelligens til?
  • Har vores skole databehandleraftale med det pågældende firma?

6. Skævheder og bias

Man skal være opmærksom på, om der i værktøjerne kan være samfundsmæssige skævheder, racemæssige bias, kønsspecifikke stereotyper m.m. Hvis de træningsdata, som kunstig intelligens er trænet til, er biased, vil den sandsynligvis overføre disse bias i det output, som den genererer. Det betyder fx, at hvis modellen er trænet på tekster skrevet af mandlige forfattere, er det muligt, at den er forudindtaget i forhold til mandlige karakteristika eller perspektiver. Et andet eksempel er Googles billedgenkendelsesalgoritme, hvor den fejlidentificerer farvede mennesker som primater.

Der kan samtidig være udfordringer, hvis sprogmodellen på baggrund af sprogmønstre i træningsdataene, er mere positiv eller negativ over for forskellige befolkningsgrupper.

Ovenstående er nogle af grundene til, at sprogmodellerne nogle gange fejler i dets output, men vi bliver nødt til at tænke over, at disse skævheder og bias påvirker det, som vores elever læser. Ifølge OpenAI er det noget, man må tage med, hvis man vil bruge deres model. Men efterhånden, som flere bruger teknologien, bliver den også bedre til at sikre det indhold, brugerne bliver præsenteret for.

Men og der er et men, for selvom den bliver bedre til at sortere de ting fra, som kan virke stødende, er det stadig en amerikansk etik, der bliver lagt ned over sprogmodellerne. Prøv f.eks. at spørge ind til abortspørgsmålet. Her vil den have meget svært ved at komme med et svar.

Modsat findes der også modeller, der er renset for al etik, hvilket dermed betyder, at de kan skrive om alt. Det kan også være problematisk, for her er ikke noget filter, og man skal være meget påpasselig. For eksemplets skyld har vi lavet et par forespørgsler til denne sprogmodel.

Det betyder også at man med fordel kan arbejde med kritisk tænkning i undervisningen, og eleverne dermed forstår, at sprogmodellerne indeholder bias og skævheder.

Muligheder og begrænsninger

Ovenstående er vores bud på aspekter, man skal tænke over, hvis man vil arbejde med kunstig intelligens i undervisningen. Listen er ikke prioriteret, og den kunne faktisk indeholde mange flere punkter. Vi har dog valgt de vigtigste ud og forsøgt at komme med et bud på de udfordringer og muligheder, man skal adressere, inden man begynder at inddrage teknologien.

Noget af indholdet vil ikke være muligt at anvende på grund af GDPR, begrænsninger i læreplaner, skolens politik på området, fagets metoder eller manglende rammer og retningslinjer fra UVM. Der vil være en periode, hvor ret meget vil være op til den enkelte lærer ude på den enkelte skole, og det lægger ekstra pres på en i forvejen travl hverdag.

Kilder

Kunstig intelligens skal ind i skolerne
Kunstig intelligens skal ind i skolerne
Hvad skal vi med kunstig intelligens i skolen? - IT Torvet
I denne artikel ser vi på hvad kunstig intelligens egentlig er, hvad det har af muligheder og udfordringer og om det er prisen værd!
Samtale med ChatGPT-4
Om kunstig intelligens og viden
OpenAI’s ChatGPT Reportedly Costs $100,000 a Day to Run – CIOCoverage- Driven for Technology Leaders
OpenAI
OpenAI API
We’re releasing an API for accessing new AI models developed by OpenAI.
Undersøgelse og nysgerrighed - AI chatbots i historie - STX | emu danmarks læringsportal
Der er åbenlyse problemer med ChatGPT, og den indvarsler måske en ny tid for undervisning og læring - også i historie. Men hvad kan chatbots bruges til inden for historiefaget?
ChatGPT Gets Its “Wolfram Superpowers”!
Wolfram plugin gives computationally accurate answers to ChatGPT queries using Wolfram’s data knowledgebase and language. Custom visualizations are given as well. Stephen Wolfram explains how it works.
OpenAI’s DALL-E 2 is pretty compliant - but who is responsible anyway?
Since the beta launch of the image AI DALL-E 2, users have generated more than three million images. OpenAI draws a first interim conclusion.
The Ethics of AI Art: The Case of DALL-E 2 [CASE STUDY]
BY DEX PARRA & SCOTT R. STROUDArtificially intelligent neural networks that generate images from phrases input by humans, such as DALL-E 2, present n
Does ChatGPT Have Privacy Issues?
ChatGPT can be a bit of fun, but you might take it more seriously when you know how much private data it collects about you.
Announcing new generative AI experiences in Google Workspace | Google Workspace Blog
Google Workspace is using AI to become even more helpful, starting with new capabilities in Docs and Gmail to write and refine content.
Introducing Microsoft 365 Copilot – your copilot for work - The Official Microsoft Blog
Humans are hard-wired to dream, to create, to innovate. Each of us seeks to do work that gives us purpose — to write a great novel, to make a discovery, to build strong communities, to care for the sick. The urge to connect to the core of our work lives in all of us. But…
ChatGPT presser danske uddannelser: “Det kan ende i et våbenkapløb” – Radar
Et forbud mod ‘lektiehjælperen’ ChatGPT holder ikke, erkender uddannelsesinstitutioner – de er nødt til at tilpasse sig.
Her undervises eleverne i brugen af ChatGPT
Mens det fortsat diskuteres, i hvilket omfang ChatGPT bør bruges på landets uddannelser, er en gymnasielærer gået forrest. Hun finder det »rigtig vigtigt« at inddrage chatbotten i undervisningen.
ChatGPT genrejser spørgsmålet, om maskiner kan tænke. Men hvad vil det egentlig sige at tænke?
Ved at bestå eksaminer og svare på komplicerede spørgsmål har computerprogrammet ChatGPT sat nye standarder for kunstig intelligens. Men et 70 år gammelt eksperiment viser, hvorfor det er svært at måle, om en maskine er intelligent.
Ny forskning: Drop ChatGPT hvis I bekymrer jer om inklusion! - Bootstrapping
når ChatGPT bruges i kommunikation på arbejdspladsen, vil det skade virksomhedskulturen og virksomhedens mangfoldighed ved at forstærke stereotyper gennem intern og ekstern kommunikation.”
ChatGPT and large language model bias
The AI-fueled chatbot gives answers that can seem human-sounding. They may also share humans’ bias.
Google’s solution to accidental algorithmic racism: ban gorillas
Google’s ‘immediate action’ over AI labelling of black people as gorillas was simply to block the word, along with chimpanzee and monkey, reports suggest
We asked ChatGPT whether generative AIs were biased. Here’s what it told us... - TechInformed
TechInformed asked OpenAI’s ChatGPT what it thinks about its own technology’s bias. To what extent are generative AIs biased?
ChatGPT koster over 7 millioner kroner om dagen i serverutgifter
Microsoft arbeider med å lage sin egen brikke for å få utgiftene ned.