Etiske aspekter ved brug af chatrobotter i undervisning

Dette er artikel nummer to, der omhandler etiske overvejelser omkring brugen af kunstig intelligens i uddannelsesinstitutioner. Hvis du ikke har læst første artikel, så findes den her og handler om retten til privatliv.

I denne artikel vil der være fokus på muligheden for at bruge ChatGPT som vidensdatabase i forskellige sammenhænge på skolen. Første del handler om muligheder for, at den enkelte skole kan lave deres egen kunstige intelligens, og hvad det kan betyde for måden, vi tilgår informationer. Den anden del af artiklen har fokus på, hvad der sker, når de store forlag begynder at træne den kunstige intelligens med deres bøger. Her vil helt nye læremidler dukke op, på tværs af fag og fakulteter, men er det i virkeligheden det, vi ønsker? Som afslutning er der en række spørgsmål, man kan bruge til at diskutere emnet. Det er ikke meningen, at vi alle skal blive enige om forbud eller en all-in-strategi, men vi skal have drøftet mulighederne og problemstillingerne, inden vi overvejer at træffe et valg.

💡

Vi vil i denne og i kommende artikler adressere en række etiske problemstillinger med henblik på anvendelsen af de nye sprogmodeller i undervisningen. Vi ønsker at lægge op til diskussion i klassen, på lærerværelset, i ledelsen og gerne i Undervisningsministeriet. For hver artikel vil vi derfor stille en række spørgsmål, som man selv kan arbejde videre med.

ChatGPT som det nye intranet

Microsoft arbejder på at åbne op for ChatGPT, således at uddannelsesinstitutioner (og virksomheder) kan udnytte chatbottens mange muligheder. Dermed bliver det muligt at træne skolens egen kunstige intelligens med data, som ellers ligger placeret på mange forskellige platforme.

Datasættet kan bestå af elevdata, mødereferater, nyheder, personaledata, retningslinjer, vejledninger, lønoplysninger, kontaktoplysninger, procedure, årsplaner m.m. Grundlæggende alt det data vi i dag bruger til at drive skolen, og som ellers er forbeholdt skolens ledelse at behandle og gøre tilgængelig for skolens elever og ansatte. Denne tilgang til kontakt med data kan måske resultere i en overflødiggørelse af skolens intranet, som vi kender det i dag, fordi både ledelse, medarbejdere og elever blot kan stille spørgsmål direkte til chatrobotten, og herefter dannes et kvalificeret svar. Det vil føles, som om man har en samtale med en dygtig og alvidende sekretær, og der vil ikke være begrænsninger for, hvor mange der har adgang til ressourcen på samme tid.

Samtidig når alle disse skoledata er blevet bearbejdet, kan de nemt bruges i andre sammenhænge, og det vil fx være muligt at give adgang til, at Undervisningsministeriet selv vil kunne trække relevante informationer ud af skolens database. På nuværende tidspunkt bruges der mange timer og penge på bureaukratiske processer. En simpel kommando til skolens chatbot vil kunne give et hurtigere og mere præcist svar.

Meget af den interne kommunikation kan dermed erstattes af kunstig intelligens, og den kan være med til at lette dagligdagen på skolerne. Den kan ændre den måde, vi tænker skoleadministration på. Det vil samtidig præge kommunikationen på skolen i en sådan grad, at vi kan frigive arbejdstid til det, som er mere interessant, nemlig at bedrive undervisning.

Vi skal dog tænke os godt om, inden vi vælger at hoppe med på Microsofts nye chatrobot, for vi flytter data over i et lukket datasæt, hvor det måske ikke er lige nemt at få det ud igen. Skoler kan blive bundet i dyre licenser og blive afhængige af en leverandør, og de tjenester der udbydes.

Der ligger desuden en udfordring i, at vi ikke helt er klar over, hvordan ChatGPT vil svare på spørgsmål, og hvordan rettighedsstyring kan implementeres i systemet. På nettet er der en del eksempler på, at personer har fået den til at svare noget, som ikke burde være muligt, ud fra de regler som Microsoft har opsat. Samme udfordring vil vi se på skolerne, for eleverne vil helt sikkert afprøve alle muligheder for at teste sikkerheden.

Og det bliver meget svært at sikre data, for selvom Microsoft måske har en løsning på denne del, bliver vi nødt til at logge alle samtaler. Det kan igen give udfordringer i forhold til overvågning af medarbejderne. Eksempelvis kan en medarbejder spørge den nye chatrobot om barselsregler, og samtidig kan ledelsen følge med i disse forespørgsler. Man vil også blive nødt til at opstille regler for, hvad man kan spørge den om, og hvordan man spørger.

Vi er meget tæt på, at ovennævnte kan blive en realitet, og det kan give en driftsbesparelse, men det giver også en distanceret og upersonlig tilgang i hele uddannelsessystemet.

Kunstig intelligens som læremiddel

Et andet eksempel er det store forlags tilgang til kunstig intelligens. Gyldendal, Praxis og Systime kan meget nemt træne chatbotten med alle deres bøger og dermed give skoleeleverne en oplevelse a la ChatGPT. Dermed kan lærerne og eleverne spørge ind til den faglige viden i bøgerne og finde indhold på tværs af fag og fakulteter - samtidig med at der trækkes yderligere informationer fra nettet.

Men hvad betyder det for vores læremidler, at de bliver administreret og måske modereret af en kunstig intelligens, som i sin grundvold er bygget op omkring amerikanske værdier og regler? Skal unge drenge og piger ikke have adgang til grafisk indhold i seksualundervisningen? Skal der være blokeringer for søgninger på Muhammed-tegningerne? Bliver Tove Ditlevsens tekster negligeret til fordel for Thomas Korsgaard? Bliver viden om Holocaust kun tilgængelig, hvis eleven er over 18 år? Disse udfordringer ser vi allerede, når skolerne bruger Google for Education, for her vil der i YouTube-søgninger blive filtreret en masse videoer fra, noget vi ikke er vant til i en dansk kontekst.

Modsat vil det også være fantastisk at have en kunstig intelligens, som kender undervisningsmaterialet og dermed kan lave quizzer, forklare tekster, opsætte sammenhænge på tværs af fagligt indhold og samtidig hjælpe eleverne ved at differentiere indholdet på forskellige niveauer. Der er rigtig mange muligheder for at gøre materialet interessant og tilpasse indholdet til den enkelte elev. Vi skal dog have overvejet, hvad der er vigtigt at lære som menneske, og hvad vi skal overlade til den kunstige intelligens.

Ovenstående er blot eksempler på, hvordan den kunstige intelligens kan komme til at påvirke uddannelsesinstitutionerne, og det er ikke et spørgsmål om, hvorvidt de kommer til at gøre det, men mere om hvornår. Derfor skal vi også tage stilling til, på hvilket niveau vi ønsker at bruge teknologien i uddannelsesinstitutionerne, for ellers bliver det techgiganterne, som får sneget den kunstige intelligens ind i skolerne, udenom vores kontrol. Vi har nu et valg og nogle skoler kommer muligvis til at gå helt til ekstremerne, hvor alt skal være drevet af kunstig intelligens, mens andre højst sandsynligt fjerner en del it fra undervisningen.

Spørgsmål

Hvilke data ønsker vi at dele med en virksomhed som fx Microsoft?
Hvornår bliver vi for afhængige af techgiganterne?
Hvor meget ønsker vi, den kunstige intelligens skal fylde i vores skolesystem?
Hvornår skal vi erstatte mennesker med chatrobotter?
Hvad sker der, når vi nedbryder vores fakulteter og fagfaglighed?
Hvordan sikrer vi dansk ytringsfrihed i amerikanske systemer?
Hvor meget skal vi overvåge elever og ansatte på uddannelsesinstitutionerne?
I hvor høj grad vil vi lade den kunstige intelligens overtage undervisningsplanlægningen og undervisningsdifferentieringen?
Vil vi tillade automatiseret datatræk fra skolens it-systemer for at spare på it-personale?
Hvordan sikrer vi, at elevernes data ikke bliver misbrugt?