Vi hører fra mange uddannelsesinstitutioner, der har svært ved at navigere i håndteringen af kunstig intelligens, og som forsøger at lave lokale regler. Det store problem med at lave regler om anvendelsen af kunstig intelligens er, at teknologien hele tiden udvikler sig. Som konsekvens skal reglerne hele tiden ajourføres, og medarbejderne skal konstant være opmærksomme på nye ændringer.

Derfor vil det give mere mening med et forståelsespapir, som på et mere generelt niveau kan tage hånd om de nye muligheder, og noget som alle led i organisationen skal tage højde for. I det følgende kommer vi med vores overvejelser og et konkret bud på, hvordan sådan et forståelsespapir kunne se ud. Anbefalingerne kan man efterfølgende tage med ud på den enkelte institution og derefter udforme sin egen udgave.

Overvejelser kan også bruges til samtaler og refleksion i ledelse, lærergruppe og sammen med elever, studerende og forældre.

Særlig brug i forhold til databeskyttelse, privatliv og GDPR

Det første, man skal tage stilling til, vil være, om tjenesterne eller værktøjerne overholder GDPR. Det betyder, at man både skal være opmærksom på, hvordan man får adgang til værktøjerne, og hvad man bruger værktøjerne til.

Som udgangspunkt kræver det en databehandleraftale, hvis man skal udveksle personoplysninger på vegne af børn og unge under 18 år. Det betyder i praksis, at man ikke kan anvende tjenester, der kræver et login, da mailadresser er en personoplysning.

Hvis adgangen er tilladt, skal man huske, at den data, man behandler via tjenesten, ikke indeholder personoplysninger, og selv med en databehandleraftale er de ikke personfølsomme. Man kan altså ikke bearbejde personoplysninger - herunder skoledata som elevnavne, elevers opgaver, kommunikation med elever, forældre eller kolleger, ligesom man skal undgå at dele billeder og andre medieformer med personer såsom lærere og elever.

Ligeledes skal man have in mente, hvorvidt man behandler data, der ikke er personoplysninger, men som dog er fortrolige. Det kan for eksempel være økonomiske oplysninger.

Et godt råd kan være at tænke det system, man bruger, som en offentlig tilgængelig platform, hvor alle kan følge med i, hvad man skriver. Derfor skal man kun bruge det til noget, som alle må vide.

Hvis man gerne vil anvende AI-værktøjer, skal man sikre, at alle elever og personale har lige adgang, således at der ikke skabes ulighed.

Med udgangspunkt i ovennævnte fokuspunkter kan en checkliste se ud på følgende måde:

  • Kontrollér, at de værktøjer eller tjenester, du bruger, er i overensstemmelse med GDPR.
  • Sørg for, at der er en databehandleraftale på plads, hvis du skal udveksle personoplysninger på vegne af børn og unge under 18 år.
  • Selv med en databehandleraftale, skal du sikre, at de data, du behandler, ikke indeholder personoplysninger og ikke er personfølsomme. Dette inkluderer skoledata som elevnavne, elevers opgaver, kommunikation med elever, forældre eller kolleger.
  • Du skal undgå at dele billeder og andre medieformer der viser personer, herunder lærere og elever.

Overvejelser om undervisning med AI

Hvis man som underviser gerne vil anvende kunstig intelligens i undervisningen, er der en række forhold, som man skal være opmærksom på. Det handler både om, hvad de generative AI-systemer er gode til, og hvad de er mindre gode til, men også (ligesom det gælder med alle typer af værktøjer) hvornår man skal vælge at bruge dem, og hvornår man skal vælge dem fra.

Det handler altså både om at være bevidst om, hvad det er, der er læringens fokus, og hvordan generativ AI ændrer på dette:

  • Støtter AI læringsprocessen, eller er det en måde at undgå læringen?
  • Hvordan vil vi tillade, at elever og studerende bruger værktøjerne, og hvordan undgår vi snyd?
  • Hvad skal man være særlig opmærksom på i forhold til fakta, herunder forældet viden, bias, kildehenvisninger og konfabulering.
  • Husk korrekt kildeangivelse (link til viden.ai-artikel om dette)

Brug hinanden til at være nysgerrige på de nye muligheder. Undersøg, hvad de kan, men også, hvad de ikke kan.

Overvejelser om undervisning i AI

Når man begynder at bruge en teknologi i undervisningen, skal man også overveje, hvordan man selv lærer og samtidig lærer eleverne at anvende teknologien hensigtsmæssigt. Det handler i høj grad om dannelse og at bruge teknologien på en ansvarlig måde.

I forhold til generative AI systemer handler det om refleksioner over, hvordan man laver gode og præcise forespørgsler. Det vil både være, hvis man skal arbejde med AI-genererede billeder, tekster eller musik.

Ligesom andre teknologier har kunstig intelligens også konsekvenser for den enkelte og samfundet. Når man gør kunstig intelligens til genstand for undervisningen, giver det mulighed for en række overvejelser og diskussioner om de mulige konsekvenser, for eksempel i forhold til forståelse af viden, økonomi og klima.

Hold øje med opdateringer og fremskridt inden for AI-teknologi, og især AI-forordningen. Sørg for, at anbefalingerne bliver opdateret løbende, med relevante oplysninger og i overensstemmelse med lovgivningen og anbefalinger fra UVM.

Kilder

Chatbots
AI og sprogmodeller i klasseværelset - Læremiddel.dk
Her finder du en artikelserie om kunstig intelligens og sprogmodeller i klasseværelset. Læs artiklerne gratis her.
AI Act: a step closer to the first rules on Artificial Intelligence | News | European Parliament
To ensure a human-centric and ethical development of Artificial Intelligence (AI) in Europe, MEPs endorsed new transparency and risk-management rules for AI systems.
Kompetencepakke om kunstig intelligens