Det har i den seneste uge været småt med nyheder om kunstig intelligens og undervisning, og derfor er dette et kortere nyhedsbrev end normalt. Nyt er dog, at AI-forordningen er vedtaget, og den sætter standarden for sikker og etisk brug af kunstig intelligens.

På Viden.AI bringer vi rigtigt mange nyheder om, hvordan kunstig intelligens udvikler sig, og hvordan teknologien kan anvendes i uddannelsessektoren. Selvom vi finder mange gode eksempler, hvor det giver mening for læring, så ønsker vi også, at skoler og undervisere tager kritisk stilling til teknologien. Derfor har vi i denne uge fokus på 2 artikler, der netop argumenterer imod at bruge kunstig intelligens i uddannelsen. Ben Williamson opstiller 21 argumenter mod at inddrage kunstig intelligens i undervisningen, mens Thomas Aastrup Rømer udtrykker kritik over for Aarhus Universitets nye retning, når det tillades til eksaminer.

Udover ugens nyheder har vi også fundet en videnskabelig artikel, der afslører, hvordan sprogmodellerne viser tegn på skjult racisme og hvordan de forstærker fordomme. I denne sektion har vi også lagt videoen om et nyt program kaldet Devin, som firmaet bag kalder en autonom AI-softwareingeniør.

God læsning.


EU vedtager AI-forordningen

Europa-Parlamentet godkendte onsdag d. 13. marts 2024 AI-forordningen som indfører væsentlige sikkerhedsforanstaltninger omkring brugen af kunstig intelligens i Europa. Loven, der blev forhandlet på plads med medlemsstaterne i december 2023, blev vedtaget med 523 stemmer for, 46 imod og 49 hverken for eller imod. Loven forventes endeligt vedtaget før udgangen af lovgivningsperioden og træder i kraft 20 dage efter offentliggørelse i EU's officielle tidende, med fuld anvendelse 24 måneder efter ikrafttrædelsen.

Vi har tidligere skrevet om AI-forordningen, og ellers har vi herunder samlet en række nyere kilder herunder:

What does EU Artificial Intelligence regulation mean for AI in education?
A look at how the EU AI Act potentially affects AI’s use in educational settings
The EU AI Act passed — here’s what comes next
The EU Act will come into force in 2025.
MEPs approve world’s first comprehensive AI law
The EU’s AI Act seeks to counter the risks associated with the rapidly growing AI sector.
Artificial Intelligence Act: MEPs adopt landmark law | News | European Parliament
On Wednesday, Parliament approved the Artificial Intelligence Act that ensures safety and compliance with fundamental rights, while boosting innovation.

AI i uddannelsen – et samfundsproblem

Ben Williamson, som er Chancellor's Fellow ved University of Edinburgh og forfatter til bogen Big Data in Education: The digital future of learning, policy and practice, har skrevet et blogindlæg med 21 kritiske punkter omkring AI i undervisning.

I artiklen fremhæver Williamson bekymringer om, at begrebet kunstig intelligens er uklart defineret og at det er med til at mystificere de faktiske funktioner og muligheder, som teknologien rummer. Samtidig er den pågående hype med til at skabe en urealistisk forestilling om AI’s potentiale, også med til at oversælge teknologien i undervisningen. Ifølge Williamson mangler der bevis for de fordele, som AI angiveligt skulle bidrage med i undervisningen, men også viden om de problemer, der kan opstå omkring persondata, bias, diskrimination og miljømæssige konsekvenser.

Williamson lægger op til, at man får diskuteret de udfordringer og risici, der er forbundet med AI, og at man adresserer dem ansvarligt. Vi vil anbefale, at læse alle 21 punkter for det er interessante betragtninger som alle der arbejder med AI og undervisning bør overveje.

Læs artiklen herunder:

AI in education is a public problem

Kunstig Intelligens skaber debat på Aarhus Universitet

Indførelsen af kunstig intelligens på Aarhus Universitet har været genstand for bekymring blandt nogle eksperter, herunder Thomas Aastrup Rømer, forfatter og ekspert i læringsteori, som har udtrykt kritik af universitetets nye retning.

Tidligere havde Aarhus Universitet forbudt brugen af kunstig intelligens til eksamener, men har efterfølgende ændret holdning og ser teknologien som et værktøj til at forbedre læringsprocesser og demokratisere uddannelse. Samtidig argumenterer prodekan for uddannelse, Niels Lehmann, for at kompetencer inden for kunstig intelligens efterspørges på arbejdsmarkedet, og at det kan være med til at løfte de studerendes færdigheder.

Thomas Aastrup Rømer kritiserer universitetets tilgang meget skarpt, da han mener, at det går ud over den studerendes dybdelæring og dannelse. Han advarer mod, at udviklingen kan føre til, at de studerende på universitetsuddannelserne kun overfladisk arbejder med stoffet, og at denne udvikling signalerer et universitetsfilosofisk kollaps, hvor uddannelsesmiljøet bliver til en børnehave. Han er især bekymret for, at denne indfasning af nye teknologier ikke tager hensyn til de langsigtede konsekvenser for de studerende og samfundet.

Læs hele indlægget på Berlingske (bag betalingsmur):

Kunstig intelligens til eksamen skal hjælpe de svageste studerende: Universitetet bliver en »børnehave«, advarer tidligere lektor
Læs mere her.

Ugens nyheder

Eksperters spåkugle: Her er AI i kommunikationsfaget om 10 år
Kunstig intelligens har taget k-scenen med storm og skabt en bølge af forventning, men også udløst bekymringer. Så hvordan ser fremtiden egentlig ud? Kommagasinet har bedt fire eksperter beskrive deres vildeste AI-scenarier.
Inddrag medarbejderne i AI-beslutninger
Medarbejderne skal efteruddannes i brugen af AI og inddrages i beslutninger om AI-værktøjer. Det vil øge produktiviteten og trivslen, siger Louise Harder Fischer, lektor ved IT-Universitetet.
Iværksætter: I en digital tidsalder skal empati være et grundfag på alle uddannelser
For at finde vej i en verden med techgiganter, kunstig intelligens og sociale platforme er det på tide at sætte empati på dagsordenen. Skoleelever skal for eksempel lære at skelne mellem følelser og empati, mener dagens kronikør

Bag betalingsmur

Artificial Intelligence In Education: Teachers’ Opinions On AI In The Classroom
In recent years, the meteoric rise of artificial intelligence (AI) has sent shockwaves through society on both economic and cultural levels. Seemingly poised to become as ubiquitous as email, this rapidly evolving technology is transforming many aspects of daily life—including how we teach and learn
KI-forsker: Derfor er arbeidet med norske språkmodeller så viktig - Digital Norway
Denne våren lanseres flere norske alternativer til språkmodellene GPT-4 og Googles Gemini. Vi tok tak i én av forskerne bak for å høre hvorfor.
Debat: Vi smadrer klimaet med kunstige kattevideoer
Vi bør skrue ned for de populære AI-tjenester, som bruger enorme mængder af vand og energi på at producere underholdning. AI skal bruges der, hvor det optimerer brugen af sparsomme ressourcer.
AI Act kan blive en snubletråd for Europa: “Man kan ikke regulere sig til en førsteplads i det globale AI-kapløb” | Version2
Den nye AI-forordning fra EU er en prøveballon, som både kan give europæiske borgere et boost på sin retssikkerhed, men også bringe unionens virksomheder bagud i AI-kapløbet. Her er tredje afsnit om de EU-lovpakker, du skal forholde dig til i din virksomhed.
Det gør mig ked af det, at jeg ikke stoler på mine elever
rektor oensker kunstig intelligens i undervisningen
Nyheder fra TV 2/Bornholm.
Generativ AI fumler med jura på en måde, der viser at revolutionen ikke er nært forestående | Radar
Forskere fra Stanford University viser med forsøg, at flere af de mest udbredte AI-sprogmodeller vrøvler i stor stil, når de bliver forelagt juridiske spørgsmål.

Videnskabelige artikler

Herunder udvælger vi artikler eller værktøjer, der har et lidt mere videnskabeligt perspektiv. Det er artikler, som vi selv læser for at holde os opdateret, og samtidig ved vi også godt, at det er noget, som ikke er så interessant for de fleste.

AI forstærker racemæssige stereotyper

Forskere har fundet frem til, at ChatGPT og Google Gemini udviser skjult racisme, især hvis personen taler en etnolekt som African American Vernacular English (AAVE). I en artikel fra Cornell University fremhæves det, at når AI-systemer anvendes i virksomhedens rekruttering, kan det forstærke fordommene, der ligger i sprogmodellerne. Eksempelvis fandt forskerne ud af, at personer, der talte AAVE, ifølge sprogmodellerne blev sat til at have lavere intelligens og være mindre egnet til arbejde.

The models were significantly more likely to describe AAVE speakers as “stupid” and “lazy”, assigning them to lower-paying jobs.

Artiklen har udelukkende fokus på rekruttering af medarbejdere, men det er værd at tage med, når vi tænker at bruge sprogmodellerne som en del af vores undervisning. Vi kan ubevidst komme til at forstærke fordomme og stereotyper, hvis vi ikke er opmærksomme, og samtidig er kritiske overfor det output, modellen kommer med.

As AI tools get smarter, they’re growing more covertly racist, experts find
ChatGPT and Gemini discriminate against those who speak African American Vernacular English, report shows
Dialect prejudice predicts AI decisions about people’s character, employability, and criminality
Hundreds of millions of people now interact with language models, with uses ranging from serving as a writing aid to informing hiring decisions. Yet these language models are known to perpetuate systematic racial prejudices, making their judgments biased in problematic ways about groups like African…

Devin - den første AI-softwareingeniør

Firmaet Cognition har udviklet Devin, der kan planlægge og løse komplekse opgaver autonomt. Samtidig kan programmet træffe beslutninger, der er baseret på tidligere erfaringer, og forbedre sig selv over tid. Devin efterligner et softwareudviklingsmiljø og har adgang til at skrive kode og søge på nettet.

Hvis man vil teste Devin, kan man skrive sig op på deres venteliste herunder:

Request Access to Devin
To start using Devin for engineering work, please request access.
Introducing Devin, the first AI software engineer