Ugens nyheder: EU vedtager AI-forordningen

Det har i den seneste uge været småt med nyheder om kunstig intelligens og undervisning, og derfor er dette et kortere nyhedsbrev end normalt. Nyt er dog, at AI-forordningen er vedtaget, og den sætter standarden for sikker og etisk brug af kunstig intelligens.

På Viden.AI bringer vi rigtigt mange nyheder om, hvordan kunstig intelligens udvikler sig, og hvordan teknologien kan anvendes i uddannelsessektoren. Selvom vi finder mange gode eksempler, hvor det giver mening for læring, så ønsker vi også, at skoler og undervisere tager kritisk stilling til teknologien. Derfor har vi i denne uge fokus på 2 artikler, der netop argumenterer imod at bruge kunstig intelligens i uddannelsen. Ben Williamson opstiller 21 argumenter mod at inddrage kunstig intelligens i undervisningen, mens Thomas Aastrup Rømer udtrykker kritik over for Aarhus Universitets nye retning, når det tillades til eksaminer.

Udover ugens nyheder har vi også fundet en videnskabelig artikel, der afslører, hvordan sprogmodellerne viser tegn på skjult racisme og hvordan de forstærker fordomme. I denne sektion har vi også lagt videoen om et nyt program kaldet Devin, som firmaet bag kalder en autonom AI-softwareingeniør.

God læsning.

EU vedtager AI-forordningen

Europa-Parlamentet godkendte onsdag d. 13. marts 2024 AI-forordningen som indfører væsentlige sikkerhedsforanstaltninger omkring brugen af kunstig intelligens i Europa. Loven, der blev forhandlet på plads med medlemsstaterne i december 2023, blev vedtaget med 523 stemmer for, 46 imod og 49 hverken for eller imod. Loven forventes endeligt vedtaget før udgangen af lovgivningsperioden og træder i kraft 20 dage efter offentliggørelse i EU's officielle tidende, med fuld anvendelse 24 måneder efter ikrafttrædelsen.

Vi har tidligere skrevet om AI-forordningen, og ellers har vi herunder samlet en række nyere kilder herunder:

AI i uddannelsen – et samfundsproblem

Ben Williamson, som er Chancellor's Fellow ved University of Edinburgh og forfatter til bogen Big Data in Education: The digital future of learning, policy and practice, har skrevet et blogindlæg med 21 kritiske punkter omkring AI i undervisning.

I artiklen fremhæver Williamson bekymringer om, at begrebet kunstig intelligens er uklart defineret og at det er med til at mystificere de faktiske funktioner og muligheder, som teknologien rummer. Samtidig er den pågående hype med til at skabe en urealistisk forestilling om AI’s potentiale, også med til at oversælge teknologien i undervisningen. Ifølge Williamson mangler der bevis for de fordele, som AI angiveligt skulle bidrage med i undervisningen, men også viden om de problemer, der kan opstå omkring persondata, bias, diskrimination og miljømæssige konsekvenser.

Williamson lægger op til, at man får diskuteret de udfordringer og risici, der er forbundet med AI, og at man adresserer dem ansvarligt. Vi vil anbefale, at læse alle 21 punkter for det er interessante betragtninger som alle der arbejder med AI og undervisning bør overveje.

Læs artiklen herunder:

Kunstig Intelligens skaber debat på Aarhus Universitet

Indførelsen af kunstig intelligens på Aarhus Universitet har været genstand for bekymring blandt nogle eksperter, herunder Thomas Aastrup Rømer, forfatter og ekspert i læringsteori, som har udtrykt kritik af universitetets nye retning.

Tidligere havde Aarhus Universitet forbudt brugen af kunstig intelligens til eksamener, men har efterfølgende ændret holdning og ser teknologien som et værktøj til at forbedre læringsprocesser og demokratisere uddannelse. Samtidig argumenterer prodekan for uddannelse, Niels Lehmann, for at kompetencer inden for kunstig intelligens efterspørges på arbejdsmarkedet, og at det kan være med til at løfte de studerendes færdigheder.

Thomas Aastrup Rømer kritiserer universitetets tilgang meget skarpt, da han mener, at det går ud over den studerendes dybdelæring og dannelse. Han advarer mod, at udviklingen kan føre til, at de studerende på universitetsuddannelserne kun overfladisk arbejder med stoffet, og at denne udvikling signalerer et universitetsfilosofisk kollaps, hvor uddannelsesmiljøet bliver til en børnehave. Han er især bekymret for, at denne indfasning af nye teknologier ikke tager hensyn til de langsigtede konsekvenser for de studerende og samfundet.

Læs hele indlægget på Berlingske (bag betalingsmur):

Ugens nyheder

rektor oensker kunstig intelligens i undervisningen

Nyheder fra TV 2/Bornholm.

TV 2/Bornholm

Videnskabelige artikler

Herunder udvælger vi artikler eller værktøjer, der har et lidt mere videnskabeligt perspektiv. Det er artikler, som vi selv læser for at holde os opdateret, og samtidig ved vi også godt, at det er noget, som ikke er så interessant for de fleste.

AI forstærker racemæssige stereotyper

Forskere har fundet frem til, at ChatGPT og Google Gemini udviser skjult racisme, især hvis personen taler en etnolekt som African American Vernacular English (AAVE). I en artikel fra Cornell University fremhæves det, at når AI-systemer anvendes i virksomhedens rekruttering, kan det forstærke fordommene, der ligger i sprogmodellerne. Eksempelvis fandt forskerne ud af, at personer, der talte AAVE, ifølge sprogmodellerne blev sat til at have lavere intelligens og være mindre egnet til arbejde.

The models were significantly more likely to describe AAVE speakers as “stupid” and “lazy”, assigning them to lower-paying jobs.

Artiklen har udelukkende fokus på rekruttering af medarbejdere, men det er værd at tage med, når vi tænker at bruge sprogmodellerne som en del af vores undervisning. Vi kan ubevidst komme til at forstærke fordomme og stereotyper, hvis vi ikke er opmærksomme, og samtidig er kritiske overfor det output, modellen kommer med.

Dialect prejudice predicts AI decisions about people’s character, employability, and criminality

Hundreds of millions of people now interact with language models, with uses ranging from serving as a writing aid to informing hiring decisions. Yet these language models are known to perpetuate systematic racial prejudices, making their judgments biased in problematic ways about groups like African…

arXiv.orgValentin Hofmann

Devin - den første AI-softwareingeniør

Firmaet Cognition har udviklet Devin, der kan planlægge og løse komplekse opgaver autonomt. Samtidig kan programmet træffe beslutninger, der er baseret på tidligere erfaringer, og forbedre sig selv over tid. Devin efterligner et softwareudviklingsmiljø og har adgang til at skrive kode og søge på nettet.