Ugens nyheder: AI-system automatiserer forskning uden menneskelig indblanding

Selvom vi lige er startet på arbejde igen efter en god sommerferie, er der allerede en del nyheder om kunstig intelligens i undervisningen.

En af de mere vilde historier er det fuldautomatiserede AI-værktøj, The AI Scientist, der kan bedrive videnskabelig forskning autonomt. Selvom der er mange begrænsninger i værktøjet, kan det potentiel få stor betydning for forskning fremover.

I fredags var jeg (Per) til møde i STUK for at deltage i en referencegruppe, der skulle komme med input til anbefalinger om brugen af generativ AI i undervisningen.

En ny database fra MIT samler og kategoriserer 777 forskellige risici forbundet med kunstig intelligens. Databasen understreger vigtigheden af, at vi forholder os til de potentielle udfordringer og etiske problemstillinger, der kan opstå ved udbredt brug af generativ AI.

Et konkret eksempel på en AI-model, der kan bruges til at illustrere både potentialer og risici, er Grok-2, som er en tekst-til-billede-model fra Elon Musks selskab, xAI. Grok-2 har meget få restriktioner, og vi har samlet en række eksempler, som i høj grad kan bruges til at diskutere misinformation i undervisningen.

På trods af de mange muligheder viser en undersøgelse på Københavns Universitet, at underviserne er tilbageholdende med at inddrage AI-værktøjer i undervisningen, og at de i stedet ønsker mere tid til direkte kontakt med studerende.

I sidste uge er der også blevet udgivet to interessante podcasts, som vi anbefaler, at man lytter til. Den første handler om potentialer og udfordringer ved brug af AI på SOSU-skolerne med fokus på, hvordan AI kan ses som et ekstra redskab i lærernes værktøjskasse. Den anden podcast er fra VIA Uddannelsesakademi, der har besøg af ph.d. Malthe Stavning Erslev til en samtale om kunstig intelligens og dens rolle i undervisningen. Begge podcasts giver et godt indblik i de aktuelle diskussioner om AI og undervisning.

God læselyst!

AI Scientist skaber forskningsartikler for kun 15 dollars – men med begrænsninger

Forskere fra University of British Columbia, University of Oxford og AI-startuppen Sakana AI har udviklet et nyt AI-værktøj kaldet The AI Scientist. The AI Scientist er i stand til at udføre videnskabelig forskning autonomt, hvor systemet genererer originale forskningsidéer, skriver kode, gennemfører eksperimenter, visualiserer resultater og sammensætter det hele i velskrevne videnskabelige artikler.

Processen starter med, at The AI Scientist finder nye forskningsidéer, som derefter vurderes for deres originalitet ved at søge i videnskabelige databaser. Hvis en idé vurderes som lovende, implementeres den i koden, og eksperimenter udføres automatisk. Efterfølgende visualiserer systemet resultaterne og skriver en fuld artikel. Til sidst foretager The AI Scientist en simuleret peer review for at vurdere artiklens kvalitet.

Systemet blev testet inden for tre områder af maskinlæring: diffusionsmodeller, transformer-baserede sprogmodeller og grokking (et fænomen i maskinlæring, hvor en model pludselig opnår drastisk bedre resultater efter en periode med middelmådig præstation, fordi den “forstår” de underliggende mønstre).

For hvert område producerede AI’en komplette artikler for mindre end 15 dollars per styk. Samtidig udviklede de en automatiseret anmelder baseret på en sprogmodel, som evaluerede artiklerne og fandt, at nogle af dem ville kunne opnå accept til førende maskinlæringskonferencer.

Dog har The AI Scientist betydelige begrænsninger, herunder inden for idéudvikling, implementering, citering og fortolkning af resultaterne. Artiklerne bør derfor ses som forslag til idéer snarere end færdige forskningsbidrag.

STUK arbejder på at udgive anbefalinger om brugen af generativ AI i undervisningen

Fredag d. 16. august var der møde i Styrelsen for Undervisning og Kvalitet, hvor en række personer var inviteret med i en referencegruppe for at komme med input til, hvordan man kan arbejde med og informere om generativ AI i gymnasieskolen og i grundforløbet på EUD.

Formålet er at udarbejde en række anbefalinger om generativ AI, ligesom STUK tidligere udgav anbefalinger om skærmbrug.

Det forventes, at de kommende anbefalinger lanceres senere på året.

Omfattende database kortlægger risici ved kunstig intelligens

I en ny artikel, The AI Risk Repository, samler og kategoriserer forskere fra MIT 777 forskellige risici forbundet med kunstig intelligens i en database. Det er en ret omfattende taksonomi af AI-risici baseret på en systematisk gennemgang af 43 eksisterende klassificeringer og ekspertvurderinger. Formålet med databasen er at skabe et fælles udgangspunkt for dermed bedre at forstå, hvordan man kan håndtere trusler fra AI.

Artiklen opdeler risiciene i to hovedkategorier: en årsagstaksonomi, der undersøger, hvordan og hvornår risiciene opstår, og en domænetaksonomi, der klassificerer risiciene i syv overordnede domæner såsom diskrimination, privatliv og sikkerhed, misinformation og samfundsmæssige skader. Hvert af disse domæner rummer yderligere 23 underkategorier, der dækker alt fra uretfærdig diskrimination til miljømæssig skade.

På forskernes hjemmeside kan man downloade en kopi af databasen i Google Sheets, så studerende, undervisere og forskere selv kan dykke ned i de mange tekniske og etiske aspekter af AI-risici.

Elon Musk lancerer Grok-2

Elon Musks firma xAI lancerede i sidste uge Grok-2 og Grok-2 mini på det sociale medie X. Grok-2 byder på avanceret billedgenerering, som nu er tilgængelig for X’s Premium- og Premium+ brugere – dog er Grok-2 endnu ikke tilgængelig i Danmark.

Det ser dog ud til, at Grok-2 ikke er helt uden skævheder. Efter lanceringen er der nemlig kommet en bølge af brugergenererede billeder, som udfordrer vores opfattelse af, hvad vi kan stole på i mediebilledet. Især har Grok-2 tilsyneladende meget få begrænsninger, når det handler om generering af politisk indhold, hvilket vækker bekymring for potentiel misinformation, især op til det kommende amerikanske præsidentvalg. Samtidig er det uklart, om de AI-genererede billeder indeholder metadata, som kan afsløre deres oprindelse.

For at illustrere nogle af de problematiske sider ved Grok-2 har vi samlet en række billeder og opslag, der viser modellens potentiale for misbrug (vi har selv tilføjet vandmærker på alle billederne).

Man kan læse mere om lanceringen af Grok-2 her:

KU-undervisere skeptiske overfor AI som undervisningsværktøj

En undersøgelse blandt undervisere på Københavns Universitet viser, at to ud af tre ikke ønsker AI som en del af undervisningen. Selvom mange anser AI-drevet undervisning som en realistisk udvikling, frygter de, at det vil gå ud over kvaliteten. I stedet ser de AI som en teknologi, de ikke har kontrol over, og som primært vil gavne administrative funktioner uden at forbedre læringsmiljøet. Underviserne ønsker derfor mere tid til direkte kontakt med studerende og en fortsat vægt på kritisk tænkning.

Undersøgelsen er en del af et digitaliseringsprojekt på KU, der sætter fokus på AI’s rolle i fremtidens uddannelse. Danielle Hagood, postdoc på KU, understreger, at hvis AI skal implementeres, bør det ske med refleksion og dialog, så universitetet ikke utilsigtet ender med modstridende mål og værdier.

Ny Podcast-Serie: AI med et menneskeligt ansigt

I podcasten AI med et menneskeligt ansigt diskuterer værterne, hvordan AI kan integreres i undervisningen på danske SOSU-skoler.

Podcasten adresserer både potentialer og udfordringer ved at bruge AI, herunder behovet for at være kildekritisk og sikre, at teknologien anvendes på en pædagogisk korrekt måde. Lars Jørgensen deler konkrete eksempler, såsom et pilotprojekt med Gyldendal, hvor en AI-chatbot skal støtte elever i at forstå fagligt materiale, samt projekter, der sigter mod at hjælpe tosprogede elever. Slutteligt understreges det, at AI bør ses som et ekstra redskab i lærernes værktøjskasse, og at man bør være både kritisk og undersøgende i sin tilgang til teknologien.

Lyt til podcasten herunder:

Podcast: Malthe Stavning Erslev om kunstig intelligens i undervisningen

VIA Uddannelsesakademi har besøg af p.hd Malthe Stavning Erslev til en samtale om kunstig intelligens og dens rolle i undervisningen. Erslev beskriver AI som et forsøg på at simulere og automatisere kognition, men påpeger, at teknologien stadig er tæt forbundet med menneskelig indsats, både i dens udvikling og anvendelse. Erslev fremhæver, at AI i uddannelsessektoren kan tilbyde nye måder at arbejde med viden på, især gennem brug af AI som en djævlens advokat, der kan stille kritiske spørgsmål og udfordre implicitte antagelser i tekster. Denne tilgang kan gøre AI til en værdifuld refleksionspartner frem for blot en optimerings- eller snydemaskine. Han opfordrer undervisere til at se AI som et håndværk, der kræver forståelse og træning, hvis det skal integreres meningsfuldt i undervisningen.

Lyt til podcasten herunder: