Ugens nyheder: Fra AI-begejstring til fiktive kilder
ChatGPT opfinder kilder og foreslår skolelukninger i Norge. Elon Musk har lanceret et såkaldt leksikon fyldt med propaganda. Alligevel jubler ingeniørerne over deres nye AI-kollega, og nu skal dansk forskning finde ud af, om vi bliver klogere eller dummere af AI-hjælpen.
Indholdsfortegnelse
Hermed det nyeste nyhedsbrev, hvor vi skriver om de vigtigste nyheder, artikler og opslag inden for kunstig intelligens i undervisningen. Vi har fokus på både muligheder og udfordringer ved teknologien, mens vi selv tester og undersøger, hvad der giver mening for os.
Vi er heller ikke de eneste, der er nysgerrige. En ny stor undersøgelse fra IDA viser, at tre ud af fire ingeniører allerede bruger AI. Det er interessant, at over halvdelen oplever øget arbejdsglæde ved at samarbejde med AI. I undersøgelsen advarer forsker Nanna Inie om, at man risikerer at overse, at kvaliteten af arbejdet falder.
Hvis man stoler blindt på AI, kan det give store problemer. For eksempel er der i Norge i øjeblikket en reel AI-skandale, fordi en kommune brugte ChatGPT til at foreslå skolelukninger baseret på fiktive kilder. Samtidig viser et stort internationalt studie fra BBC og EBU, at AI-assistenter giver fejlagtige svar i hele 45 % af tilfældene. Som om det ikke var nok, har Elon Musk lanceret "Grokipedia", der mere ligner en propagandamaskine end et leksikon.
Alt dette betyder, at det er endnu vigtigere, at vi undersøger, hvad AI gør for vores fag og faglighed og hjælper eleverne med at navigere i denne jungle af informationer, der er forklædt som troværdig viden.
Netop derfor er ugens vigtigste danske nyhed, at Styrelsen for Undervisning og Kvalitet (STUK) nu igangsætter et større nationalt evalueringsprojekt om AI i alt fra studieretningsopgaven til danskundervisningen.
Mens vi venter på forskningsresultaterne, fortsætter kampen om fagligheden ude på skolerne. Ifølge historiker Jason Resnikoff er AI en direkte trussel mod lærerfagligheden, som kan føre til mere standardisering og skjult merarbejde. Samtidig skriver Brian Stevn Hansen i Gymnasieskolen, at vi nu skal fokusere på spørgsmålet om, hvorfor elever overhovedet skal skrive, men også på, hvordan de finder deres egen stemme.
Som et positivt eksempel faldt vi også over en historie fra USA, hvor professor Dan Sarofian-Butin viser, hvordan han har succes med at bruge AI som en medunderviser for at styrke de studerendes kritiske tænkning.
Det leder mig direkte videre til ugens kommentar, hvor jeg reflekterer over STUKs nye evalueringsprojekt.
Her er ugens tre centrale pointer.
- Begejstring er ikke det samme som kvalitet
En ny undersøgelse fra IDA viser stor arbejdsglæde og udbredt brug af AI blandt ingeniører. Samtidig advarer forskere om, at kvaliteten af arbejdet kan være i fare. - Systematisk upålidelighed er en realitet
Troværdigheden af AI er grundlæggende udfordret. Det ses i den norske kommuneskandale, hvor skolelukninger blev foreslået på baggrund af fiktive kilder, og i et stort studie fra BBC og EBU, som afslører en fejlrate på 45 procent i AI-assistenters nyhedsformidling. - Behovet for viden frem for gætværk
Lanceringen af STUKs store nationale evalueringsprojekt er et afgørende skridt mod at skabe et solidt dansk vidensgrundlag om AI i undervisningen.
God læselyst med nyhedsbrevet.
IDA-medlemmer omfavner AI
En ny undersøgelse blandt medlemmer af Ingeniørforeningen i Danmark (IDA) viser stor opbakning til brugen af AI på arbejdspladsen. 74 procent bruger allerede AI, og næsten halvdelen gør det dagligt. Over halvdelen oplever øget arbejdsglæde, og mange fremhæver også forbedringer i kreativitet, kritisk tænkning og faglige evner.
Det overrasker dog forskeren Nanna Inie, at så mange vurderer, at AI generelt forbedrer kvaliteten af deres arbejde, da andre studier viser det modsatte.
Undersøgelsen afslører også en generationsforskel, hvor de yngste medlemmer under 30 år er mere skeptiske over for AI’s indflydelse på kreativitet og kritisk tænkning end de ældre. Samtidig bekymrer de sig i højere grad over klima- og miljøpåvirkningen. Nanna Inie tolker det som et udtryk for, at de yngre forstår AI’s styrke og kompleksitet og derfor møder teknologien med en sund skepsis.
Af Gertrud Damgaard
Danmark er ikke klar til at anvende AI i beslutningsprocesser
Djøfbladet skriver om en sag fra Tromsø Kommune i Norge, hvor kunstig intelligens blev brugt til at udarbejde en rapport, der foreslog at lukke otte skoler. Det viste sig, at rapporten byggede på fiktive kilder, og at en kommunal medarbejder havde brugt ChatGPT i udarbejdelsen. En ekstern undersøgelse konkluderede, at kommunen ikke var klar til at bruge kunstig intelligens. Sagen har vakt bekymring i Danmark, hvor politikerne ellers har et mål om at blive førende i brugen af kunstig intelligens i det offentlige og spare 30.000 årsværk inden 2035.
Rolf Lyneborg Lund, der er ekstern lektor ved Aalborg Universitet, advarer i Djøfbladet om, at noget lignende let kunne ske i Danmark. Han påpeger, at modeller med kunstig intelligens ofte tillægges for stor autoritet, selv om brugerne ikke nødvendigvis forstår deres begrænsninger. Det kan føre til fejlagtige beslutninger, især hvis kunstig intelligens anvendes i komplekse problemstillinger, hvor den ikke er egnet.
Julius Krause
Udbredte fejl i AI-assistenters formidling af nyheder
Et omfattende internationalt studie, som er koordineret af European Broadcasting Union (EBU) og ledet af BBC, viser, at der er markante fejl i måden, hvorpå AI-assistenter formidler nyhedsindhold.
De har undersøgt 22 public service-medier fra 18 lande og evalueret over 3.000 svar fra ChatGPT, Copilot, Gemini og Perplexity. Resultatet viser, at 45 procent af alle svar indeholdt mindst ét væsentligt problem. Blandt de mest udbredte fejl var manglende eller vildledende kildehenvisninger (31 %), unøjagtigheder (20 %) samt en fejlagtig adskillelse af fakta og holdninger.
Undersøgelsen suppleres af et såkaldt “toolkit”, som skal hjælpe både udviklere og brugere med at identificere og forbedre svar fra AI-assistenter.
Samtidig opfordrer EBU EU og nationale myndigheder til at sikre, at gældende lovgivning om informationskvalitet og mediemangfoldighed håndhæves. Der arbejdes nu på at fortsætte monitoreringen fremadrettet, da udviklingen inden for AI går meget hurtigt.
Hent de to rapporter her:
Tania Andersen
Grokipedia lanceret som AI-alternativ til Wikipedia
Elon Musks AI-firma xAI har lanceret Grokipedia, en ny AI-drevet onlineencyklopædi, der ifølge Musk skal fungere som et alternativ til Wikipedia med mindre “propaganda”. Grokipedia benytter AI til at generere lange leksikale artikler, men flere opslag er præget af højreorienterede synspunkter og kontroversielle påstande – især om emner som race, kønsidentitet og medier.
Flere af opslagene afviger fra etableret viden og videnskabelig konsensus. Eksempelvis fremføres det fejlagtigt, at porno forværrede AIDS-epidemien, og at sociale medier muligvis bidrager til en stigning i antallet af transpersoner.
Platformen er også kritisk over for etablerede medier som CNN, The New York Times og Wired, der i opslagene beskrives som venstreorienterede og ideologisk forudindtagede.
Reece Rogers
Ny evaluering skal kortlægge brugen af AI i gymnasiet
Center for Gymnasie- og Erhvervsuddannelsesforskning ved Syddansk Universitet igangsætter et evalueringsprojekt, der undersøger forsøg med brug af generativ AI i undervisning og vurdering i gymnasiesektoren.
Baggrunden er en anbefaling fra april 2024 om at integrere AI-værktøjer i undervisning og evaluering i ungdomsuddannelserne – dog med en erkendelse af, at konkret viden om det praktiske “hvordan” stadig mangler.
Projektet omfatter fire konkrete forsøg:
- Brug af generativ AI i studieretningsopgaven i 2.g på STX.
- Synopsis i Samfundsfag A på STX med generativ AI.
- Portfolioer med og uden generativ AI i Dansk på STX og HHX.
- Standpunktskarakterer i fagene Biologi B, Fysik B, Kemi B og Naturgeografi B på STX og HTX.
Evalueringen kombinerer kvalitative og kvantitative metoder for at skabe robust viden om, hvordan AI-værktøjer faktisk påvirker undervisnings- og vurderingspraksis.
Projektteamet består bl.a. af chefkonsulent Anne Bang-Larsen, ph.d.-studerende Tina Warming Thisgaard, videnskabelig assistent Alex Alonso Dalbøl og centerleder, professor Ane Qvortrup.
Center for Gymnasie- og Erhvervsuddannelsesforskning
AI kan true lærerfagligheden og skabe mere arbejde
Gymnasieskolen har i en ny artikel talt med den amerikanske historiker Jason Resnikoff, som advarer mod ukritisk brug af kunstig intelligens i undervisningen. Resnikoff, som forsker i teknologiens betydning for arbejdslivet, mener, at kunstig intelligens kan underminere lærerens rolle og faglighed, hvis ikke lærere og fagforeninger tager styringen.
Han deltog for nylig i en lærerkonference i København, hvor han advarede mod, at kunstig intelligens kan føre til mere skjult arbejde og øget standardisering, og ikke den lettelse, mange ellers håber på. Han ser en fare i, at platforme med kunstig intelligens primært bruges til dataindsamling og kontrol, og at undervisningen risikerer at blive tilpasset teknologien i stedet for omvendt.
Værktøjer med kunstig intelligens bliver ifølge Resnikoff ofte præsenteret som løsninger, der sparer tid, men i virkeligheden kræver de nye former for arbejde, som lærerne ikke bliver kompenseret for. Derudover frygter han, at elever mister faglig fordybelse, når de overlader tænkning og skrivning til kunstig intelligens.
Han opfordrer fagforeninger til at kræve indflydelse på, hvordan og hvornår kunstig intelligens må anvendes, og han efterlyser en form for rettighedserklæring for arbejdstagere i en tid præget af kunstig intelligens. Kunstig intelligens handler ikke bare om teknologi, men også om magt, og beslutninger om undervisning bør træffes af lærerne og ikke af administratorer eller teknologivirksomheder.
Tekst_ Martin Harvøe Kristensen Foto_ Privat
Elever skal ikke kun anvende AI, men også lære at udtrykke sig selv
I en kronik i Gymnasieskolen skriver Brian Stevn Hansen, at elever ikke blot skal lære at skrive for at producere korrekte tekster. De skal skrive for at blive bevidste afsendere, der kan udtrykke sig personligt og meningsfuldt i en verden præget af generativ AI.
Han stiller spørgsmålet: Hvorfor skal man overhovedet lære at skrive, når ChatGPT alligevel gør det bedre? Men som med at spille guitar handler det ikke kun om at være dygtig. Det handler også om udtryk, nærvær og deltagelse. Generativ AI kan hjælpe med formuleringer, men mangler det menneskelige aspekt, nemlig følelser, holdninger og erfaringer.
Hvis eleven kun agerer som forbruger af teknologi og ikke selv bliver en skabende aktør, går noget væsentligt tabt.
I kronikken peger han på, at den klassiske kommunikationsmodel fortsat er relevant, men at vægtningen bør flyttes fra fokus på budskab og modtager til et større fokus på afsenderen. Det er vigtigt, at elever lærer at stå frem som personer med en stemme og et synspunkt, også selvom deres tekster ikke er perfekte.
Tekst_ Brian Stevn Hansen Foto_ Privat
AI som medunderviser i universitetsundervisning i kritisk tænkning
Professor Dan Sarofian-Butin fra Merrimack College i USA har efter tre års forsøg fundet en ny måde at integrere AI i sin undervisning. I stedet for at betragte AI som en trussel mod læring, bruger han det nu aktivt som medunderviser i sit kursus “Ethics, Society & Identity”. Kurset beskæftiger sig med komplekse og kontroversielle emner som meritokrati, race og fattigdom. Hver uge skal hans studerende bruge AI til at udforske temaer gennem specifikke prompts og derefter reflektere over den efterfølgende dialog.
Ifølge Dan Sarofian-Butin har denne tilgang øget både engagement og dybdelæring. AI fungerer som en konstant tilgængelig, tålmodig og nysgerrig samtalepartner, der kan udfordre studerende intellektuelt. Det er ellers svært at sikre i store hold med op mod 100 studerende. Erfaringerne viser, at AI kan fremme kritisk tænkning ved at stille opfølgende spørgsmål og udfordre elevernes egne antagelser.
Dan Sarofian-Butin
Ugens kommentar: Vi bevæger os fra gætværk til viden
Når man læser vores nyhedsbrev, kan man blive overvældet af både negative og positive nyheder og artikler om AI i undervisningen. Vi linker til en del udenlandske undersøgelser og forsøger at sætte dem ind i en dansk kontekst. Samtidig er der mange undervisere, der eksperimenterer med AI i det daglige, både i det skjulte til at rette opgaver og i større regionale projekter.
En af de store udfordringer, som vi også adresserede i ekspertgruppen, er, at vi faktisk ikke ved nok om AI og undervisning. Vi ser techgiganter, der lover tidsbesparelser for lærerne, men oplever ofte det modsatte. Eleverne har nu deres egen AI-tutor, men ofte ser vi, at de ikke selv kan administrere den. Vi ved heller ikke, hvad det gør ved fagligheden, når AI påvirker det stof, vi underviser i. Der er også en tydelig automatiseringsbias i, at vi mennesker stoler for meget på teknologien, som vi så med sagen fra Norge.
I den danske uddannelsessektor hersker der nærmest vilde vesten-tilstande, hvor man enten er for eller imod AI. Sandheden er, at ingen af os rigtig ved, hvad der virker, og vi famler i blinde. Det er godt, at vi er nysgerrige, men nogle gange går det ud over elevernes læring, og vi risikerer at overtræde GDPR.
Derfor mener jeg også, at det er vigtigt, at vi nu endelig begynder at forske i, hvad der reelt sker, når AI integreres i studieretningsopgaven, i synopsis og i danskundervisningen. Dermed fjerner vi den mavefornemmelse, vi alle har for, hvad der virker, og bevæger os væk fra gætværk og lader ikke techgiganterne styre.
Min største bekymring er dog, om det kommer for sent, og om vi ender med at undersøge teknologien i dens nuværende form uden at forstå, hvordan teknologien ser ud om et år. Derfor skal evalueringsprojektet heller ikke være en engangsforestilling, men være kontinuerligt.