AI-hallucinationer er kommet for at blive, og det er et undervisningsproblem
AI’s upålidelighed gør det svært at anvende teknologien i undervisningen uden en kritisk forståelse og tydelig lærerinddragelse.
Indholdsfortegnelse
Jørgen Ulvan Moe, lektor i Vestfold Fylkeskommune, skriver i det norske Utdanningsnytt om et fundamentalt problem ved AI i uddannelse. Hallucinationer er ikke en midlertidig fejl men en permanent del af teknologien. Det virkelige problem er ikke de forkerte svar i sig selv, men det er, at alt for få både elever og lærere forstår, hvor systematisk problemet er.
Store sprogmodeller som ChatGPT er trænet til at producere sandsynlig tekst og ikke sandfærdig information. De genererer svar, der ligner fakta, uden at have nogen reel forståelse af, om indholdet faktisk er korrekt.
Derfor mener Jørgen Ulvan Moe at elever bør aldrig overlades alene med AI som informationskilde. I stedet bør vi behandle AI-output som et muligt udgangspunkt for videre undersøgelse og aldrig som endegyldig viden.
Flere forskere bakker op om behovet for kritisk AI-literacy. Mens metaanalyser viser små til moderate læringseffekter ved chatbot-brug, er forventningerne ofte urealistisk høje. Vi skal fokusere mindre på effektivitet og mere på kritisk og ansvarlig anvendelse.
Jørgen Ulvan Moe