Ugens nyheder: AI - banebrydende teknologi eller intellektuel sovepude?

Ugens udvalgte nyheder om undervisning og generativ AI er nu klar, og der er mange spændende artikler at læse. Vi er meget bevidste om, at vores nyhedsbreve kan være lidt lange, men vi vil gerne give et grundigt indblik i de ting, der sker.

På de videregående uddannelser har kunstig intelligens allerede gjort sit indtog, men i en artikel i Berlingske fremhæver Just Kjærgård Pedersen, at de studerende, der bruger AI, ofte har svært ved at huske fagbegreber.

Det står lidt i kontrast til, at en ny undersøgelse fra Djøf viser, at mange studerende bruger AI som en fast del af deres studier. Og samtidig med at brugen af AI-værktøjer som ChatGPT stiger markant, er der mange studerende, som savner klare retningslinjer for, hvordan de kan bruge AI i deres studier og til eksamen.

Der er også en voksende bekymring for, at kunstig intelligens kan føre til intellektuel dovenskab ved at tilbyde hurtige svar på komplekse spørgsmål. En mulig løsning kan være, at sprogmodellerne fungerer mere som undervisere og fokuserer på vejledning, hvilket kræver en pædagogisk tilpasning af AI-modellerne.

Det helt store spørgsmål er imidlertid, om disse teknologier virkelig er så revolutionerende inden for undervisning, eller om deres indflydelse i virkeligheden er begrænset.

I Tyskland har de netop vedtaget nye anbefalinger om brugen af kunstig intelligens i skolen, der på mange måder ligner de danske anbefalinger fra Ekspertgruppen om ChatGPT og andre digitale hjælpemidler. Tyskerne har dog et bredere fokus på hele uddannelsessystemet, men begge anbefalinger understreger behovet for, at AI skal understøtte læringen uden at erstatte den menneskelige interaktion.

I mellemtiden stiger indholdet af AI-genererede tekster på Wikipedia, hvilket resulterer i indhold af lavere kvalitet og færre kilder.

+ Ugens andre nyheder.

God læsning.

Kunstig intelligens påvirker allerede undervisningen på de videregående uddannelser

Just Kjærgård Pedersen, associate professor ved Cphbusiness, har i sin forskning undersøgt kunstig intelligens' indflydelse på undervisningen på de videregående uddannelser. I en artikel i Berlingske giver han udtryk for, at AI ikke vil gøre faglighed overflødig, men advarer samtidig om, at det kan skabe en kløft mellem læring og praksis.

Just Kjærgård Pedersen fremhæver, at studerende, der bruger AI til at løse opgaver, ofte har sværere ved at huske fagbegreber, selv om opgaverne løses hurtigere. Dette indikerer, at brugen af AI ikke nødvendigvis resulterer i en dybere forståelse af stoffet. Han drager en parallel til forskellen mellem at læse e-bøger og fysiske bøger, hvor e-bøger ofte læses hurtigere, men resulterer i dårligere hukommelse.

Han betragter ikke et forbud mod AI som en farbar vej, men mener derimod, at undervisningen bør fokusere på at lære de studerende, hvordan de kan bruge AI på en hensigtsmæssig måde.

Læs artiklen hos Berlingske:

Djøf-undersøgelse: Markant stigning i brugen af AI blandt de studerende

En ny undersøgelse fra Djøf viser, at to tredjedele af de studerende har anvendt AI-værktøjer som ChatGPT i forbindelse med deres studier, hvilket er en markant stigning fra sidste år. Samtidig har 36 % brugt AI til eksamen – næsten en fordobling fra året før. De studerende bruger primært AI som en søgemaskine, til at få forklaret svært stof og som hjælp til korrekturlæsning og oversættelser.

Læs undersøgelsen her:

Djøf: Enorm fremgang i andelen af studerende, som anvender kunstig intelligens på deres studie

Læs mere i undersøgelsen

Hent undersøgelsen her

Studerende efterspørger klare retningslinjer for brugen af AI på universiteterne.

En ny artikel i Information sætter fokus på den stigende anvendelse af kunstig intelligens på de danske universiteter. Flere og flere studerende bruger AI-værktøjer som ChatGPT i deres studier, og universiteterne tillader nu i højere grad brugen af AI til eksamener. Men er de studerende klædt godt nok på til fremtidens arbejdsmarked?

På trods af den øgede brug af AI oplever mange studerende, at der mangler klare retningslinjer fra universiteterne. Ifølge undersøgelsen mener under halvdelen af de adspurgte, at deres uddannelse har klare regler for, hvordan AI må anvendes til eksamen. Desuden føler over halvdelen, at de ikke har modtaget tilstrækkelig undervisning eller vejledning i brugen af AI, hvilket vækker bekymring.

Universiteterne anerkender behovet for løbende at justere retningslinjerne for brugen af AI, men ifølge flere studerende er der stadig forvirring omkring, hvornår og hvordan AI må anvendes. På SDU er det for eksempel tilladt at bruge AI til skriftlige hjemmeopgaver, men ikke til skriftlige stedprøver eller mundtlige eksamener, hvilket skaber usikkerhed. Der er et øget behov for vejledning, og universiteterne står over for en udfordring i at sikre, at de studerende er tilstrækkeligt forberedt på den teknologiske virkelighed, der venter dem efter studierne. Som Helle Waagepetersen, prorektor på SDU, understreger, er det universiteternes ansvar at klæde de studerende på med de nødvendige kompetencer, herunder i brugen af kunstig intelligens.

Kunstig intelligens og intellektuel dovenskab: Hvordan finder man balancen?

Cathrine Felix diskuterer i en artikel på Salongen, hvordan kunstig intelligens som ChatGPT kan føre til intellektuel latskap (dovenskab) ved at tilbyde hurtige løsninger, der frister os til at vælge den nemmeste vej. Hun peger på, at mennesker naturligt søger at spare energi, både fysisk og mentalt, hvilket kan føre til overfladisk tænkning og manglende evne til at fordybe sig i komplekse opgaver. Teknologier som ChatGPT kan forstærke denne tendens ved at levere færdige svar, hvilket kan risikere at svække vores evne til at tænke kritisk og selvstændigt.

Samtidig advarer hun mod, at effektivitet og multitasking kan forveksles med intellektuel styrke. Selvom unge kan jonglere mange opgaver hurtigt, kan det føre til, at de mister evnen til dyb forståelse og langvarig refleksion. Hun fremhæver vigtigheden af intellektuel udholdenhed, som kræver tid og indsats, og som kan risikere at blive undermineret af teknologiske genveje. For at opretholde en sund balance opfordrer Felix til, at vi bruger AI som et redskab til støtte og ikke som en erstatning for vores egen mentale indsats.

Læs hele artiklen her:

Forbedring af AI til undervisning gennem pædagogisk tilpasning

I en ny artikel undersøger forskere, hvordan AI-modeller kan blive bedre til undervisning ved at hjælpe eleverne gennem vejledning i stedet for blot at give hurtige svar. Dette kalder de for pedagogical alignment (pædagogisk tilpasning) og handler om at få modellerne til at opføre sig mere som gode undervisere. Samtidig foreslår forskerne en ny fremgangsmåde, hvor man skaber et omfattende datasæt ved hjælp af teknikker til at generere syntetiske data.

Forskerne har brugt en metode, hvor AI-modeller som Llama og Mistral trænes til at lære af menneskelige præferencer. Dette gør dem bedre til at dele komplekse problemer op i mindre dele og hjælpe eleverne trin for trin.

Billedet viser forskellen mellem en traditionel LLM, der giver et direkte svar, og en pædagogisk tilpasset LLM, der guider eleven gennem delproblemer for at nå frem til løsningen. Dette illustrerer pædagogisk tilpasning, hvor fokus er på vejledning frem for blot at give svaret.

Studiet viser, at denne træning gør AI-modellerne mere effektive som læringsværktøjer. Samtidig har forskerne udviklet nye måder at måle, hvor godt AI-modellerne understøtter læringsprocessen.

Læs artiklen her:

Pedagogical Alignment of Large Language Models

Large Language Models (LLMs), when used in educational settings without pedagogical fine-tuning, often provide immediate answers rather than guiding students through the problem-solving process. This approach falls short of pedagogically best practices and limits their effectiveness as educational tools. We term the objective of training LLMs to emulate effective teaching strategies as `pedagogical alignment.′ In this paper, we investigate Learning from Human Preferences (LHP) algorithms to achieve this alignment objective. A key challenge in this process is the scarcity of high-quality preference datasets to guide the alignment. To address this, we propose a novel approach for constructing a large-scale dataset using synthetic data generation techniques, eliminating the need for time-consuming and costly manual annotation. Leveraging this dataset, our experiments with Llama and Mistral models demonstrate that LHP methods outperform standard supervised fine-tuning (SFT), improving pedagogical alignment accuracy by 13.1% and 8.7% respectively. Existing evaluation methods also lack quantitative metrics to adequately measure the pedagogical alignment of LLMs. To address this gap, we propose novel perplexity-based metrics that quantify LLMs’ tendency to provide scaffolded guidance versus direct answers, offering a robust measure of pedagogical alignment. Our analysis provides compelling evidence for the superiority of LHP methods over SFT in optimizing LLMs’ behavior, underscoring the potential of LHP methods in better aligning LLMs with educational objectives and fostering effective learning experiences. Code and models are available \href{https://github.com/luffycodes/Tutorbot-Spock}{here}.

arXiv.orgShashank Sonkar

Er ChatGPT, Claude og NotebookLM virkelig en revolution inden for uddannelse?

Dr. Philippa Hardman har undersøgt, om AI-værktøjer som ChatGPT 4o, Claude 3.5 og NotebookLM reelt understøtter læring, eller om deres indflydelse er mere begrænset, end vi tror. Hendes forskning fokuserer på, hvordan disse værktøjer formidler information, hvad de udelader, og hvordan de strukturerer indholdet.

Resultaterne viser, at mens værktøjerne er gode til at opsummere komplekst indhold, forenkler de ofte informationen og udelader vigtige detaljer som forskningsstudier og praktiske eksempler. ChatGPT og Claude kan være et godt udgangspunkt, men kræver, at man supplerer med mere dybdegående læsning. NotebookLM er velegnet til hurtige overblik, men mangler akademisk dybde, især i sin podcast-funktion.

Hun konkluderer derfor, at selvom AI-værktøjer gør viden mere tilgængelig, er de endnu ikke egentlige “læringsværktøjer”. For at understøtte ægte læring skal de implementere pædagogiske metoder som gentagen gennemgang af viden (“spaced repetition”) og aktiv genkaldelse, hvor brugeren selv husker information. De skal også udfordre brugerne med øget kompleksitet, hvilket er vigtigt for dybere forståelse.

Samlet set kan AI-værktøjer hjælpe os i starten af læringsprocessen, men den virkelige læring kræver stadig aktiv deltagelse fra os mennesker.

Tysk ministerkonference vedtager anbefalinger for kunstig intelligens i skolen

Den tyske Undervisningsministerkonference (Bildungs-MK) har vedtaget en række anbefalinger for den tyske uddannelsessektor vedrørende brugen af kunstig intelligens i uddannelse. Anbefalingerne har til formål at give skolerne mulighed for at have en konstruktiv og kritisk tilgang til AI, samtidig med at potentialet ved disse teknologier udnyttes til læring og undervisning.

Anbefalingerne bygger videre på de tyske delstaters undervisningsministerkonference (KMK) tillægspapir Undervisning og læring i den digitale verden.

Anbefalingerne dækker flere centrale områder:

AI’s indflydelse på læring og didaktik: AI-applikationer kan understøtte lærere og skabe et personligt læringsmiljø, der tager hensyn til den enkelte elevs behov.
Ændring af evalueringskultur: KMK anbefaler en tilpasning af evalueringsformer for at tage højde for kompetencer i brugen af AI og sikre, at præstationsvurderinger er gennemsigtige og fair.
Kompetenceudvikling for lærere: Uddannelse og efteruddannelse af lærere bør integrere brugen af AI for at kunne vurdere mulighederne og risiciene ved disse teknologier.
Regulering og juridiske rammer: KMK foreslår klare lovkrav, der beskytter elevernes personlige rettigheder og samtidig fremmer brugen af AI-applikationer i skolesammenhæng.
Lige muligheder: Alle elever bør have mulighed for at udvikle kompetencer i brugen af AI, så de kan agere som oplyste borgere i en verden præget af digitalisering.

Anbefalingerne bygger på forarbejde fra delstaterne og inddrager videnskabelig ekspertise, og de repræsenterer delstaternes fælles holdning til håndtering af AI-applikationer i skoleundervisningen. I anbefalingerne understreges også, at AI-værktøjer ikke må erstatte den vigtige menneskelige interaktion i undervisningen, men snarere skal understøtte og supplere læringsprocessen.

Læs mere her:

Øget brug af AI-genereret indhold på Wikipedia

En undersøgelse fra Princeton University viser en markant stigning i AI-genereret indhold på Wikipedia, især efter udgivelsen af GPT-3.5 i 2022. Forskerne brugte to værktøjer til at opdage AI-indhold – GPTZero og Binoculars – og fandt, at over 5 % af de nye engelske Wikipedia-artikler i august 2024 indeholdt AI-genereret tekst. I andre sprog som tysk, fransk og italiensk var andelen lavere, men stadig betydelig.

Artikler, der blev markeret som AI-genererede, viste sig ofte at være af lavere kvalitet, med færre kilder og mindre integration i Wikipedia-netværket. Desuden blev en del af disse artikler brugt til selvpromovering eller til at skubbe bestemte politiske dagsordener. Forskerne bemærkede også, at AI-drevne oversættelser skabte yderligere udfordringer, da de kunne sprede fejl og bias mellem sprog.

The Rise of AI-Generated Content in Wikipedia

The rise of AI-generated content in popular information sources raises significant concerns about accountability, accuracy, and bias amplification. Beyond directly impacting consumers, the widespread presence of this content poses questions for the long-term viability of training language models on vast internet sweeps. We use GPTZero, a proprietary AI detector, and Binoculars, an open-source alternative, to establish lower bounds on the presence of AI-generated content in recently created Wikipedia pages. Both detectors reveal a marked increase in AI-generated content in recent pages compared to those from before the release of GPT-3.5. With thresholds calibrated to achieve a 1% false positive rate on pre-GPT-3.5 articles, detectors flag over 5% of newly created English Wikipedia articles as AI-generated, with lower percentages for German, French, and Italian articles. Flagged Wikipedia articles are typically of lower quality and are often self-promotional or partial towards a specific viewpoint on controversial topics.

arXiv.orgCreston Brooks