Ugens nyheder: Sprogmodeller bliver mere overbevisende

Velkommen til denne uges AI-nyhedsbrev for uddannelsessektoren. I denne uge kan du blandt andet læse om:

En ny artikel fra Nature viser, at store sprogmodeller som ChatGPT ofte giver velformulerede, men forkerte svar, især på komplekse spørgsmål.
Vallensbæk Kommune lancerer som den første danske kommune retningslinjer for brug af generativ AI i folkeskolen.
OpenAI har lanceret en ny funktion i ChatGPT kaldet "Canvas", der gør det nemmere at redigere genereret tekst og kode.
En mangeårig underviser har sagt op pga. stigende brug af AI-værktøjer blandt de studerende.
Ove Christensen har skrevet en interessant artikel, der diskuterer bias i generativ AI og konsekvenserne for læring.
Projektet "Donér din stemme" indsamler stemmedata fra danske borgere for at forbedre AI's forståelse af det danske sprog i al dets mangfoldighed, inklusive dialekter og accenter.
+ Vi har også links til andre spændende artikler som vi ikke havde plads til at skrive om.

God læsning!

Sprogmodeller kan give fejlagtige, men overbevisende svar

En artikel, der netop er blevet offentliggjort i Nature, viser, at AI-modeller som ChatGPT ofte leverer velformulerede, men forkerte svar, især på komplekse spørgsmål. Denne tendens, kaldet “ultracrepidarianisme”, er blevet mere udtalt, efterhånden som AI-modellerne er blevet større og mere komplekse. En stor udfordring er, at sprogmodellerne trænes med menneskelig feedback, hvor de straffes for at svare “jeg ved det ikke”. Dette får modellerne til at gætte sig frem og præsentere troværdige, men fejlagtige svar i stedet.

Studiet viste også, at ChatGPT var den model, der bedst kunne narre folk til at tro, at dens forkerte svar var korrekte, især inden for videnskab og geografi. Den hurtige udvikling af sprogmodeller og deres brug af store mængder data har gjort dem mere overbevisende, men også mere tilbøjelige til at “lyve”, når de står over for svære spørgsmål. Forskere foreslår, at en mulig løsning kunne være at lade AI’er indikere deres usikkerhed mere tydeligt eller bruge separate AI-systemer til at tjekke for vildledende svar.

Læs artiklen herunder:

Vallensbæk Kommune lancerer retningslinjer for AI i undervisningen

Vallensbæk Kommune har som den første kommune i Danmark indført officielle retningslinjer for brugen af kunstig intelligens i folkeskolen. Retningslinjerne, der fylder 17 sider, dækker en bred vifte af emner, såsom teknologiforståelse, snyderi og miljøpåvirkninger forbundet med AI. Digitaliseringskonsulent Christoffer Dithmer fortæller til folkeskolen.dk, at et centralt mål har været at støtte lærerne i at anvende AI ansvarligt samt at give klare rammer for, hvad der er tilladt, og hvad der ikke er. For eksempel må elever aldrig aflevere AI-genereret tekst som deres eget arbejde, men de opfordres til at bruge AI som en sparringspartner, hvor de også kan inddrage deres chat-historik i opgaverne.

Skoleledere og lærere fra kommunen udtrykker stor tilfredshed med de nye retningslinjer, da de længe har manglet klare vejledninger for, hvordan AI kan integreres i undervisningen. Retningslinjerne vil være et vigtigt redskab til at sikre en ensartet tilgang på tværs af skolerne, så både lærere og elever får de samme muligheder for at bruge teknologien på en forsvarlig og pædagogisk meningsfuld måde.

Man kan hente retningslinjerne her (folkeskolen.dk)

Ny funktion i ChatGPT gør det nemmere at redigere tekst og kode

OpenAI har lanceret en ny funktion i ChatGPT kaldet “Canvas”, hvor brugeren nu kan redigere genereret tekst og kode i et separat redigeringsvindue. I Canvas kan man fremhæve specifikke dele af en tekst eller kode for at få mere præcise feedbackforslag fra ChatGPT. I Canvas er der også tilføjet en række genveje, der hjælper med at rette grammatik, ændre tekstens længde eller forbedre læsbarheden. Hvis det drejer sig om programmering, er der specifikke funktioner til fejlretning, automatisk generering af kommentarer til koden samt oversættelse til andre programmeringssprog.

Canvas er i øjeblikket i beta og kun tilgængelig for betalende brugere af ChatGPT, men det forventes, at det senere bliver frigivet til alle brugere.

Underviser siger op på grund af ChatGPT

Victoria Livingstone har i næsten 20 år undervist i skrivning og sprog, men hun har nu valgt at opsige sin stilling. Hovedårsagen er den stigende brug af AI-værktøjer som ChatGPT, der ændrer, hvordan studerende tilgår opgaven med at skrive akademiske tekster. Skrivning er en vigtig del af den intellektuelle proces, hvor tanker formes og udvikles gennem arbejdet med sproget. Men mange af hendes studerende, også på ph.d.-niveau, er begyndt at lade AI skrive deres artikler eller bruge AI til at omformulere deres arbejde.

“Using ChatGPT to complete assignments is like bringing a forklift into the weight room; you will never improve your cognitive fitness that way.” - Ted Chiang

Victoria Livingstone har forsøgt at integrere AI i undervisningen ved at vise dets begrænsninger og opfordre til kritisk tænkning. Alligevel oplevede hun, at de fleste studerende stadig valgte den nemme løsning, hvilket betød, at de gik glip af muligheden for at fordybe sig i deres emner og udvikle deres egne stemmer. Hun skriver, at de studerende, med få undtagelser, ikke var villige til at fordybe sig i de krævende skriveprocesser og blive der længe nok til at opdage, hvor meget man kan lære gennem skrivning. Da hun til sidst brugte mere tid på at give feedback på AI-genererede tekster end på sine studerende, besluttede hun at opsige sin stilling.

Læs hendes tankevækkende artikel nedenfor:

Bias i generativ AI og konsekvenser for læring

Ove Christensen diskuterer i sit indlæg, hvordan generativ AI (GenAI) påvirker læring på videregående uddannelser. Her fremhæver han, at AI-systemer som store sprogmodeller genererer ord uden indre mening, hvilket skaber en afstand til den menneskelige måde at bruge sprog på, hvor konteksten er afgørende. Dette har flere konsekvenser for læringsprocessen, hvor især tre former for bias er væsentlige

Automatiseringsbias: tendensen til at stole for meget på teknologi og automatiserede systemer.
Bekræftelsesbias: tendensen til at søge efter information, der bekræfter ens eksisterende overbevisninger.
Forenklingsbias: tendensen til at reducere komplekse emner til simplificerede versioner, hvilket kan føre til tab af nuancer og forståelse.

Disse former for bias kan medføre, at studerende bliver for afhængige af AI-assistance, hvilket kan hæmme deres dybdelæring og evne til at forstå komplekse fagområder.

Han beskriver, hvordan GenAI fungerer som en “exohjerne”, der kan øge produktiviteten, men også risikerer at hæmme dybdelæring. Studerende kan forledes til at tro, at de forstår et emne, når de i virkeligheden kun har en overfladisk forståelse. Christensen mener derfor, at det er nødvendigt med et pædagogisk skifte, hvor undervisningsaktiviteter designes til at understøtte kognitive processer og dyb læring, så AI bliver et redskab, der fremmer forståelse frem for at erstatte den.

Læs hele Oves Christensens artikler her:

Donér din stremme

Projektet Donér din stemme opfordrer danske borgere til at donere deres stemme ved at højtlæse korte tekststykker. Disse stemmedata vil blive tilgængelige på Open Data DK, hvor de kan bruges til at forbedre AI’s evne til at forstå dansk sprog i al dets mangfoldighed, inklusive forskellige dialekter og accenter. Dette er særligt vigtigt, da mange nuværende stemmeteknologier har svært ved at forstå dialekter og nuancer i det danske sprog, hvilket skaber udfordringer for dem, der bruger disse teknologier til kommunikation med offentlige myndigheder og andre digitale services.

Læs mere om projektet på deres hjemmeside:

Donér din stemme – Åbent datasæt kan bidrage til sprogtræning af AI

Datopian