Matomo

Ugens nyheder: Sprogmodeller bliver mere overbevisende – og mindre korrekte

· 10 min read
Ugens nyheder: Sprogmodeller bliver mere overbevisende – og mindre korrekte

Velkommen til denne uges AI-nyhedsbrev for uddannelsessektoren. I denne uge kan du blandt andet læse om:

God læsning!


Sprogmodeller kan give fejlagtige, men overbevisende svar

En artikel, der netop er blevet offentliggjort i Nature, viser, at AI-modeller som ChatGPT ofte leverer velformulerede, men forkerte svar, især på komplekse spørgsmål. Denne tendens, kaldet “ultracrepidarianisme”, er blevet mere udtalt, efterhånden som AI-modellerne er blevet større og mere komplekse. En stor udfordring er, at sprogmodellerne trænes med menneskelig feedback, hvor de straffes for at svare “jeg ved det ikke”. Dette får modellerne til at gætte sig frem og præsentere troværdige, men fejlagtige svar i stedet.

Studiet viste også, at ChatGPT var den model, der bedst kunne narre folk til at tro, at dens forkerte svar var korrekte, især inden for videnskab og geografi. Den hurtige udvikling af sprogmodeller og deres brug af store mængder data har gjort dem mere overbevisende, men også mere tilbøjelige til at “lyve”, når de står over for svære spørgsmål. Forskere foreslår, at en mulig løsning kunne være at lade AI’er indikere deres usikkerhed mere tydeligt eller bruge separate AI-systemer til at tjekke for vildledende svar.

Læs artiklen herunder:

Larger and more instructable language models become less reliable - Nature
Scaling up and shaping up large language models increased their tendency to provide sensible yet incorrect answers at difficulty levels humans cannot supervise, highlighting the need for a fundamental shift in artificial intelligence design towards reliability.
Sophisticated AI models are more likely to lie
Human feedback to AIs makes them favor providing an answer, even a wrong one, while making the answer more convincing.
Jo mer komplisert en AI er, jo mer lyver den til deg
AI-er skal aldri si at de ikke vet, men heller aldri svare feil. Løsningen blir løgn folk flest ikke gjennomskuer.

Vallensbæk Kommune lancerer retningslinjer for AI i undervisningen

Vallensbæk Kommune har som den første kommune i Danmark indført officielle retningslinjer for brugen af kunstig intelligens i folkeskolen. Retningslinjerne, der fylder 17 sider, dækker en bred vifte af emner, såsom teknologiforståelse, snyderi og miljøpåvirkninger forbundet med AI. Digitaliseringskonsulent Christoffer Dithmer fortæller til folkeskolen.dk, at et centralt mål har været at støtte lærerne i at anvende AI ansvarligt samt at give klare rammer for, hvad der er tilladt, og hvad der ikke er. For eksempel må elever aldrig aflevere AI-genereret tekst som deres eget arbejde, men de opfordres til at bruge AI som en sparringspartner, hvor de også kan inddrage deres chat-historik i opgaverne.

Skoleledere og lærere fra kommunen udtrykker stor tilfredshed med de nye retningslinjer, da de længe har manglet klare vejledninger for, hvordan AI kan integreres i undervisningen. Retningslinjerne vil være et vigtigt redskab til at sikre en ensartet tilgang på tværs af skolerne, så både lærere og elever får de samme muligheder for at bruge teknologien på en forsvarlig og pædagogisk meningsfuld måde.

Man kan hente retningslinjerne her (folkeskolen.dk)
Første kommune indfører retningslinjer for AI i undervisningen: Læs dem her
Vallensbæk Kommune på den københavnske vestegn håber, at andre vil lade sig inspirere af nye retningslinjer for brug af kunstig intelligens i skolen, der kommer rundt om alt fra konkrete redskaber til miljøhensyn.

Ny funktion i ChatGPT gør det nemmere at redigere tekst og kode

OpenAI har lanceret en ny funktion i ChatGPT kaldet “Canvas”, hvor brugeren nu kan redigere genereret tekst og kode i et separat redigeringsvindue. I Canvas kan man fremhæve specifikke dele af en tekst eller kode for at få mere præcise feedbackforslag fra ChatGPT. I Canvas er der også tilføjet en række genveje, der hjælper med at rette grammatik, ændre tekstens længde eller forbedre læsbarheden. Hvis det drejer sig om programmering, er der specifikke funktioner til fejlretning, automatisk generering af kommentarer til koden samt oversættelse til andre programmeringssprog.

Canvas er i øjeblikket i beta og kun tilgængelig for betalende brugere af ChatGPT, men det forventes, at det senere bliver frigivet til alle brugere.

ChatGPT’s ‘Canvas’ interface makes it easier to write and code
OpenAI gave its chatbox an editable notepad window.

Underviser siger op på grund af ChatGPT

Victoria Livingstone har i næsten 20 år undervist i skrivning og sprog, men hun har nu valgt at opsige sin stilling. Hovedårsagen er den stigende brug af AI-værktøjer som ChatGPT, der ændrer, hvordan studerende tilgår opgaven med at skrive akademiske tekster. Skrivning er en vigtig del af den intellektuelle proces, hvor tanker formes og udvikles gennem arbejdet med sproget. Men mange af hendes studerende, også på ph.d.-niveau, er begyndt at lade AI skrive deres artikler eller bruge AI til at omformulere deres arbejde.

“Using ChatGPT to complete assignments is like bringing a forklift into the weight room; you will never improve your cognitive fitness that way.” - Ted Chiang

Victoria Livingstone har forsøgt at integrere AI i undervisningen ved at vise dets begrænsninger og opfordre til kritisk tænkning. Alligevel oplevede hun, at de fleste studerende stadig valgte den nemme løsning, hvilket betød, at de gik glip af muligheden for at fordybe sig i deres emner og udvikle deres egne stemmer. Hun skriver, at de studerende, med få undtagelser, ikke var villige til at fordybe sig i de krævende skriveprocesser og blive der længe nok til at opdage, hvor meget man kan lære gennem skrivning. Da hun til sidst brugte mere tid på at give feedback på AI-genererede tekster end på sine studerende, besluttede hun at opsige sin stilling.

Læs hendes tankevækkende artikel nedenfor:

I Quit Teaching Because of ChatGPT
“I found myself spending more time giving feedback to AI than to my students.”

Bias i generativ AI og konsekvenser for læring

Ove Christensen diskuterer i sit indlæg, hvordan generativ AI (GenAI) påvirker læring på videregående uddannelser. Her fremhæver han, at AI-systemer som store sprogmodeller genererer ord uden indre mening, hvilket skaber en afstand til den menneskelige måde at bruge sprog på, hvor konteksten er afgørende. Dette har flere konsekvenser for læringsprocessen, hvor især tre former for bias er væsentlige

  • Automatiseringsbias: tendensen til at stole for meget på teknologi og automatiserede systemer.
  • Bekræftelsesbias: tendensen til at søge efter information, der bekræfter ens eksisterende overbevisninger.
  • Forenklingsbias: tendensen til at reducere komplekse emner til simplificerede versioner, hvilket kan føre til tab af nuancer og forståelse.

Disse former for bias kan medføre, at studerende bliver for afhængige af AI-assistance, hvilket kan hæmme deres dybdelæring og evne til at forstå komplekse fagområder.

Han beskriver, hvordan GenAI fungerer som en “exohjerne”, der kan øge produktiviteten, men også risikerer at hæmme dybdelæring. Studerende kan forledes til at tro, at de forstår et emne, når de i virkeligheden kun har en overfladisk forståelse. Christensen mener derfor, at det er nødvendigt med et pædagogisk skifte, hvor undervisningsaktiviteter designes til at understøtte kognitive processer og dyb læring, så AI bliver et redskab, der fremmer forståelse frem for at erstatte den.

Læs hele Oves Christensens artikler her:

GenAI, bias og læring
(Dette er dansk og lettere udvidet udgave af GenAI, bias, and learning, som jeg postede onsdag den 2. oktober) GenAI, bias og læring I det følgende vil jeg komme med nogle overvejelser over de pædagogiske konsekvenser, som generativ kunstig intelligens (GenAI) vil få for undervisning og læring på vi
GenAI, Bias, and Learning
In the following, I will explore some of the pedagogical implications of Generative Artificial Intelligence (GenAI) for teaching and learning in higher education. My main focus working with GenAI is the student’s learning.

Donér din stremme

Projektet Donér din stemme opfordrer danske borgere til at donere deres stemme ved at højtlæse korte tekststykker. Disse stemmedata vil blive tilgængelige på Open Data DK, hvor de kan bruges til at forbedre AI’s evne til at forstå dansk sprog i al dets mangfoldighed, inklusive forskellige dialekter og accenter. Dette er særligt vigtigt, da mange nuværende stemmeteknologier har svært ved at forstå dialekter og nuancer i det danske sprog, hvilket skaber udfordringer for dem, der bruger disse teknologier til kommunikation med offentlige myndigheder og andre digitale services.

Læs mere om projektet på deres hjemmeside:

Donér din stemme – Åbent datasæt kan bidrage til sprogtræning af AI

Ugens øvrige, men meget interessante nyheder

Eleverne kan det allerede: Nu skal lærerne også med
Eleverne blev spurgt, hvordan de bruger AI. Svarene kom bag på nogle af deres lærere
Er kunstig intelligens i fællesfagligt naturfag en ven eller fjende?
Kunstig intelligens fylder allerede rigtigt meget i den daglige undervisning, eleverne har fundet ud af, at de kan spare tid ved at få AI til at gøre arbejdet. Men hvilket potentiale kan det have i den fællesfaglige prøve, og er det værd at inkorporere?
Why A.I. Isn’t Going to Make Art
To create a novel or a painting, an artist makes choices that are fundamentally alien to artificial intelligence.
Data er blevet en knap ressource som el og vand - men skal vi begrænse brugen? | Radar
Store datacentre popper op overalt i det danske landskab. Lokket hertil af en stabil samfundsstruktur og grønne energikilder. Ofte er de ejet af Big Tech, men det kan også være mindre danske og europæiske it-virksomheder som bygger. Fælles for dem alle er, at de er med til at lægge pres på forbruget af strøm og vand, og de koster i CO2-regnskabet.
KI kan forstå legejournalen din: En ny språkmodell kan revolusjonere helsesektoren
Forskerne mener at Norge nå har tatt et betydelig skritt framover innenfor bruk av kunstig intelligens (KI) i helsesektoren.
Læreren har kommet for å bli - det har teknologien også
KI,AI,Lærerrollen,Per Størup Lauridsen,Sugata Mitra,Aplha Private School,David Game College,Isaac Asimov,Leon Furza,Hole in the Wall
Esben bruger masser af AI i undervisningen: Her er hans bedste råd
Lærer Esben Bækkelund Jensen var ‘chokeret’, første gang han stødte på ChatGPT. Nu har han fået øjnene op for, hvordan kunstig intelligens har ‘revitaliseret kulturfagene som dannelsesfag’.
Der går 25 år, før kunstig intelligens flytter noget, sagde professor. Så kom ChatGPT
For seks år siden var økonomiprofessor Philipp Schröder ikke synderligt bekymret udsigten til kunstig intelligens. Holder hans forudsigelse stadig?
Uddannelse vil bruge AI i undervisningen
Hvordan kan AI forvandle undervisningen og skabe en ny læringsoplevelse? En af landets største ungdomsuddannelser har ansat en AI-ekspert til at lede vejen.
Norge vil være verdens mest digitaliserede land
Den stenrige norske nation går nu efter guldet i konkurrencen om at bliver verdensmester i digitalisering
Tech-analytiker: Vi drukner i medieindhold, ingen har brug for
En stor del af AI-hypen handler om at skrue produktionstempoet op inden for områder, hvor behovet allerede er rigeligt dækket. Hvis AI skal skabe reelle fremskridt, er der behov for større visioner.
I en digital verden har vi mere end nogensinde før brug for lærerne