I dette nyhedsbrev har vi udvalgt en række nyheder fra den seneste uge - en lille opsamling af det, der omhandler kunstig intelligens og undervisning. Dog starter vi med noget, som endnu ikke er kommet til Danmark, men som i høj grad kan påvirke den måde, vi søger informationer på i fremtiden.

Det er nemlig kommet frem, at Googles AI Overview har problemer med at give korrekte svar, hvilket betyder, at vi i højere grad selv skal vurdere, om indholdet er korrekt. Faktisk er der en række eksempler, hvor resultatet kan være direkte skadeligt for brugeren, hvis vedkommende følger dem.

I sidste uge var der en høring på Christiansborg i Erhvervsudvalget og Udvalget for Digitalisering og IT om kunstig intelligens. Vi var til stede og har lavet en opsummering af de vigtigste budskaber med fokus på undervisning. Samtidig har Dansk Erhverv udgivet 25 anbefalinger til, hvordan Danmarks AI-indsats kan accelereres frem mod 2025.

DTU Compute har også udgivet et interaktivt spørgeskema, hvor man kan hjælpe med at teste, hvilke sprogmodeller der skriver de bedste tekster. Vi har det med i nyhedsbrevet og håber, at mange vil teste det og dermed hjælpe med at vurdere modellernes resultater. Det er ret godt lavet, og spørgeskemaet kan let integreres i undervisningen.

Professor Jason Gulya har desuden skrevet en artikel, hvor han mener, at det ikke længere er holdbart, at undervisere ignorerer eller udelukker kunstig intelligens fra undervisningen. Vi lister de vigtigste pointer, men opfordrer til, at man læser Gulyas interessante artikel.

Det var de nyheder, vi havde udvalgt til det sidste nyhedsbrev i maj måned. Tak, fordi du læser med.


Google AI Overview giver farlige og forkerte svar

Google lancerede den 11. maj deres nye tilføjelse til deres søgemaskine i USA og Storbritannien, hvor kunstig intelligens udarbejder en lille opsummering af søgeresultaterne. Men nu begynder der at dukke forskellige eksempler op på nettet, hvor den i høj grad kommer med forkerte og også decideret farlige svar.

Vi har samlet en oversigt nedenfor over de mest vilde eksempler:

⚠️
Vi er blevet opmærksomme på, at nogle af eksemplerne kan være af ældre dato og kan være fabrikeret for at udstille Google AI Overview.

En talsmand for Google udtalte til Business Insider, at størstedelen af ​​AI Overview giver nøjagtige oplysninger med links til verifikation. Mange af de eksempler, der dukker op på sociale medier, er, hvad hun kaldte "extremely rare queries" og ikke repræsentative for de fleste menneskers oplevelser.

Denne form for udfordringer med generativ kunstig intelligens, der genererer tekster, er ikke ny, og Claus har tidligere skrevet to artikler om, hvordan sprogmodellerne hallucinerer (Når sprogmodeller genererer usandheder – ”hallucinerer” - del 1 og del 2). Her bliver det bare meget tydeligt, for vi forventer ikke, at søgemaskinen genererer misinformation til brugeren.

Google AI Overview er planlagt til at udkomme til resten af verden i løbet af 2024.

Læs mere om Google AI Overview nedenfor.

Google scrambles to manually remove weird AI answers in search
Google’s AI Overview launch showcases that the race for AI domination is perilous.
People are dunking on Google search AI’s nonsensical answers
The new search tool — called AI Overview — is returning some responses that are slightly nonsensical or downright wrong.
Er du klar til Googles AI Overviews? » Web2Media
AI Overviews er AI-genererede svar øverst i Googles søgeresultater på visse søgninger. Er du klar til den nye ændring? Læs mere her.
Google AI search tells users to glue pizza and eat rocks
Google has defended the answers given by AI Overview, describing them as “isolated examples”.
Google’s AI search feature suggested using glue to keep cheese sticking to a pizza
Google’s AI Overviews feature for search results is under scrutiny after users reported incorrect or dubious advice from its AI-generated summaries.

Høring på Christiansborg: Vigtige budskaber om kunstig intelligens og undervisningssektoren

I torsdags var vi på Viden.AI taget til Christiansborg for at lytte til høringen i Erhvervsudvalget og Udvalget for Digitalisering og it om kunstig intelligens.

Høringen var arrangeret af Louise Elholm (V), Formand for Erhvervsudvalget, og Lisbeth Bech-Nielsen (SF), Formand for Udvalget for Digitalisering og IT.

Herunder har vi udvalgt de vigtigste budskaber, der omhandler undervisningssektoren.

Digitaliserings- og ligestillingsminister Marie Bjerre (V) holdt en åbningstale, hvor hun satte fokus på en ambitiøs og ansvarlig tilgang til kunstig intelligens. Hun fremhævede vigtigheden af, at Danmark er med helt fremme i AI-udviklingen, samtidig med at de etiske og sociale aspekter håndteres korrekt. Marie Bjerre nævnte, at en bred politisk aftale om en ambitiøs og ansvarlig strategi for Danmarks digitale udvikling blev indgået i februar med 29 initiativer, herunder en strategisk indsats for kunstig intelligens​

Administrerende direktør for IT-Branchen, Natasha Friis Saxberg, understregede vigtigheden af at fremme diversitet i teknologibranchen ved at motivere flere piger til at interessere sig for og arbejde med teknologi gennem tidlig eksponering og positiv brug af teknologi. Hun advarede mod nedskæringer i uddannelsespladser og understregede behovet for kvalificeret arbejdskraft inden for IT og teknologi. Hun pointerede, at samfundet skal investere i uddannelse for at kunne konkurrere globalt og følge med den teknologiske udvikling​.

Formanden for Dataetisk Råd, Johan Busse, diskuterede de etiske overvejelser ved brug af AI i undervisningen. Han nævnte, at AI-systemer skal være transparente, og at der skal være opmærksomhed på, hvilke data sprogmodellerne er trænet på og de biases, der kan være indbygget i modellerne. Han foreslog, at samfundet og uddannelsesinstitutioner skal arbejde sammen for at skabe et etisk rammeværk omkring brugen af AI​.

Professor Anne Gerdes fra Syddansk Universitet understregede vigtigheden af at udvikle sprogmodeller, der er tilpasset danske værdier og forvaltningspraksis for at sikre, at uddannelsessystemet kan anvende AI i overensstemmelse med danske normer og lovgivning. Professor Peter Schneider-Kamp fra Syddansk Universitet fremhævede, at brugen af lovligt trænede sprogmodeller baseret på danske data vil være gavnligt for både elever og studerende. Begge professorer betonede behovet for gennemsigtige og etisk forsvarlige AI-teknologier, der er tilpasset danske forhold, hvilket er essentielt for deres anvendelse i uddannelsessystemet​.

På høringen var der en stærk enighed blandt eksperter og politikere om vigtigheden af en ansvarlig og ambitiøs tilgang til kunstig intelligens. Samtidig var budskabet også, at hvis Danmark skal være med i AI-udviklingen, kræver det investeringer i uddannelse og forskning.

Man kan gense hele høringen herunder.
https://mobiltv.ft.dk/embed/20231/ERU/tv.9234


Anbefalinger: 25 frem mod '25

Erhvervsorganisationen Dansk Erhverv har udarbejdet og afleveret 25 anbefalinger om kunstig intelligens til digitaliserings- og ligestillingsminister Marie Bjerre (V), med fokus på, hvordan Danmarks AI-indsats kan accelerere frem mod 2025.

I deres rapport understreger de vigtigheden af at integrere kunstig intelligens i undervisningen for at forberede de unge på fremtidens arbejdsmarked. De opfordrer blandt andet til, at teknologiforståelse indføres som et obligatorisk fag i folkeskolen.

De opfordrer også regeringen til at afsætte flere midler til videregående uddannelser inden for IT og digitalisering for at sikre, at alle kvalificerede ansøgere kan optages. Fremtidens medarbejdere skal ikke kun have teknisk viden om AI, men også kunne forstå og håndtere de etiske og demokratiske dilemmaer. Derfor opfordrer de også til, at der uddannes kandidater med fokus på kritisk tænkning, fake news og kildekritik, og at der gennemføres et digitaliseringstjek på alle uddannelser for at sikre, at de er klar til fremtidens arbejdsmarked.

Læs alle anbefalingerne her:

Læs anbefalingerne fra Dansk Erhverv

Hvor gode er sprogmodellerne på dansk?

Danoliterate-projektet på DTU Compute tester i øjeblikket, hvor godt sprogmodeller som ChatGPT, Claude, LlaMa og Mistral præsterer på dansk i forskellige brugsscenarier. Projektet lader brugerne evaluere modellerne ved at interagere med modellens svar og afgøre via menneskelig feedback, hvilke modeller, der skriver de bedste tekster

Man kan hjælpe ved selv at teste sprogmodellerne på Danoliterates interaktive spørgeskema, og resultaterne vil senere blive offentligt tilgængelige og bidrage til open source-udvikling af danske sprogmodeller.

Projektet er støttet af Danish Pioneer Centre for AI og vedligeholdes af Søren Vejlgaard Holm, som også har skrevet kandidatspeciale ved DTU Compute i samarbejde med Alvenir.

Læs mere herunder:

Streamlit

Educators: It's Time to Lean In - Why Teachers Can No Longer Stay Silent About AI

Jason Gulya, der underviser i engelsk ved Berkeley College, har skrevet en artikel, hvori han understreger, at undervisere ikke længere kan undgå at engagere sig i diskussionen om kunstig intelligens i undervisningen. Med de seneste opdateringer fra OpenAI og Google er det ikke længere holdbart, at undervisere ignorerer eller forsøger at udelukke kunstig intelligens fra undervisningen.

Han nævner, at de nuværende produkter fra tech-giganterne ofte er målrettet højtydende elever og ikke tager højde for den brede vifte af elevbehov i det virkelige klasseværelse. Hvis kunstig intelligens skal inkluderes effektivt, skal alle elever tilgodeses, og teknologien skal kunne tilpasses forskellige undervisningssituationer.

Gulya opfordrer til, at undervisere, forældre og elever deltager i debatten om kunstig intelligens i uddannelse, og især til at elevernes stemmer også bliver hørt i denne diskussion.

Læs artiklen herunder:

Educators: It’s Time to Lean In
Why Teachers Can No Longer Stay Silent About AI

Ugens nyheder

Advarsel: Dette indlæg er skrevet af et menneske
How Pedagogy Can Catch Up to Artificial Intelligence
Educators need to start considering how AI’s capabilities should change what students learn, experts say.
Debat: Vi risikerer at tabe erfaringerne om teknologiforståelse på gulvet
Munkekærskolen har undervist i teknologiforståelse siden 2018 som et forsøgsfag. Nu er det slut, men erfaringerne må ikke ryge i glemmekassen, mener Kirsten Dam Pedersen, der underviser i programmering.
DBC DIGITAL indgår samarbejde om SkoleGPT — DBC
Lærer har prøvet nyt fritekstfelt til skriftlige sprogprøver: ‘Giver uro og utryghed’
De første lærere og elever har nu prøvet det nye fritekstfelt i skriftlige sprogprøver, som kun bliver obligatorisk ét år, før de skriftlige afgangsprøver i engelsk, tysk og fransk afskaffes. For en engelsklærer var det unødvendigt bøvlet at bruge det nye felt.