Ugens nyheder: Farlige og forkerte svar fra Googles AI

I dette nyhedsbrev har vi udvalgt en række nyheder fra den seneste uge - en lille opsamling af det, der omhandler kunstig intelligens og undervisning. Dog starter vi med noget, som endnu ikke er kommet til Danmark, men som i høj grad kan påvirke den måde, vi søger informationer på i fremtiden.

Det er nemlig kommet frem, at Googles AI Overview har problemer med at give korrekte svar, hvilket betyder, at vi i højere grad selv skal vurdere, om indholdet er korrekt. Faktisk er der en række eksempler, hvor resultatet kan være direkte skadeligt for brugeren, hvis vedkommende følger dem.

I sidste uge var der en høring på Christiansborg i Erhvervsudvalget og Udvalget for Digitalisering og IT om kunstig intelligens. Vi var til stede og har lavet en opsummering af de vigtigste budskaber med fokus på undervisning. Samtidig har Dansk Erhverv udgivet 25 anbefalinger til, hvordan Danmarks AI-indsats kan accelereres frem mod 2025.

DTU Compute har også udgivet et interaktivt spørgeskema, hvor man kan hjælpe med at teste, hvilke sprogmodeller der skriver de bedste tekster. Vi har det med i nyhedsbrevet og håber, at mange vil teste det og dermed hjælpe med at vurdere modellernes resultater. Det er ret godt lavet, og spørgeskemaet kan let integreres i undervisningen.

Professor Jason Gulya har desuden skrevet en artikel, hvor han mener, at det ikke længere er holdbart, at undervisere ignorerer eller udelukker kunstig intelligens fra undervisningen. Vi lister de vigtigste pointer, men opfordrer til, at man læser Gulyas interessante artikel.

Det var de nyheder, vi havde udvalgt til det sidste nyhedsbrev i maj måned. Tak, fordi du læser med.

Google AI Overview giver farlige og forkerte svar

Google lancerede den 11. maj deres nye tilføjelse til deres søgemaskine i USA og Storbritannien, hvor kunstig intelligens udarbejder en lille opsummering af søgeresultaterne. Men nu begynder der at dukke forskellige eksempler op på nettet, hvor den i høj grad kommer med forkerte og også decideret farlige svar.

Vi har samlet en oversigt nedenfor over de mest vilde eksempler:

⚠️

Vi er blevet opmærksomme på, at nogle af eksemplerne kan være af ældre dato og kan være fabrikeret for at udstille Google AI Overview.

En talsmand for Google udtalte til Business Insider, at størstedelen af AI Overview giver nøjagtige oplysninger med links til verifikation. Mange af de eksempler, der dukker op på sociale medier, er, hvad hun kaldte "extremely rare queries" og ikke repræsentative for de fleste menneskers oplevelser.

Denne form for udfordringer med generativ kunstig intelligens, der genererer tekster, er ikke ny, og Claus har tidligere skrevet to artikler om, hvordan sprogmodellerne hallucinerer (Når sprogmodeller genererer usandheder – ”hallucinerer” - del 1 og del 2). Her bliver det bare meget tydeligt, for vi forventer ikke, at søgemaskinen genererer misinformation til brugeren.

Google AI Overview er planlagt til at udkomme til resten af verden i løbet af 2024.

Læs mere om Google AI Overview nedenfor.

Høring på Christiansborg: Vigtige budskaber om kunstig intelligens og undervisningssektoren

I torsdags var vi på Viden.AI taget til Christiansborg for at lytte til høringen i Erhvervsudvalget og Udvalget for Digitalisering og it om kunstig intelligens.

Høringen var arrangeret af Louise Elholm (V), Formand for Erhvervsudvalget, og Lisbeth Bech-Nielsen (SF), Formand for Udvalget for Digitalisering og IT.

Herunder har vi udvalgt de vigtigste budskaber, der omhandler undervisningssektoren.

Digitaliserings- og ligestillingsminister Marie Bjerre (V) holdt en åbningstale, hvor hun satte fokus på en ambitiøs og ansvarlig tilgang til kunstig intelligens. Hun fremhævede vigtigheden af, at Danmark er med helt fremme i AI-udviklingen, samtidig med at de etiske og sociale aspekter håndteres korrekt. Marie Bjerre nævnte, at en bred politisk aftale om en ambitiøs og ansvarlig strategi for Danmarks digitale udvikling blev indgået i februar med 29 initiativer, herunder en strategisk indsats for kunstig intelligens

Administrerende direktør for IT-Branchen, Natasha Friis Saxberg, understregede vigtigheden af at fremme diversitet i teknologibranchen ved at motivere flere piger til at interessere sig for og arbejde med teknologi gennem tidlig eksponering og positiv brug af teknologi. Hun advarede mod nedskæringer i uddannelsespladser og understregede behovet for kvalificeret arbejdskraft inden for IT og teknologi. Hun pointerede, at samfundet skal investere i uddannelse for at kunne konkurrere globalt og følge med den teknologiske udvikling.

Formanden for Dataetisk Råd, Johan Busse, diskuterede de etiske overvejelser ved brug af AI i undervisningen. Han nævnte, at AI-systemer skal være transparente, og at der skal være opmærksomhed på, hvilke data sprogmodellerne er trænet på og de biases, der kan være indbygget i modellerne. Han foreslog, at samfundet og uddannelsesinstitutioner skal arbejde sammen for at skabe et etisk rammeværk omkring brugen af AI.

Professor Anne Gerdes fra Syddansk Universitet understregede vigtigheden af at udvikle sprogmodeller, der er tilpasset danske værdier og forvaltningspraksis for at sikre, at uddannelsessystemet kan anvende AI i overensstemmelse med danske normer og lovgivning. Professor Peter Schneider-Kamp fra Syddansk Universitet fremhævede, at brugen af lovligt trænede sprogmodeller baseret på danske data vil være gavnligt for både elever og studerende. Begge professorer betonede behovet for gennemsigtige og etisk forsvarlige AI-teknologier, der er tilpasset danske forhold, hvilket er essentielt for deres anvendelse i uddannelsessystemet.

På høringen var der en stærk enighed blandt eksperter og politikere om vigtigheden af en ansvarlig og ambitiøs tilgang til kunstig intelligens. Samtidig var budskabet også, at hvis Danmark skal være med i AI-udviklingen, kræver det investeringer i uddannelse og forskning.

Man kan gense hele høringen herunder.
https://mobiltv.ft.dk/embed/20231/ERU/tv.9234

Anbefalinger: 25 frem mod '25

Erhvervsorganisationen Dansk Erhverv har udarbejdet og afleveret 25 anbefalinger om kunstig intelligens til digitaliserings- og ligestillingsminister Marie Bjerre (V), med fokus på, hvordan Danmarks AI-indsats kan accelerere frem mod 2025.

I deres rapport understreger de vigtigheden af at integrere kunstig intelligens i undervisningen for at forberede de unge på fremtidens arbejdsmarked. De opfordrer blandt andet til, at teknologiforståelse indføres som et obligatorisk fag i folkeskolen.

De opfordrer også regeringen til at afsætte flere midler til videregående uddannelser inden for IT og digitalisering for at sikre, at alle kvalificerede ansøgere kan optages. Fremtidens medarbejdere skal ikke kun have teknisk viden om AI, men også kunne forstå og håndtere de etiske og demokratiske dilemmaer. Derfor opfordrer de også til, at der uddannes kandidater med fokus på kritisk tænkning, fake news og kildekritik, og at der gennemføres et digitaliseringstjek på alle uddannelser for at sikre, at de er klar til fremtidens arbejdsmarked.

Læs alle anbefalingerne her:

Hvor gode er sprogmodellerne på dansk?

Danoliterate-projektet på DTU Compute tester i øjeblikket, hvor godt sprogmodeller som ChatGPT, Claude, LlaMa og Mistral præsterer på dansk i forskellige brugsscenarier. Projektet lader brugerne evaluere modellerne ved at interagere med modellens svar og afgøre via menneskelig feedback, hvilke modeller, der skriver de bedste tekster

Man kan hjælpe ved selv at teste sprogmodellerne på Danoliterates interaktive spørgeskema, og resultaterne vil senere blive offentligt tilgængelige og bidrage til open source-udvikling af danske sprogmodeller.

Projektet er støttet af Danish Pioneer Centre for AI og vedligeholdes af Søren Vejlgaard Holm, som også har skrevet kandidatspeciale ved DTU Compute i samarbejde med Alvenir.

Læs mere herunder:

Streamlit

Educators: It's Time to Lean In - Why Teachers Can No Longer Stay Silent About AI

Jason Gulya, der underviser i engelsk ved Berkeley College, har skrevet en artikel, hvori han understreger, at undervisere ikke længere kan undgå at engagere sig i diskussionen om kunstig intelligens i undervisningen. Med de seneste opdateringer fra OpenAI og Google er det ikke længere holdbart, at undervisere ignorerer eller forsøger at udelukke kunstig intelligens fra undervisningen.

Han nævner, at de nuværende produkter fra tech-giganterne ofte er målrettet højtydende elever og ikke tager højde for den brede vifte af elevbehov i det virkelige klasseværelse. Hvis kunstig intelligens skal inkluderes effektivt, skal alle elever tilgodeses, og teknologien skal kunne tilpasses forskellige undervisningssituationer.

Gulya opfordrer til, at undervisere, forældre og elever deltager i debatten om kunstig intelligens i uddannelse, og især til at elevernes stemmer også bliver hørt i denne diskussion.

Læs artiklen herunder: