Ugens nyheder: Kvinder halter bagefter indenfor AI

Hermed denne uges nyhedsbrev om kunstig intelligens i undervisningen.

Google Danmarks direktør, Bianca Bruhn advarer, om, at kvinder halter bagefter i AI-brugen – en skævvridning, der kan få store konsekvenser for magt og teknologiudvikling. Ida Ebbensgaard advarer også om AI’s kønsmæssige slagside. Deepfake-porno eksploderer og rammer primært kvinder, mens mænd dominerer AI-brugen – en udvikling, der kan forstærke uligheden.

Samtidig viser en ny undersøgelse fra DR Ultra Nyt, at kun en tredjedel af de danske skoleelever har fået undervisning i AI. Derfor mener blandt andet Sine Zambach, at teknologiforståelse bør være et obligatorisk fag i skolen frem for blot et valgfag, som drengene vælger. Her er en ny norsk undersøgelse også interessant, for den viser, at det kan gå ud over elevernes karakterer, hvis de ikke lærer at bruge teknologien effektivt.

Vi har også fulgt med i nyheden om SkoleGPT efter DR’s artikel, hvor de fik chatbotten til at skrive om selvskade. Det er naturligvis problematisk, når det drejer sig om så alvorlige emner, og det er en svær balancegang. På den ene side skal vi beskytte eleverne mod skadelig information, men på den anden side må værktøjet ikke være så begrænset, at det mister sin pædagogiske værdi.

Vi henviser også til en interessant artikel af antropolog og lektor Maja Højr Bruun, der skriver om, hvordan AI udfordrer de traditionelle vurderingsformer i akademiske uddannelser.

Dyk også gerne ned i vores henvisninger i ugens øvrige nyheder. Der er virkelig mange interessante artikler, og de fortjener i høj grad at blive læst.

God læselyst med ugens nyhedsbrev!

Google-topchef advarer om kønsskævhed i AI

I et interview med Berlingske advarer Bianca Bruhn, administrerende direktør for Google Danmark, om en alvorlig kønsskævhed i AI-udviklingen. Kvinder bruger og udvikler AI markant mindre end mænd, hvilket kan få store konsekvenser for fremtidens teknologi, arbejdsmarked og magtfordeling.

Bruhn sammenligner AI-revolutionen med industrialiseringen og frygter, at kvinder risikerer at blive efterladt. Undersøgelser viser, at kvinder bruger AI 16-20 procentpoint mindre end mænd – selv når de har samme job eller uddannelse. Globalt set udgør kvinder under 25 % af AI-arbejdsstyrken, og mænd får dobbelt så ofte tilbud om AI-uddannelse.

Hvis kvinder ikke engagerer sig, kan det føre til bias i AI-modeller, da teknologien formes af dem, der udvikler og anvender den. Bruhn mener, at både erhvervslivet og kvinder har et ansvar for at ændre situationen. Hun opfordrer kvinder til at tage initiativ og tilegne sig AI-kompetencer nu for ikke at miste indflydelse i fremtiden.

Google-topchef frygter skævhed i kunstig intelligens: »Det her er et kæmpe opråb til kvinderne«

Læs mere her.

Berlingske.dkSofie Dyhm-Junge

AI’s eksplosion har en kønsmæssig slagside

I Information fortæller journalist og forfatter Ida Ebbensgaard, hvordan AI-udviklingen har en kønsmæssig slagside. I interviewet fortæller hun, at hun oprindeligt troede, at AI’s største problem ville være politisk desinformation, men hun ser nu en langt mere overset udfordring: Deepfake-porno er eksploderet, og næsten alle ofre er kvinder.

Internationale undersøgelser viser, at op mod 98 % af alle deepfakes er af seksuel karakter og primært rammer kvinder. I Danmark stod Johanne Schmidt-Nielsen i 2023 frem som offer for falske nøgenbilleder, mens kendte personer som Taylor Swift internationalt har været mål for lignende digitale overgreb. Problemet har ført til store demonstrationer, blandt andet i Sydkorea, hvor lovgivningen nu kriminaliserer besiddelse af seksuelle deepfakes.

Ida Ebbensgaard peger også på en anden konsekvens af AI-udviklingen: Kvinder halter bagefter i anvendelsen af teknologien. Mens mange mænd aktivt tilegner sig AI-kompetencer, deltager færre kvinder. Det kan skabe en fremtidig skævvridning i både jobmuligheder og digital indflydelse. Hun opfordrer kvinder til at engagere sig i AI for at sikre, at teknologien afspejler et bredere spektrum af perspektiver og værdier.

Forfatter til ny bog om AI: »Fremtidens ulighed mellem kønnene bliver grundlagt i disse år«

Mens meget af samtalen om AI har handlet om dets potentiale til at undergrave demokratiet, mener forfatter og journalist Ida Ebbensgaard, at problemet nærmere er den AI-kløft, der er ved at opstå mellem kønnene

Dagbladet InformationCaspar de Mylius

De fleste børn får ikke undervisning i AI

En ny undersøgelse fra Epinion for DR Ultra Nyt viser, at kun en tredjedel af danske skoleelever har modtaget undervisning i AI. 56 % af de 9-14-årige svarer, at de ikke har modtaget undervisning i AI, mens 12 % er usikre.

Ifølge AI-forsker Sine Zambach er dette problematisk, da det kan skabe et A- og B-hold, hvor nogle elever lærer at bruge AI aktivt og kritisk, mens andre kun tilegner sig basale færdigheder eller misbruger teknologien uden reel læring. Hun støtter idéen om, at teknologiforståelse bør være et obligatorisk fag i skolen frem for blot et valgfag, som regeringen planlægger at indføre i 2027/2028.

Undervisningsminister Mattias Tesfaye er enig i, at for få børn undervises i AI, og han varsler, at AI fremover skal indgå i flere fag på tværs af skolen.

På Lindevangskolen i København har elever allerede arbejdet med SkoleGPT og oplever, at de har opnået en bedre forståelse af AI - både som et nyttigt værktøj og som en teknologi, der kræver kritisk sans.

De fleste børn får ikke undervisning i kunstig intelligens

Kun en tredjedel af de danske skoleelever svarer, at de har fået undervisning i kunstig intelligens.

folkeskolenTero Vesalainen

Elever, der ikke bruger AI, risikerer dårligere karakterer

En ny undersøgelse fra Norge viser, at elever, som ikke anvender AI i deres skolearbejde, risikerer at få dårligere karakterer end dem, der bruger teknologien aktivt. Ifølge lærere og eksperter er AI blevet et vigtigt værktøj i undervisningen, og elever, som ikke lærer at bruge det effektivt, risikerer at sakke bagud.

Mange skoler har endnu ikke udarbejdet klare retningslinjer for brugen af AI, hvilket skaber usikkerhed blandt både elever og lærere. Eksperter opfordrer til, at skolerne integrerer AI i undervisningen på en måde, som fremmer læring uden at gå på kompromis med elevernes selvstændige arbejde.

Elever som ikke bruker KI risikerer dårligere karakterer

Forskere opplever at elever som bruker kunstig intelligens (KI) får høyere karakterer. De oppfordrer skoler og universiteter til å bruke KI i undervisningen.

NRKIselin Elise Fjeld

SkoleGPT i fokus efter kontroversielle svar

Den danske chatbot SkoleGPT har i den forgangne uge været genstand for en del opmærksomhed i medierne. Efter DR’s test af chatbotten blev det afsløret, at den gav detaljerede beskrivelser af selvskade og selvmord, når den blev spurgt om hjælp til skoleopgaver om disse emner. Dette chokerede eksperter, der påpegede de potentielle farer ved den lette adgang til denne type information for børn og unge.

Udviklerne bag SkoleGPT, Center for Undervisningsmidler (CFU) ved Københavns Professionshøjskole, har reageret hurtigt på kritikken og ændret chatbottens svar, så den ikke længere giver beskrivelser af selvskade og selvmord. Der er indsat “stopord” og sikkerhedsmekanismer for at forhindre dette.

Eksperter mener, at chatbotten burde have haft disse sikkerhedsforanstaltninger fra starten, men roser samtidig udviklernes hurtige respons. Der pågår dog en løbende debat om, hvorvidt censur kan gå for langt og begrænse undervisningsrelevante emner.

Chatbot lavet til folkeskoler chokerer eksperter: Gav detaljerede beskrivelser af selvskade

Efter DR har kontaktet folkene bag den danske chatbot SkoleGPT, har de nu ændret bottens svar.

DRAllan Nisgaard

SkoleGPT skærmer nu bedre elever for problematiske emner - CFU Danmark

SkoleGPT har øget sikkerheden indenfor svar på emner, der kan være problematiske og som kræver hjælp og indgriben fra en voksen.

CFU DanmarkLouise Soraya Sturich Berggren

Ekspert advarer mod for meget censur, efter skole-chatbot ikke længere vil sige noget om selvmord

DR testede chatbotten SkoleGPT og opdagede, at den gav detaljerede beskrivelser af selvmord og selvskade.

DRAllan Nisgaard

AI udfordrer grundlaget for akademisk læring

Antropolog og lektor Maja Hojer Bruun beskriver på Forskerforum, hvordan AI ændrer de fundamentale præmisser for akademiske uddannelser. Traditionelt er skriftlige opgaver blevet betragtet som et udtryk for læring, men når AI kan generere tekster, bliver det nødvendigt at gentænke, hvordan vi vurderer, om studerende reelt har tilegnet sig ny viden.

Maja Hojer Bruun og hendes kolleger har gennemgået forskning om AI’s indflydelse på videregående uddannelser og foretaget feltstudier blandt studerende, der bruger AI-chatbots. De ser en tendens til, at mange primært bruger AI til at spare tid, hvilket kan reducere det faglige engagement. Hvis tekst og læreproces adskilles, risikerer vi at uddanne kandidater, som ikke besidder den viden og forståelse, vi tror, de har.

Hun påpeger, at AI er udviklet til effektivitet, men universitetsuddannelser er baseret på en refleksiv læringsproces. Hvis AI bruges ukritisk, kan det eliminere den nødvendige fordybelse, som er afgørende for akademisk tænkning. Universiteterne bør derfor ikke blot tilpasse sig erhvervslivets krav om hurtighed, men snarere fastholde fokus på kritisk tænkning og dybdelæring.

Løsningen er ikke at forbyde AI, men at tilpasse undervisnings- og eksamensformer, så mundtlighed og didaktisk refleksion får en større rolle. Hun argumenterer for, at studerende i højere grad bør involveres i diskussioner om formålet med undervisningen, og hvordan AI kan bruges konstruktivt i deres faglighed. Desuden bør undervisere rustes bedre til at forstå, hvordan AI påvirker læring.

Artiklen understreger vigtigheden af AI-literacy – ikke blot som en teknisk færdighed, men som en kritisk forståelse af, hvordan AI påvirker akademiske processer.

Antropolog: AI rokker ved vores måde at tænke akademiske uddannelser på

Vi kan ikke længere automatisk se den skriftlige opgave som udtryk for, at den studerende har lært noget, og det ændrer nogle grundlæggende præmisser for vores uddannelser, siger lektor Maja Hojer Bruun og efterlyser mundtlighed og didaktisk bevidsthed.

Forskerforum

Ugens andre nyheder

Skærme, tech og it er ikke i sig selv skadeligt eller farligt. Men det er forretningsmodellen bag tech-giganterne : Digital - Altinget.dk

De store tech virksomheder udnytter vores hjerners evolution for at mine vores opmærksomhed til fare for vores velvære og vores demokrati. Samtidig tilsværter de synet på tech, og det er ærgerligt, skriver Niels Bertelsen.

Altinget.dk

The English schools looking to dispel ‘doom and gloom’ around AI

AI is being used to recreate Charles Darwin talking about evolution and to reimagine Luton as a car – and teachers report students are more engaged

The GuardianRichard Adams

I Used to Teach Students. Now I Catch ChatGPT Cheats | The Walrus

I once believed university was a shared intellectual pursuit. That faith has been obliterated

The WalrusTroy Jollimore

A Philosopher’s Reflections on Teaching in a World with AI - Daily Nous

“I once believed my students and I were in this together, engaged in a shared intellectual pursuit. That faith has been obliterated over the past few semesters.” That’s Troy Jollimore, a philosopher and poet at California State University, Chico, writing at The Walrus about the widespread use of ChatGPT and other large language models by college

Daily Nous - news for & about the philosophy professionJustin Weinberg

Wikipedia has a huge gender equality problem – here’s why it matters

Wikipedia’s editors and articles reflect and reinforce a lack of diversity.

The ConversationNúria Ferran-Ferrer

Nå skal KI gjøre fagfellevurdering. Regjeringen spytter i millioner

Storbritannias forskningsminister Patrick Vallance håper kunstig intelligens kan få forskere til å bruke mindre tid på «tidkrevende papirarbeid».

Khrono.noJørgen Svarstad

AI is the worst teacher and might make students dumber

The beauty of discovery and making mistakes

TechRadarLance Ulanoff

How AI Search Is Shaping The Future Of Education And Research

The transformative power of AI is being felt across industries, and education is no exception. AI search tools are not a passing trend.

ForbesGary Drenik

Mistral AI launches new AI OCR feature with impressive results

Mistral AI’s new OCR API processes documents, tables, and images with higher accuracy than current market solutions, according to Mistral’s benchmark tests.

THE DECODERMatthias Bastian

The English schools looking to dispel ‘doom and gloom’ around AI

AI is being used to recreate Charles Darwin talking about evolution and to reimagine Luton as a car – and teachers report students are more engaged

The GuardianRichard Adams

The Widespread Adoption of Large Language Model-Assisted Writing Across Society

The recent advances in large language models (LLMs) attracted significant public and policymaker interest in its adoption patterns. In this paper, we systematically analyze LLM-assisted writing across four domains-consumer complaints, corporate communications, job postings, and international organization press releases-from January 2022 to September 2024. Our dataset includes 687,241 consumer complaints, 537,413 corporate press releases, 304.3 million job postings, and 15,919 United Nations (UN) press releases. Using a robust population-level statistical framework, we find that LLM usage surged following the release of ChatGPT in November 2022. By late 2024, roughly 18% of financial consumer complaint text appears to be LLM-assisted, with adoption patterns spread broadly across regions and slightly higher in urban areas. For corporate press releases, up to 24% of the text is attributable to LLMs. In job postings, LLM-assisted writing accounts for just below 10% in small firms, and is even more common among younger firms. UN press releases also reflect this trend, with nearly 14% of content being generated or modified by LLMs. Although adoption climbed rapidly post-ChatGPT, growth appears to have stabilized by 2024, reflecting either saturation in LLM adoption or increasing subtlety of more advanced models. Our study shows the emergence of a new reality in which firms, consumers and even international organizations substantially rely on generative AI for communications.

arXiv.orgWeixin Liang

AI-detection software isn’t the solution to classroom cheating — assessment has to shift

If educators want to make valid inferences about what students know and can do, assessments like drafts, works-in-progress and repeated observations of student learning are needed.

The ConversationMichael Holden