Nyhedsbreve

Ugens nyheder: HTX-elever afslører sikkerhedsbrister i ExamCookie

HTX-elever afslører sikkerhedsbrister i ExamCookie, Mistral AI lancerer en EDU-licens, og forskere arbejder på mere bæredygtig AI.

Per Størup Lauridsen

10 feb 2025 · 8 minut læses

Indholdsfortegnelse

Uge 7 betyder vinterferie for mange, og det gælder også for os på Viden.AI - selvom der ligger et par elevafleveringer, som skal rettes. Alligevel var der et par nyheder, der var for interessante til, at vi kunne slappe helt af.

Især historien, som Version2 bragte i sidste uge om sikkerhedsbrister i ExamCookie, og at systemet ret nemt kan omgås.

Der kommer løbende nye sprogmodeller til samt nye muligheder for at bruge dem i undervisningen. Det er især interessant, at franske Mistral AI har udgivet en EDU-udgave af Le Chat Pro, hvor elever kan bruge den for ca. 35 kr. om måneden. Samtidig er der nye tiltag i gang for at udvikle gode open source-europæiske sprogmodeller.

Brugen af AI er en stor miljøbelastning, og i sin nuværende form er det formentlig korrekt. Dog arbejder forskere fra SDU på en metode, der kan reducere energiforbruget markant. Konkret tester de en teknik, der minimerer antallet af bits per parameter i sprogmodeller. Det lyder måske teknisk, men i bund og grund handler det om at skifte fra beregninger med kommatal til heltal – en ændring, der kan gøre AI langt mere energieffektiv.

På Universitetet i Bergen er der opstået tvivl om, hvorvidt en underviser har brugt AI til at give studerende karakterer og feedback på deres eksamensopgaver.

Sam Altman, administrerende direktør for OpenAI, har deltaget i podcasten Re:Thinking, hvor de diskuterer, hvad mennesker skal kunne i en fremtid præget af AI.

Derudover er der en række andre nyheder, som kunne være interessante at dykke ned i.

God læsning!

HTX-elever afslører sikkerhedsbrister i ExamCookie

Version2 skriver om, at to 3.g-elever fra HTX har opdaget, at koden bag eksamensprogrammet ExamCookie let kan åbnes og analyseres. På GitHub har de offentliggjort en guide til, hvordan man kan omgå programmets overvågningsfunktioner ved hjælp af teknikken DLL-injektion. Her demonstrerer de også, at man blot kan omdøbe sin internetbrowser for at omgå overvågningen og bruge AI-værktøjer som ChatGPT uden at blive opdaget.

Eleverne påviser væsentlige sårbarheder i ExamCookie, herunder muligheden for at deaktivere funktioner til skærmbilleder og logning af udklipsholderen. 2 it-sikkerhedseksperter udtrykker bekymring, da det potentielt kan gøre det vanskeligere at afsløre snyd til eksamen.

Andre elever har desuden fundet en bemærkelsesværdig kommentar i ExamCookies HTML-kode: “Det er helt galt med den kommende minkskandale. Mette Frederiksen er den største løgnhals, der endnu er set på Christiansborg!” Ifølge en sikkerhedsekspert tyder kommentaren på lav kodestandard og et “useriøst produkt”.

I HTML-koden af ExamCookie version 1414 fremgår kommentaren: »Det er helt galt med den kommende mink skandale. Mette Frederiksen er den største løgnhals der endnu er set på Christiansborg!« Illustration: Version 2

ExamCookies direktør var ikke bekendt med kommentaren, der nu er fjernet. Han afviser desuden kritikken og mener, at det kun er teoretisk muligt at omgå programmet. Skolerne bliver adviseret, hvis elever forsøger at snyde, fastslår han. Som reaktion på kritikken har ExamCookie udsendt en opdateret version med øget sikkerhed.

Sagen rejser spørgsmål om, hvorvidt teknologiske løsninger effektivt kan forhindre snyd til eksamen, samt om der er behov for en mere gennemgribende revision af eksamensformerne i lyset af AI-udviklingen.

💡

På Viden.AI har vi også undersøgt de teknikker, som eleverne skriver om på GitHub, og vi vurderer, at det kræver betydelig viden at udføre DLL-injektion, selv hvis man følger deres guide. Samtidig vil en omdøbning af browseren muliggøre at der ikke kommer en notifikation i ExamCookie, men det forhindre ikke overvågningen af udklipsholderen eller indhentningen af elevernes skærmbilleder. Ved begrundet mistanke vil der stadig være en betydelig risiko for at blive afsløret, selv hvis man omdøber browseren.

Ligesom de to sikkerhedseksperter er vi dog meget forundrede over den lave kodestandard samt over, at kildekoden er blevet auditeret uden at opfange udviklerkommentaren om Mette Frederiksen.

Mistral AI lancerer mobilapp

Den franske virksomhed Mistral AI har lanceret sin AI-assistent Le Chat som mobilapp til iOS og Android. Tidligere har Mistral primært fokuseret på virksomheder og professionelle brugere, men nu går selskabet direkte i konkurrence med OpenAI’s ChatGPT, Google Gemini og den kinesiske AI-assistent DeepSeek.

Til undervisningssektoren udgiver Mistral en EDU-licens til ca. 35 kr. om måneden, som tilbyder elever og undervisere en mere åben og tilpasset AI-løsning sammenlignet med de lukkede systemer fra amerikanske aktører. Alternativt kan man også bruge systemet gratis, men så accepterer man, at ens data bruges til at forbedre systemet.

Europæisk samarbejde om åbne sprogmodeller

Et konsortium af 20 førende europæiske forskningsinstitutioner, virksomheder og EuroHPC-centre har indgået et samarbejde om at udvikle en familie af åbne, flersprogede sprogmodeller under projektet OpenEuroLLM. Initiativet har til formål at styrke Europas digitale suverænitet og konkurrenceevne inden for AI ved at gøre avancerede sprogmodeller tilgængelige for erhvervsliv, industri og offentlige organisationer.

Forskere arbejder på at gøre AI-søgninger mere bæredygtige

Brugen af AI-chatbots som ChatGPT kræver betydelige mængder energi og vand, hvilket har en miljømæssig omkostning. En enkelt søgning kan forbruge mange gange mere energi end en Google-søgning, og når millioner af mennesker anvender chatbots dagligt, resulterer det i et enormt samlet forbrug.

For at imødekomme denne udfordring arbejder forskere fra Institut for Matematik og Datalogi på Syddansk universitet, på at gøre store sprogmodeller mere energieffektive. Lukas Galke og Peter Schneider-Kamp har fået tildelt ressourcer på supercomputeren LEONARDO til at udvikle mere bæredygtige modeller. De fokuserer på at reducere energiforbruget ved inferens - altså selve brugerinteraktionen - snarere end træningen af modellerne.

Forskerne håber at minimere antallet af bits pr. parameter i sprogmodellerne, hvilket kan reducere energiforbruget markant. Hvis deres metode lykkes, vil en søgning potentielt kunne gøres 30 gange mere energieffektiv end i dag.

Universitet annullerer karaktergivning efter mistanke om fejl

35 ud af 71 studerende på Universitetet i Bergen får ny karaktergivning af deres eksamen i europæisk historie og politik. Beslutningen kommer efter klager over karakterbegrundelser, der gav anledning til bekymring hos universitetets ledelse.

Flere studerende spekulerede nemlig i, om censor havde brugt AI til at vurdere eksamensopgaverne, men universitetet understreger, at klagerne ikke nævner AI direkte. Efter en række stikprøver kunne universitetet dog ikke bekræfte, at karaktergivningen var foregået på en fagligt forsvarlig måde, og besluttede derfor at annullere bedømmelsen for de berørte studerende.

Podcast: Evnen til at stille spørgsmål bliver den vigtigste færdighed i AI-tidsalderen

Sam Altman, CEO for OpenAI, forudser, at AI fundamentalt vil omforme økonomien og arbejdsmarkedet. I en samtale med psykologen Adam Grant i podcasten Re:Thinking understreger Altman, at rå intelligens ikke længere bliver den vigtigste færdighed på fremtidens arbejdsmarked. I stedet bliver evnen til at stille gode spørgsmål og forbinde information på nye måder afgørende.

Altman forklarer, at intelligens tidligere blev målt på, hvor meget viden en person kunne huske. Men i en tid, hvor AI kan lagre og genkalde information langt bedre end mennesker, er det vigtigere at kunne identificere mønstre og sammenhænge frem for blot at huske fakta. Han sammenligner denne udvikling med internettets fremkomst, hvor lærere i hans skoletid forsøgte at forbyde brugen af Google i undervisningen. I stedet for at gøre os dummere gjorde det os i stand til at løse mere komplekse opgaver.

Grant opsummerer Altmans pointe med, at det fremover bliver vigtigere at være en “connector” af information end en “collector” af fakta. Kreativitet og evnen til at se sammenhænge på tværs af forskellige vidensområder bliver centrale kompetencer i AI-tidsalderen.