> ## Content Index
> Fetch the complete content index at: https://viden.ai/llms.txt
> Use this file to discover other available public pages before exploring further.

# Ugens nyheder: Udforskning af bias i sprogmodeller
- URL: https://viden.ai/ugens-nyheder-udforskning-af-bias-i-sprogmodeller/
- Published: 2023-09-18T07:22:46.000Z
- Updated: 2023-09-18T07:41:35.000Z
- Author: Per Størup Lauridsen
- Tags: Nyhedsbreve

En af de hel store udfordringer i sprogmodellerne er, at de indeholder bias, og det kan være svært at gøre noget ved. Derfor er det ret interessant, at der er udviklet en sprogmodel, der kan bruges til at udforske den bias, der er indbygget i træningssættet.

## Brug af bias i sprogmodeller til at udforske bias

Vi har skrevet en række artikler om bias i sprogmodeller, hvilket vi ser som en stor udfordring inden for generativ AI. Et hold af forskere fra Humboldt University i Berlin har udviklet en sprogmodel med indbygget bias, som de har kaldt OpinionGPT - A **very biased** GPT-model. 

Forskerne har trænet deres sprogmodel på indhold fra undergrupper på det sociale medie Reddit. Her har de udvalgt indhold, der havde en tydelig demografisk reference, og har undersøgt specifikke sociale dimensioner såsom politik, geografi, køn og alder. 

Det er muligt at tilgå og bruge modellen i undervisningen for at diskutere bias i sprogmodeller. Forskerne påpeger dog, at selvom det er lykkedes at skabe en sprogmodel, der repræsenterer nuancerede skævheder, vil den stadig kun være repræsentativ for en Reddit-variant af demografiske data, ikke nødvendigvis for samfundet som helhed. 

Man kan selv teste [OpinionGPT på deres hjemmeside](https://opiniongpt.informatik.hu-berlin.de/?ref=viden.ai), og man kan læse den videnskabelige artikel [OpinionGPT: Modelling Explicit Biases in Instruction-Tuned LLMs](https://arxiv.org/abs/2309.03876?ref=viden.ai) på arXiv.org.

## Nye artikler på Viden.AI

I den forgangene uge har vi været rundt i landet for at holde oplæg, og det har betydet, at vi desværre ikke har fået skrevet nye artikler til hjemmesiden. Men i løbet af tirsdag udkommer der en artikel fra to nye forfattere på Viden.AI, og Claus arbejder på en artikel, der går mere i dybden med bias. 

## Nyheder

[Å forby ChatGPT er som å kjøre baklengs inn i fremtidenÅ forsøke å hindre studenter i å bruke ChatGPT kan sammenlignes med Don Quijotes kamp mot vindmøllene. Denne kampen er umulig å vinne. Her er tre tiltak som kan føre til kritisk og god bruk av den nye teknologien.![](https://khrono.no/view-resources/dachser2/public/khrono/v2/favicon-large.png)Khrono.noRolf Magnus Grung![](https://image.khrono.no/809359.webp?imageId=809359&x=0&y=11.45&cropw=100&croph=31.77&panox=0&panoy=11.45&panow=100&panoh=31.77&width=1200&height=683&format=jpg)](https://khrono.no/a-forby-chatgpt-er-som-a-kjore-baklengs-inn-i-fremtiden/809316?fbclid=IwAR3njmI68ggb3twfAc6Sn%5FcRZa9IjxMdtt7lplMp53VyF0BdpmYpOAiXq7s&ref=viden.ai)

[Indisk virksomhed har lært kunstig intelligens at faktatjekke. Vi har testet, hvor dygtig den erEn overflod af desinformation, en fordummet befolkning, sågar menneskehedens udryddelse. Der er næsten ingen grænser for, hvilke dårligdomme kunstig intelligens er blevet spået at kunne føre med sig. Særligt efter AI-chatbotten ChatGPT, der blev lanceret sidste år, gjorde kunstig intelligens til all…![](https://www.tjekdet.dk/themes/custom/niche_media/images/favicons/apple-touch-icon.png)TjekdetNathalie Damgaard Frisch![](https://www.tjekdet.dk/files/2023-09/Topbillede%20(6).png)](https://www.tjekdet.dk/indsigt/indisk-virksomhed-har-laert-kunstig-intelligens-faktatjekke-vi-har-testet-hvor-dygtig-den?ref=viden.ai)

[Tre ud af fire akademikere: Politikerne skal gribe ind overfor kunstig intelligensKunstig intelligens skal reguleres, mener tre ud af fire akademikere i en ny undersøgelse.![](https://www.akademikerbladet.dk/dist/magisterbladet/images/favicons/apple-touch-icon.png)DM AkademikerbladetRane von Benzon![](https://www.akademikerbladet.dk/media/44761/ai-regulerin.jpg?anchor=center&mode=crop&width=1200&height=630&rnd=133391180960000000)](https://www.akademikerbladet.dk/aktuelt/2023/september/tre-ud-af-fire-akademikere-politikerne-skal-gribe-ind-overfor-kunstig-intelligens?ref=viden.ai)

[Skole-Danmark diskuterer AI: ‘Generative sprogmodeller kunne måske være den anledning, vi har manglet til at få en grundigere drøftelse af, hvordan vi underviser’ | Version2Kunstig intelligens var det helt store emne under Digital Læringsdag, men det var et spørgsmål til digitaliseringsminister Marie Bjerre om et andet – omend relateret – emne, der udløste dagens første store bifald.![](https://www.version2.dk/themes/mi/version2/favicons/apple-touch-icon.png)Version2Elizabeth Mønsted Johansen![](https://www.version2.dk/sites/mi/files/styles/open_graph_image_16_9/public/2021-12/bigstock-Casual-young-woman-working-on--399555893.jpg?itok=KB3xjkPb)](https://www.version2.dk/artikel/skole-danmark-diskuterer-ai-generative-sprogmodeller-kunne-maaske-vaere-den-anledning-vi?ref=viden.ai)

[Debat: Her er 6 råd til at arbejde med AIBare rolig. Selv om kunstig intelligens er kommet for at blive, vil fokus på mennesker, lærere og fællesskaber blive vigtigere end nogensinde før i fremtidens skole, skriver CFU-konsulent Mikkel Aslak Koudal Andersen. Han giver her seks konkrete råd til at arbejde med AI i skolen.![](https://www.folkeskolen.dk/view-resources/dachser2/public/folkeskolen/favicon-180x180.png)folkeskolenMikkel Aslak Koudal Andersen![](https://image.folkeskolen.dk/4730093.webp?imageId=4730093&panox=0&panoy=0&panow=0&panoh=0&width=1200&height=683&format=jpg)](https://www.folkeskolen.dk/it-kunsting-intelligens-nb/debat-her-er-6-rad-til-at-arbejde-med-ai/4730066?ref=viden.ai)

[Hjælp os med at udvikle en AI-chatrobot til skolenChatGPT udfordrer lige nu hele uddannelsessystemet, - og ikke mindst folkeskolen. Det er ikke første gang, at teknologier udfordrer lærernes praksis og faglighed – tænk blot på regnemaskinen og i nyere tid Google Translate. Den udfordring vokser eksponentielt, og med ChatGPT er diskussionen blevet e…![](https://blog.folkeskolen.dk/view-resources/dachser2/public/folkeskolen/favicon-180x180.png)Folkeskolen BlogsMartin Exner![](https://image.folkeskolen.dk/4730755.webp?imageId=4730755&panox=0&panoy=0&panow=0&panoh=0&width=1200&height=683&format=jpg)](https://blog.folkeskolen.dk/blog-future-classroom-lab-it/generativ-ai-er-kommet-for-at-bliveogsa-i-folkeskolen/4730724?ref=viden.ai)

[Nyt, amerikansk studie: Dygtige elever klarer sig dårligere til eksamen med ChatGPTForskerne bag studiet peger på, at ChatGPT gør de dygtige elever mere dovne.![](https://www.dr.dk/favicon.ico)DRFrederik Brund Flintegaard![](https://asset.dr.dk/imagescaler01/https%3A%2F%2Fwww.dr.dk%2Fimages%2Fother%2F2023%2F09%2F14%2Fchatbot_toptop.jpg&w=700)](https://www.dr.dk/nyheder/udland/nyt-amerikansk-studie-dygtige-elever-klarer-sig-daarligere-til-eksamen-med-chatgpt?fbclid=IwAR1crUd6QrGwQp4gjGRSNW46Ls9ydM2nmMp75FQhnArHmiwVuLllr%5FZLZck%5Faem%5FAdkqeHZIEo9yTTu7obRP-cm-G5oQmF5Z%5F8FNFOf-9rj1PUT1p%5FeMU0wKxlUVLOP2rl4&ref=viden.ai)

[Bachelor: ChatGPT kan være tutor for elever på niveau med en veluddannet personSprogmodeller som ChatGPT kan bidrage til at forbedre skriftlige og mundtlige færdigheder i engelsk og give eleverne øjeblikkelig feedback, skriver Kathrine Amdisen.![](https://www.folkeskolen.dk/view-resources/dachser2/public/folkeskolen/favicon-180x180.png)folkeskolenDorthe Kirkgaard Nielsen![](https://image.folkeskolen.dk/4730557.webp?imageId=4730557&x=0&y=0&cropw=100&croph=100&panox=0&panoy=0&panow=100&panoh=100&width=1200&height=683&format=jpg)](https://www.folkeskolen.dk/bachelorprojekt-engelsk-it/bachelor-chatgpt-kan-vaere-tutor-for-elever-pa-niveau-med-en-veluddannet-person/4730546?ref=viden.ai)

[Debat: Resten af Europa venter ikke, mens vi lader vores børn finde rundt i den digitale verden på egen håndBørnenes digitale liv kalder på lovgivning, men også på obligatorisk undervisning i teknologiforståelse, skriver dekan Jakob Harder og professor Ole Sejer Iversen i dette debatindlæg.![](https://www.folkeskolen.dk/view-resources/dachser2/public/folkeskolen/favicon-180x180.png)folkeskolenJakob Harder![](https://image.folkeskolen.dk/4730087.webp?imageId=4730087&panox=0&panoy=0&panow=0&panoh=0&width=1200&height=683&format=jpg)](https://www.folkeskolen.dk/den-digitale-skole-nb-teknologiforstaelse/debat-resten-af-europa-venter-ikke-mens-vi-lader-vores-born-finde-rundt-i-den-digitale-verden-pa-egen-hand/4729718?ref=viden.ai)

[Forskere: Mens vi diskuterer skærme i skolen, sætter resten af Europa digital teknologi på skemaetDen digitale teknologi skal ikke ud af skolen. I stedet skal den på skemaet som et obligatorisk fag for at sikre kompetente og kritiske borgere og undgå en digital underklasse, skriver Maja Horst, Ole Sejer Iversen og Marianne Graves Petersen.![](https://www.altinget.dk/altinget_icons/apple-touch-icon.png)Altinget logo![](https://legacy.altinget.dk/images/article/272811/113928.jpg)](https://www.altinget.dk/uddannelse/artikel/forskere-mens-vi-diskuterer-skaerme-i-skolen-saetter-resten-af-europa-digital-teknologi-paa-skemaet-vi-boer-goere-det-samme?ref=viden.ai&fbclid=IwAR1-FMzNJUd0MHEr8NtOfElyukogTdl6L7Fkcmjh9tDwPhEQV3Nab5hF%5FBU)

## Interessante videnskabelige artikler

I vores undersøgelser støder vi ofte på nye videnskabelige artikler, og vi vil gerne fremhæve dem, som vi finder mest interessante. 

[ChatGPT in education: global reactions to AI innovations - Scientific ReportsScientific Reports - ChatGPT in education: global reactions to AI innovations![](https://www.nature.com/static/images/favicons/nature/apple-touch-icon-f39cb19454.png)NatureTim Fütterer![](https://media.springernature.com/m685/springer-static/image/art%3A10.1038%2Fs41598-023-42227-6/MediaObjects/41598_2023_42227_Fig1_HTML.png)](https://www.nature.com/articles/s41598-023-42227-6?ref=viden.ai)

[Exploring User Perspectives on ChatGPT: Applications, Perceptions, and Implications for AI-Integrated EducationUnderstanding user perspectives on Artificial Intelligence (AI) in education is essential for creating pedagogically effective and ethically responsible AI-integrated learning environments. In this paper, we conduct an extensive qualitative content analysis of four major social media platforms (Twit…![](https://static.arxiv.org/static/browse/0.3.4/images/icons/apple-touch-icon.png)arXiv.orgReza Hadi Mogavi![](https://static.arxiv.org/static/browse/0.3.4/images/arxiv-logo-fb.png)](https://arxiv.org/abs/2305.13114?ref=viden.ai)

[Detecting ChatGPT: A Survey of the State of Detecting ChatGPT-Generated TextWhile recent advancements in the capabilities and widespread accessibility of generative language models, such as ChatGPT (OpenAI, 2022), have brought about various benefits by generating fluent human-like text, the task of distinguishing between human- and large language model (LLM) generated text…![](https://static.arxiv.org/static/browse/0.3.4/images/icons/apple-touch-icon.png)arXiv.orgMahdi Dhaini![](https://static.arxiv.org/static/browse/0.3.4/images/arxiv-logo-fb.png)](https://arxiv.org/abs/2309.07689?ref=viden.ai)

[Best humans still outperform artificial intelligence in a creative divergent thinking task - Scientific ReportsScientific Reports - Best humans still outperform artificial intelligence in a creative divergent thinking task![](https://www.nature.com/static/images/favicons/nature/apple-touch-icon-f39cb19454.png)NatureMika Koivisto![](https://media.springernature.com/m685/springer-static/image/art%3A10.1038%2Fs41598-023-40858-3/MediaObjects/41598_2023_40858_Fig1_HTML.png)](https://www.nature.com/articles/s41598-023-40858-3?ref=viden.ai)

## Ugens anbefaling

Vi har længe fulgt [Inga Strümke](https://strumke.github.io/?ref=viden.ai), som er lektor og forsker inden for kunstig intelligens ved [Norwegian Open AI Lab](https://www.ntnu.edu/ailab?ref=viden.ai) på NTNU. Inga er meget involveret i den norske debat om kunstig intelligens, og hendes budskab er, at det er vigtigt at deltage i AI-udviklingen, samtidig med at man sætter høje standarder for forståelse og ansvarlig brug - og altid med mennesket i centrum.

I dag bliver hendes bog, [Maskiner der Tænker](https://www.politikensforlag.dk/maskiner-der-taenker/t-0/9788740089233?ref=viden.ai), endelig udgivet på dansk. Vi har modtaget den, men har endnu ikke haft mulighed for at læse den færdig, så det ville være uretfærdigt at lave en anmeldelse af den. Det, vi indtil videre har læst i den, giver dog et godt indblik i kunstig intelligens og den udvikling, der er sket, samt bevægelsen hen imod maskiner, der er klogere end mennesker. Vi sprang lidt i indholdet for at se nærmere på afsnittet om kunstig intelligens i uddannelse, og det er ikke særlig omfattende. Derfor bør man nok primært læse bogen, hvis man er nysgerrig efter at vide, hvad der ligger bag kunstig intelligens, og hvor udviklingen er på vej hen.

![](https://viden.ai/content/images/2023/09/9788740089233.jpg)