En af de hel store udfordringer i sprogmodellerne er, at de indeholder bias, og det kan være svært at gøre noget ved. Derfor er det ret interessant, at der er udviklet en sprogmodel, der kan bruges til at udforske den bias, der er indbygget i træningssættet.

Brug af bias i sprogmodeller til at udforske bias

Vi har skrevet en række artikler om bias i sprogmodeller, hvilket vi ser som en stor udfordring inden for generativ AI. Et hold af forskere fra Humboldt University i Berlin har udviklet en sprogmodel med indbygget bias, som de har kaldt OpinionGPT - A very biased GPT-model. 

Forskerne har trænet deres sprogmodel på indhold fra undergrupper på det sociale medie Reddit. Her har de udvalgt indhold, der havde en tydelig demografisk reference, og har undersøgt specifikke sociale dimensioner såsom politik, geografi, køn og alder. 

Det er muligt at tilgå og bruge modellen i undervisningen for at diskutere bias i sprogmodeller. Forskerne påpeger dog, at selvom det er lykkedes at skabe en sprogmodel, der repræsenterer nuancerede skævheder, vil den stadig kun være repræsentativ for en Reddit-variant af demografiske data, ikke nødvendigvis for samfundet som helhed. 

Man kan selv teste OpinionGPT på deres hjemmeside, og man kan læse den videnskabelige artikel OpinionGPT: Modelling Explicit Biases in Instruction-Tuned LLMs på arXiv.org.

Nye artikler på Viden.AI

I den forgangene uge har vi været rundt i landet for at holde oplæg, og det har betydet, at vi desværre ikke har fået skrevet nye artikler til hjemmesiden. Men i løbet af tirsdag udkommer der en artikel fra to nye forfattere på Viden.AI, og Claus arbejder på en artikel, der går mere i dybden med bias. 

Nyheder

Å forby ChatGPT er som å kjøre baklengs inn i fremtiden
Å forsøke å hindre studenter i å bruke ChatGPT kan sammenlignes med Don Quijotes kamp mot vindmøllene. Denne kampen er umulig å vinne. Her er tre tiltak som kan føre til kritisk og god bruk av den nye teknologien.
Indisk virksomhed har lært kunstig intelligens at faktatjekke. Vi har testet, hvor dygtig den er
En overflod af desinformation, en fordummet befolkning, sågar menneskehedens udryddelse. Der er næsten ingen grænser for, hvilke dårligdomme kunstig intelligens er blevet spået at kunne føre med sig. Særligt efter AI-chatbotten ChatGPT, der blev lanceret sidste år, gjorde kunstig intelligens til all…
Tre ud af fire akademikere: Politikerne skal gribe ind overfor kunstig intelligens
Kunstig intelligens skal reguleres, mener tre ud af fire akademikere i en ny undersøgelse.
Skole-Danmark diskuterer AI: ‘Generative sprogmodeller kunne måske være den anledning, vi har manglet til at få en grundigere drøftelse af, hvordan vi underviser’ | Version2
Kunstig intelligens var det helt store emne under Digital Læringsdag, men det var et spørgsmål til digitaliseringsminister Marie Bjerre om et andet – omend relateret – emne, der udløste dagens første store bifald.
Debat: Her er 6 råd til at arbejde med AI
Bare rolig. Selv om kunstig intelligens er kommet for at blive, vil fokus på mennesker, lærere og fællesskaber blive vigtigere end nogensinde før i fremtidens skole, skriver CFU-konsulent Mikkel Aslak Koudal Andersen. Han giver her seks konkrete råd til at arbejde med AI i skolen.
Hjælp os med at udvikle en AI-chatrobot til skolen
ChatGPT udfordrer lige nu hele uddannelsessystemet, - og ikke mindst folkeskolen. Det er ikke første gang, at teknologier udfordrer lærernes praksis og faglighed – tænk blot på regnemaskinen og i nyere tid Google Translate. Den udfordring vokser eksponentielt, og med ChatGPT er diskussionen blevet e…
Nyt, amerikansk studie: Dygtige elever klarer sig dårligere til eksamen med ChatGPT
Forskerne bag studiet peger på, at ChatGPT gør de dygtige elever mere dovne.
Bachelor: ChatGPT kan være tutor for elever på niveau med en veluddannet person
Sprogmodeller som ChatGPT kan bidrage til at forbedre skriftlige og mundtlige færdigheder i engelsk og give eleverne øjeblikkelig feedback, skriver Kathrine Amdisen.
Debat: Resten af Europa venter ikke, mens vi lader vores børn finde rundt i den digitale verden på egen hånd
Børnenes digitale liv kalder på lovgivning, men også på obligatorisk undervisning i teknologiforståelse, skriver dekan Jakob Harder og professor Ole Sejer Iversen i dette debatindlæg.
Forskere: Mens vi diskuterer skærme i skolen, sætter resten af Europa digital teknologi på skemaet
Den digitale teknologi skal ikke ud af skolen. I stedet skal den på skemaet som et obligatorisk fag for at sikre kompetente og kritiske borgere og undgå en digital underklasse, skriver Maja Horst, Ole Sejer Iversen og Marianne Graves Petersen.

Interessante videnskabelige artikler

I vores undersøgelser støder vi ofte på nye videnskabelige artikler, og vi vil gerne fremhæve dem, som vi finder mest interessante. 

ChatGPT in education: global reactions to AI innovations - Scientific Reports
Scientific Reports - ChatGPT in education: global reactions to AI innovations
Exploring User Perspectives on ChatGPT: Applications, Perceptions, and Implications for AI-Integrated Education
Understanding user perspectives on Artificial Intelligence (AI) in education is essential for creating pedagogically effective and ethically responsible AI-integrated learning environments. In this paper, we conduct an extensive qualitative content analysis of four major social media platforms (Twit…
Detecting ChatGPT: A Survey of the State of Detecting ChatGPT-Generated Text
While recent advancements in the capabilities and widespread accessibility of generative language models, such as ChatGPT (OpenAI, 2022), have brought about various benefits by generating fluent human-like text, the task of distinguishing between human- and large language model (LLM) generated text…
Best humans still outperform artificial intelligence in a creative divergent thinking task - Scientific Reports
Scientific Reports - Best humans still outperform artificial intelligence in a creative divergent thinking task

Ugens anbefaling

Vi har længe fulgt Inga Strümke, som er lektor og forsker inden for kunstig intelligens ved Norwegian Open AI Lab på NTNU. Inga er meget involveret i den norske debat om kunstig intelligens, og hendes budskab er, at det er vigtigt at deltage i AI-udviklingen, samtidig med at man sætter høje standarder for forståelse og ansvarlig brug - og altid med mennesket i centrum.

I dag bliver hendes bog, Maskiner der Tænker, endelig udgivet på dansk. Vi har modtaget den, men har endnu ikke haft mulighed for at læse den færdig, så det ville være uretfærdigt at lave en anmeldelse af den. Det, vi indtil videre har læst i den, giver dog et godt indblik i kunstig intelligens og den udvikling, der er sket, samt bevægelsen hen imod maskiner, der er klogere end mennesker. Vi sprang lidt i indholdet for at se nærmere på afsnittet om kunstig intelligens i uddannelse, og det er ikke særlig omfattende. Derfor bør man nok primært læse bogen, hvis man er nysgerrig efter at vide, hvad der ligger bag kunstig intelligens, og hvor udviklingen er på vej hen.