En af de hel store udfordringer i sprogmodellerne er, at de indeholder bias, og det kan være svært at gøre noget ved. Derfor er det ret interessant, at der er udviklet en sprogmodel, der kan bruges til at udforske den bias, der er indbygget i træningssættet.
Brug af bias i sprogmodeller til at udforske bias
Vi har skrevet en række artikler om bias i sprogmodeller, hvilket vi ser som en stor udfordring inden for generativ AI. Et hold af forskere fra Humboldt University i Berlin har udviklet en sprogmodel med indbygget bias, som de har kaldt OpinionGPT - A very biased GPT-model.
Forskerne har trænet deres sprogmodel på indhold fra undergrupper på det sociale medie Reddit. Her har de udvalgt indhold, der havde en tydelig demografisk reference, og har undersøgt specifikke sociale dimensioner såsom politik, geografi, køn og alder.
Det er muligt at tilgå og bruge modellen i undervisningen for at diskutere bias i sprogmodeller. Forskerne påpeger dog, at selvom det er lykkedes at skabe en sprogmodel, der repræsenterer nuancerede skævheder, vil den stadig kun være repræsentativ for en Reddit-variant af demografiske data, ikke nødvendigvis for samfundet som helhed.
I den forgangene uge har vi været rundt i landet for at holde oplæg, og det har betydet, at vi desværre ikke har fået skrevet nye artikler til hjemmesiden. Men i løbet af tirsdag udkommer der en artikel fra to nye forfattere på Viden.AI, og Claus arbejder på en artikel, der går mere i dybden med bias.
Vi har længe fulgt Inga Strümke, som er lektor og forsker inden for kunstig intelligens ved Norwegian Open AI Lab på NTNU. Inga er meget involveret i den norske debat om kunstig intelligens, og hendes budskab er, at det er vigtigt at deltage i AI-udviklingen, samtidig med at man sætter høje standarder for forståelse og ansvarlig brug - og altid med mennesket i centrum.
I dag bliver hendes bog, Maskiner der Tænker, endelig udgivet på dansk. Vi har modtaget den, men har endnu ikke haft mulighed for at læse den færdig, så det ville være uretfærdigt at lave en anmeldelse af den. Det, vi indtil videre har læst i den, giver dog et godt indblik i kunstig intelligens og den udvikling, der er sket, samt bevægelsen hen imod maskiner, der er klogere end mennesker. Vi sprang lidt i indholdet for at se nærmere på afsnittet om kunstig intelligens i uddannelse, og det er ikke særlig omfattende. Derfor bør man nok primært læse bogen, hvis man er nysgerrig efter at vide, hvad der ligger bag kunstig intelligens, og hvor udviklingen er på vej hen.
Rolf Magnus Grung
Nathalie Damgaard Frisch.png)
Rane von Benzon
Elizabeth Mønsted Johansen
Mikkel Aslak Koudal Andersen
Martin Exner
Tim Fütterer
Reza Hadi Mogavi
