Syntetiske data kan forvride vores virkelighed
Forskning i syntetiske data advarer om, at AI risikerer at miste forbindelsen til virkeligheden og dermed underminere både forskning og informationskultur.
Indholdsfortegnelse
Anton Danholt Lautrup, postdoc ved Institut for Matematik og Datalogi på SDU, har netop afsluttet sin ph.d.-afhandling om syntetiske data.
Her advarer han om, at store mængder AI-genereret indhold kan føre til en form for digital indavl, hvor AI-modeller trænes på data, som ikke længere stammer fra virkelige mennesker. Det kan resultere i det, han kalder modelkollaps, hvor AI-systemer mister evnen til at generere brugbare, troværdige og mangfoldige resultater.
Han opfordrer til øget opmærksomhed på brugen af AI-genererede data, især når de anvendes i søgninger, automatiske tekstforslag og digitale opslag, som kan ligne fakta uden at være det.
For Anton Danholt Lautrup er spørgsmålet ikke længere, hvad AI kan, men hvad vi vælger at bruge det til og hvilke konsekvenser det har for informationssamfundet.
Læs mere på SDU:
birssdu.dk
Lautrup, Anton Danholt
