I Fortune skriver Catherina Gioino, at en koalition af mere end 250 eksperter og organisationer i USA og Canada kræver et femårigt moratorium for alle elevrettede generative AI-produkter i skoler fra førskole til 12. klasse. Koalitionen ledes af den Boston-baserede børnerettighedsorganisation Fairplay, og produkter, der ikke består sikkerhedstest i løbet af pausen, skal ifølge forslaget forbydes permanent.

Emily Cherkin, screen time-konsulent og underviser ved University of Washingtons Evans School of Public Policy, peger på, at generativ AI er et uprøvet produkt, som gives til børn i uddannelsens navn, uden at gevinsterne er dokumenteret. Hendes centrale pointe er, at problemet ikke kun er, at børnene kognitivt outsourcer opgaver til AI, men også at de aldrig opbygger de færdigheder, som de ellers senere ville kunne outsource.

Rapporten henviser til en fælles undersøgelse fra MIT og Harvard, som viser, at brugen af AI ophober kognitiv gæld og svækker den selvstændige tænkning over tid, samt til OECD-forskning, der peger på, at elever, som bruger ChatGPT som studieværktøj, klarer sig dårligere til prøver end elever uden adgang.

Koalitionen peger også på en strukturel modsætning i branchen. AI-virksomhederne udelukker selv mindreårige i deres servicevilkår, men markedsfører samtidig produkterne til skoler. Anthropics vilkår udelukker brugere under 18 år.

Alligevel er MagicSchool AI, en af de mest udbredte K-12-platforme i USA, bygget på Anthropics modeller. Den femårige pause skal give tid til uafhængige tredjepartsrevisioner, et offentligt register over AI-værktøjer i skolerne og nye regulatoriske rammer, som ifølge koalitionen endnu ikke findes.

Education experts to Mamdani: Why are you foisting AI on our kids? | Fortune
“If a local children’s hospital told parents, ‘We’ve got this new drug, it has potential, just trust us,’ people would be horrified.”

Del dette indlæg