Snapchats My AI: Kunstig intelligens møder børn

På Viden.AI har vi normalt fokus på kunstig intelligens i undervisningen, og vi undersøger de nyeste muligheder samt fordele og ulemper ved teknologien. I denne artikel skifter vi lidt fokus og ser på Snapchat, og hvordan de har implementeret kunstig intelligens i form af "My AI" - på dansk "Min AI". Det som er interessant, og grunden til at vi vælger at skrive en artikel om det, er at denne nye mulighed lige nu bliver udrullet i Danmark til børn helt ned til 13 år. Og selvom Snapchat har sat den aldersgrænse, er vi bekendt med flere 8-årige, der bruger tjenesten (læs også medieudviklingen 2022). Det i sig selv bør få nogle alarmklokker til at ringe.

I artiklen prøver vi at dykke mere ned i denne nye funktion og undersøger, hvordan de kommunikerer om den til brugerne.

Hils på My AI

Snapchat lancerede allerede deres "My AI" i USA d. 27. februar 2023, og de er nu begynde at rulle den ud til danske brugere. Det første som man møder er et skærmbillede, der forklarer brugeren om My AI og fortæller at det er et eksperiment.

Når barnet selv har trykket på Acceptér (hvilket de fleste børn gør uden at interessere sig for, hvad de accepterer), er der fuld adgang til den nye digitale ven, der forstår én ud fra tidligere beskeder og som er sjov - måske sjovere end kammeraterne.

Inden vi dykker mere ned i My AI er det vigtigt at forstå, at det ikke kan slås fra, med mindre man køber Snapchat+ premium abonnement til 35 kr. pr. måned.

Under punktet "Få mere at vide" får vi yderligere information om mulighederne for at skrive sammen med deres kunstige intelligens. Snapchat skriver selv på deres website følgende om, hvad My AI kan svare på:

Når vi læser ovenstående tekst, vil Snapchat være med til at gøre kunstig intelligens til noget menneskeligt, og noget som børn kan være fortrolige med. Lidt som at have en god ven.

De skriver herefter dette, om det indhold, My AI kan generere:

Det er temmelig store krav at stille til en 13-årig at kontrollere svarene fra My AI og ikke bare stole på det, der skrives. Der er nok heller ikke mange 13-årige, der vil være i stand til at vurdere, hvornår informationer er fortrolige eller følsomme! Snapchat vil gerne have gennemsigtighed, når indhold er oprettet af AI, men det er vores eget ansvar at oplyse andre brugere om det, hvis AI er anvendt. Igen meget store krav at stille til børn og unge.

Når det kommer til opbevaring af data, skriver Snapchat dette:

Det er tydeligt, at Snapchat opsamler store mængder data fra de interaktioner, man som bruger har med My AI. Hvor mange børn og unge husker at slette deres indhold indenfor 24 timer, hvis de overhovedet er klar over denne begrænsning? Og hvad bruges deres data mon til? De kobler bl.a. lokationsdata med dine chat-interaktioner - smart hvis man vil lære en masse om forskellige befolkningsgruppers adfærd og kommunikation.
Snapchat gør det til noget godt at de bruger data med den retorik de har valgt. De sammenligner My AI med en rigtig ven, der gerne vil lære dig at kende - ved at høste så meget data som muligt om dig!

Hvordan forholder Snapchat sig til sikkerhed omkring kunstig intelligens?

Snapchat gør meget ud af deres værdier og deres forholden sig til sikkerhed. De er samtidig åbne om, at deres chatbot ikke er sikker og ikke altid overholder deres egne retningslinjer. De arbejder også på at give forældre indsigt i børns brug af chatbotten, men det betyder indirekte, at der lige nu ingen kontrol er.

Vi har tidligere skrevet en masse om ChatGPT og de udfordringer, der er med sprogmodeller, som f.eks. bias, misinformationer, privatliv og etiske udfordringer. Snapchat har forsøgt at reducere disse, men indrømmer, at det ikke altid er lykkedes.

Snapchat har opstillet en række regler for, hvad man må bruge My AI til, men spørgsmålet er, hvor mange der læser dem - og ikke mindst forstår dem.

Snapchats My AI giver børn mulighed for at få adgang til kunstig intelligens via den platform, de bruger mest i deres hverdag, og det er måske ikke helt godt. I artiklen har vi udelukkende set på funktionaliteten og ikke på de etiske udfordringer, der er ved de nye muligheder i Snapchat. Vi mener, at der er brug for at se på, om det giver mening, især når det handler om børn, der nu får en "alvidende opdragende digital bot" ind i deres verden - uden forældrenes samtykke.