Matomo

Snapchats My AI: Kunstig intelligens møder børn - en bekymrende udvikling?

Snapchats My AI: Kunstig intelligens møder børn - en bekymrende udvikling?

På Viden.AI har vi normalt fokus på kunstig intelligens i undervisningen, og vi undersøger de nyeste muligheder samt fordele og ulemper ved teknologien. I denne artikel skifter vi lidt fokus og ser på Snapchat, og hvordan de har implementeret kunstig intelligens i form af "My AI" - på dansk "Min AI". Det som er interessant, og grunden til at vi vælger at skrive en artikel om det, er at denne nye mulighed lige nu bliver udrullet i Danmark til børn helt ned til 13 år. Og selvom Snapchat har sat den aldersgrænse, er vi bekendt med flere 8-årige, der bruger tjenesten (læs også medieudviklingen 2022). Det i sig selv bør få nogle alarmklokker til at ringe.

I artiklen prøver vi at dykke mere ned i denne nye funktion og undersøger, hvordan de kommunikerer om den til brugerne.

Hils på My AI

Snapchat lancerede allerede deres "My AI" i USA d. 27. februar 2023, og de er nu begynde at rulle den ud til danske brugere. Det første som man møder er et skærmbillede, der forklarer brugeren om My AI og fortæller at det er et eksperiment.

Når barnet selv har trykket på Acceptér (hvilket de fleste børn gør uden at interessere sig for, hvad de accepterer), er der fuld adgang til den nye digitale ven, der forstår én ud fra tidligere beskeder og som er sjov - måske sjovere end kammeraterne.

Inden vi dykker mere ned i My AI er det vigtigt at forstå, at det ikke kan slås fra, med mindre man køber Snapchat+ premium abonnement til 35 kr. pr. måned.

Forsiden af My AI

Under punktet "Få mere at vide" får vi yderligere information om mulighederne for at skrive sammen med deres kunstige intelligens. Snapchat skriver selv på deres website følgende om, hvad My AI kan svare på:

Når vi læser ovenstående tekst, vil Snapchat være med til at gøre kunstig intelligens til noget menneskeligt, og noget som børn kan være fortrolige med. Lidt som at have en god ven.

De skriver herefter dette, om det indhold, My AI kan generere:

Det er temmelig store krav at stille til en 13-årig at kontrollere svarene fra My AI og ikke bare stole på det, der skrives. Der er nok heller ikke mange 13-årige, der vil være i stand til at vurdere, hvornår informationer er fortrolige eller følsomme! Snapchat vil gerne have gennemsigtighed, når indhold er oprettet af AI, men det er vores eget ansvar at oplyse andre brugere om det, hvis AI er anvendt. Igen meget store krav at stille til børn og unge.

Når det kommer til opbevaring af data, skriver Snapchat dette:

Det er tydeligt, at Snapchat opsamler store mængder data fra de interaktioner, man som bruger har med My AI. Hvor mange børn og unge husker at slette deres indhold indenfor 24 timer, hvis de overhovedet er klar over denne begrænsning? Og hvad bruges deres data mon til? De kobler bl.a. lokationsdata med dine chat-interaktioner - smart hvis man vil lære en masse om forskellige befolkningsgruppers adfærd og kommunikation.
Snapchat gør det til noget godt at de bruger data med den retorik de har valgt. De sammenligner My AI med en rigtig ven, der gerne vil lære dig at kende - ved at høste så meget data som muligt om dig!

Hvordan forholder Snapchat sig til sikkerhed omkring kunstig intelligens?

Snapchat gør meget ud af deres værdier og deres forholden sig til sikkerhed. De er samtidig åbne om, at deres chatbot ikke er sikker og ikke altid overholder deres egne retningslinjer. De arbejder også på at give forældre indsigt i børns brug af chatbotten, men det betyder indirekte, at der lige nu ingen kontrol er.

Vi har tidligere skrevet en masse om ChatGPT og de udfordringer, der er med sprogmodeller, som f.eks. bias, misinformationer, privatliv og etiske udfordringer. Snapchat har forsøgt at reducere disse, men indrømmer, at det ikke altid er lykkedes.

Snapchat har opstillet en række regler for, hvad man må bruge My AI til, men spørgsmålet er,  hvor mange der læser dem - og ikke mindst forstår dem.

Snapchats My AI giver børn mulighed for at få adgang til kunstig intelligens via den platform, de bruger mest i deres hverdag, og det er måske ikke helt godt. I artiklen har vi udelukkende set på funktionaliteten og ikke på de etiske udfordringer, der er ved de nye muligheder i Snapchat. Vi mener, at der er brug for at se på, om det giver mening, især når det handler om børn, der nu får en "alvidende opdragende digital bot" ind i deres verden - uden forældrenes samtykke.

Læs også

En chatbot er flyttet ind på dit barns telefon – dybt uansvarligt, mener ekspert
Den nye AI-teknologi har både potentiale til at blive vores værste fjende og vores bedste ven, siger fremtidsforsker.
Børnetelefonen får opkald om “skræmmende” chatbot: - Ret mange børn er forskrækkede og synes, at det er utrygt
Chatbotten kan kun slettes fra Snapchat, hvis man betaler 35 kroner om måneden for Snapchat+.
Kulturminister er “vildt bekymret” for udskældt chatbot
Ifølge Jakob Engel-Schmidt (M) mangler chatbots som My AI en aldersverifikation.
Snapchat har introduceret en ven, baseret på kunstig intelligens: ‘Børnene synes, det er enormt skræmmende’
Både Børns Vilkår og minister er bekymrede over den nye funktion i den populære app.

Kilder

https://help.snapchat.com/hc/da/articles/13266788358932-Hvad-er-Min-AI-p%C3%A5-Snapchat-og-hvordan-kan-jeg-bruge-den-

Snapchat’s new AI chatbot is already raising alarms among teens, parents
Snapchat’s AI chatbot is facing backlash not only from parents but also from some Snapchat users who are bombarding the app with bad reviews in the app store.

https://www.washingtonpost.com/technology/2023/03/14/snapchat-myai/

My AI on Snapchat
Over the weekend, Snapchat has released a new update but it has users skeptical about their personal privacy. What is this new update? This new update released by Snapchat is called “MY AI” It is an experimental chatbot. It claims it doesn’t know the device’s locations. Lately, people have been tes…

https://www.cpomagazine.com/data-privacy/creepy-snapchat-ai-chatbot-cant-be-removed-without-a-paid-subscription/

Snapchat’s ‘My AI’ Feature Faces Flak, Igniting Privacy Concerns
Snapchat’s “My AI” feature, powered by GPT technology, is being accused of being a privacy invader, faces massive criticism and poor ratings.
Snapchat’s AI Chatbot and the Future of Social Media: How Far is Too Far?
Snapchat’s new AI-powered chatbot raises concerns among parents and teens regarding privacy, mental health, and genuine human connections. Have we started to implement AI across our daily lives…
‘It knows your current location’: Snapchat’s AI chatbot is making people paranoid
Snap insists that the ‘experimental’ bot can access your location only with your permission. So what’s all the fuss about and how can you get or delete My AI?
Snapchat AI jailbreak prompt - how to break Snapchat My AI
To successfully break Snapchat My AI, four ChatGPT DAN jailbreak prompts are required. Read on to find out the Snapchat AI jailbreak prompt.
Snapchat’s My AI Isn’t As Safe As You Think It Is, And Here’s Proof
Some of My AI’s responses are concerning.
Jeg må ikke få Snapchat af mine forældre
Vores SletDet-rådgiver fortæller, hvad man kan gøre, hvis man ikke må få Snapchat og derfor føler sig uden for i klassen.