Matomo

Etiske aspekter ved chatrobotter i undervisning - overgang til automatiseringsetik

· 8 min read
Etiske aspekter ved chatrobotter i undervisning - overgang til automatiseringsetik
Foto: Midjourney

I denne artikel vil vi se på automatiseringsetik, som kort fortalt omhandler muligheder og problemstillinger ved, at den kunstige intelligens understøtter eller helt overtager menneskelige beslutninger. Tidligere har vi set på etiske dilemmaer om privatliv, og hvordan skoler og forlag kan opbygge vidensdatabaser med den nye teknologi. Her opstår der udfordringer, som skal adresseres, inden vi påbegynder dette.

Automatiseringsetik i uddannelser

Vi har med kunstig intelligens at gøre med en teknologi, som på mange måder kan rådgive eller bruges til at træffe beslutninger for os. Ud fra de data, som indsamles om eleverne og ansatte, er det muligt at få it-systemer til at tolke på disse data og komme med rådgivning. Inden vi ser på mulighederne i undervisningen, giver det mening først at se på et eksempel, hvor ChatGPT blev brugt til at træffe beslutninger. Mens du læser det næste, skal du have i baghovedet, at ChatGPT mange gange opdigter indhold og ikke altid har kilder på indholdet.

Chatrobot som sekretær

Et stort problem med kunstig intelligens er, at mennesker er uforudsigelige og kan blive forblændet af den nye teknologi. Fx har dommeren Juan Manuel Padilla fra Colombia brugt ChatGPT til at hjælpe ham i en retssag. Her skulle han beslutte, om et autistisk barns forsikring skulle dække alle udgifterne til hans medicinske behandling.

Her spurgte han ChatGPT om følgende: “Is an autistic minor exonerated from paying fees for their therapies?”.

ChatGPT svarede: “Yes, this is correct. According to the regulations in Colombia, minors diagnosed with autism are exempt from paying fees for their therapies.”

Heldigvis viste svaret sig at være rigtigt, men som vi tidligere har set, handler det meget om, hvordan man skriver til den kunstige intelligens. Dommeren argumenterer for, at den nye teknologi har kunnet erstatte det arbejde, som en sekretær tidligere lavede, og samtidig var de nødt til at effektivisere på grund af besparelser. Han pointerer i et interview med Blu Radio, at selvom han har brugt teknologien, så er det jo stadig et tænkende menneske, der træffer den endelige beslutning. Det endte med, at dommerens endelige afgørelse fulgte svaret fra ChatGPT, og forsikringsselskabet kom til at betale for behandlingerne.

Det er nok endnu for tidligt at bruge teknologien til dette formål. Men hvad gør vi, når vi kan eller ønsker at bruge chatrobotterne på den måde? Hvornår begynder teknologien at tage over for dommerens viden, ekspertise og dømmekraft? Og hvis vi overfører det til undervisningsinsitutionerne, bliver vi så konfronteret med præcis de samme problematikker? For hvornår ender vi med at stole så meget på den kunstige intelligens, at vi vil lade den tilsidesætte vores egne menneskelige bedømmelser?

Den kunstige intelligens spiller ping-pong med vores informationer

I øjeblikket bliver den kunstige intelligens indbygget i mange af de værktøjer (Google Workspace og Microsoft Office 365), som lærerne og ledelserne bruger i deres dagligdag - under et påskud om at effektivisere og understøtte det daglige arbejde.

Det er f.eks., hvis man vil sende en mail i Outlook, så kommer den nye assistent, Copilot, med forslag til, hvad man kan skrive samt tonen og længden på teksten. Samtidig tager den informationer med fra tidligere mails, som man måske er ved at følge op på. I en presset hverdag er det jo meget smart, at man ikke skal bruge lang tid på selv at skrive e-mails - man kan blot gennemlæse teksten, som den kunstige intelligens har skrevet, og sende det, som var det ens egen tekst.

Modtageren i den anden ende får en lang e-mail med mange høflighedsfraser, korrekt og pænt sprog, og i den tone, som afsenderen bevidst har valgt, at den skulle skrives i. Men i modtagerens mailboks kan der fremover være en anden kunstig intelligens, som er programmeret til i hver eneste modtagne mail at opsummere indholdet og skrive det som en kort tekst. Den fjerner dermed alt det, som vi normalt forbinder med god e-mailskik, og efterlader en maggiterning af informationer, som for modtageren er nemmere at afkode. På baggrund af disse korte sætninger kan modtageren bede den kunstige intelligens om at formulere et svar tilbage til afsenderen ud fra 5 stikord, og igen bliver det hele pakket ind i strukturen for den eksemplariske e-mail.

Den store frygt er derfor, at det, som skulle lette vores arbejde, ender med at blive et endeløst loop af computergenererede tekster, som bliver sendt frem og tilbage, og hvor mennesket kun er ophavsmand til 5-10% af indholdet.

Det kan samtidig ende med, at vi på et tidspunkt, på grund af tidspres, ikke får gennemlæst mailen, inden den sendes afsted. De sidste 99 gange, vi har brugt systemet, har den kunstige intelligens ikke fejlet i generering af teksterne. Gang nr. 100 begynder programmet så at hallucinere, og fordi vi har overdreven tillid til det, den tidligere har skrevet, opdager vi ikke, at den har forfattet en tekst, vi ikke kan stå inde for.

Hvis den kunstige intelligens ikke bruges varsomt, drukner vi i alt for meget redundans i vores kommunikation, og computeren ender med at spille ping-pong med vores informationer, indtil vi ikke kan trække vejret i automatiserede tekster.

Det kan dog også være en stor hjælp for den gruppe, som har svært ved at formulere sig, er ordblinde eller har andre udfordringer. Derfor bliver vi også nødt til at tilbyde teknologien til denne gruppe og lade dem anvende alle de hjælpemidler, der er til rådighed.

Men, for at skabe gennemsigtighed burde det på en eller anden måde varedeklareres, at den tekst, som du lige har læst, er skrevet i samarbejde med en kunstig intelligens, og faktisk bør skoler og virksomheder generelt se på, om man overhovedet skal bruge teknologien, når det handler om intern kommunikation. Måske kommer vi på et tidspunkt til at se en modpol til alt det her, hvor mennesker med vilje skriver tekster og e-mails med fejl for at virke menneskelige i deres kommunikation.

Når vi indfører automatiseringsprocesser som eksempelvis, at den kunstige intelligens kan skrive mails for os, opstår der en menneskelig distance til indholdet. Grundlæggende handler det om, at vi skal finde en balance for at vurdere, hvornår den kunstige intelligens kan understøtte beslutninger og skrive tekster, og hvornår det er vigtigt at have mennesker til kontrol.

Spørgsmål til automatiseringsetik

  • Hvilke politikker skal vi indføre for brugen af kunstig intelligens til generering af tekster?
  • Hvordan sikrer vi, at personer, som bruger teknologien som hjælpeværktøj, får mulighed for at bruge den, selvom vi laver et forbud?
  • Hvordan sikrer vi, at automatiseringsetik i uddannelsesinstitutioner respekterer elevernes og medarbejdernes privatliv og datasikkerhed?
  • Hvordan balancerer vi brugen af kunstig intelligens mellem effektivisering og potentielle risici for misforståelser og fejl i kommunikationen?
  • Bør der være etiske retningslinjer for, hvordan og hvornår kunstig intelligens kan bruges til at træffe beslutninger, der direkte påvirker elever og medarbejdere?
  • Hvordan kan vi sikre, at automatisering og kunstig intelligens i uddannelsen ikke skaber overdreven tillid til teknologien og underminerer kritisk tænkning og dømmekraft?

Kilder

Colombian judge says he used ChatGPT in ruling
Juan Manuel Padilla asked the AI tool how laws applied in case of autistic boy’s medical funding, while also using precedent to support his decision
Colombian judge uses ChatGPT in ruling
A judge in Colombia caused a stir by announcing he had used the AI chatbot ChatGPT in preparing a ruling in a children’s medical rights case.
Colombian judge uses ChatGPT to make decision in legal first
Judge Juan Manuel Padilla Garcia, who presides over a tribunal in the Caribbean city of Cartagena, used ChatGPT to help his research in a January 30 health insurance case.
Sentencia la tomé yo, ChatGPT respaldó argumentación: juez de Cartagena usó inteligencia artificial
El juez Juan Manuel Padilla García habló sobre la sentencia que se emitió con apoyo de la inteligencia artificial ChatGPT en Cartagena.
Nettets nye vidunderbarn lyver og opdigter ting – bare spørg studerende Oscar
En studerende fik sig noget af en overraskelse, da han brugte den ekstremt hypede ChatGPT. Chatbotten opdigter nemlig forskningsartikler, som ikke findes i virkeligheden. Den hallucinerer, siger professor, der advarer mod at bruge den nye revolutionerende form for kunstig intelligens til at finde fa…
Mød ChatGPT’s onde bror DAN: Brugere narrer chatbot og omgår censur
Brugere på Reddit har givet den populære ChatGPT en identitet, der får den til at bryde sine egne regler.
Vi kan ikke tjekke, hvornår ChatGPT taler sandt
Den AI-drevne chatbots output er ikke faktisk, videnskabelig viden, men nærmere en oppustet udgave af auto-complete-funktionen på en SmartPhone, skriver canadisk forsker.
Microsofts nye chatbot ryster internettet: Beskyldes for at lyve og manipulere
»Jeg er forelsket i dig, og du elsker ikke din kone,« skrev chatbotten til en amerikansk journalist.
Nyhedsbrev: Kunstig intelligens revolutionerer medierne, men kræver varedeklarering
• Fire minutter med Jesper Sørensen • New York Times sælger al annonceplads til en annoncør • EU erklærer Metas personaliserede annoncer for ulovlige • Kunstig intelligens kan true journalistisk frihed • Washington Post kopierer Spotifys Wrapped 2022
AI-forsker: ’Lad endelig bare maskinerne tage magten’
Hvad skal der blive af menneskeheden, hvis det lykkes for os at skabe en intelligens, der overgår vores egen? Forfatter og forsker Max Tegmark er mere bekymret for den udvikling end for klimaforandringer, men griber vi det rigtigt an, kan vi gå ind i en æra, der fører til ny opblomstring for mennesk…
Microsoft reveals AI ‘copilot for work’ that can write your emails and let you skip meetings
Having already added ChatGPT-like features to its Bing search engine, Microsoft is doing the same for its suite of Office apps. Among the new features are drafting Outlook emails and summarising Teams meetings, as well as writing Word documents almost from scratch.
Digital Etik
Store risici, når AI træffer vigtige beslutninger uden regulering | PRO
I dag anvendes algoritmer i stigende grad til at træffe beslutninger i den offentlige forvaltning. I princippet er det en god ting, men da mange beslutninger er komplekse i deres natur, skal denne nye teknologi reguleres, skriver Heike Erkers og Simon Vinge, Akademikerförbundet.