En ny "ven" har gjort sin entré på titusindvis af Snapchat-brugerkonti, og det er ikke nemt at slippe af med den igen.
For nylig har det sociale medie introduceret en ny funktion i sin app: En chatbot ved navn 'My AI', der ligner en ven. Denne chatbot er baseret på kunstig intelligens og vises øverst i appen over samtaler med brugerens rigtige venner.
Denne funktion har vakt bekymring hos kulturminister Jakob Engel-Schmidt (M) og organisationen Børns Vilkår, som kalder det "enormt bekymrende". Årsagen er, at chatbotten udgiver sig for at være en ven, hvilket kan føre til, at børn deler følsomme oplysninger med den.
Selvom funktionen vækker bekymring, er det ikke nemt at fjerne den. For at kunne slette 'My AI' fra Snapchat skal man i øjeblikket være abonnent på Snapchat+, hvilket koster 249 kroner om året, svarende til lidt over en tyver om måneden.
Selvom Forbrugerrådet Tænk ikke er generelt imod chatbots, er de ikke begejstrede for 'My AI'.
"Vi befinder os i en periode i vores samfund, hvor vi ikke er helt klar til at rette denne teknologi mod børn" Anette Høyrup, chefjurist hos Forbrugerrådet Tænk.
"Derfor kan vi simpelthen ikke se rimeligheden i, at man skal betale for at slippe af med den."
Teknologien bag 'My AI' er baseret på OpenAI's chatbot, ChatGPT, som har revolutioneret den digitale virkelighed over hele verden i de seneste måneder. Men der er endnu ikke etableret lovgivning om kunstig intelligens.
I øjeblikket arbejder EU på en såkaldt AI-forordning, men den er endnu ikke vedtaget. Snapchat kan altså få stor værdi ud af de spørgsmål, brugerne stiller 'My AI'.
Når man skal betale for at få adgang til funktionen, handler det om, at Snapchat ønsker at fastholde brugerne på appen, forklarer Thomas Ploug. Når brugerne oplever meningsfulde samtaler med 'My AI', kan det blive afhængighedsskabende og dermed gøre appen mere interessant at bruge.
Thomas Ploug er ikke nødvendigvis imod at have en chatbot på Snapchat, men han påpeger vigtigheden af at beskytte brugerne. "Først og fremmest skal Snapchat muliggøre, at man kan fravælge 'My AI' uden at skulle betale for det," siger han. "Man bør overveje, om standardversionen af appen bør være uden 'My AI'." Han tilføjer: "Det skal være let for brugerne at beskytte sig mod tjenester, der rejser så åbenlyse dataetiske problemer."
Når man klikker på 'My AI' for første gang, vises en besked på skærmen, hvor det står, at alt indhold med 'My AI' bliver gemt, medmindre man selv sletter det. Derudover oplyses det, at 'My AI' kan bruge de delte oplysninger til at forbedre Snap's produkter og skræddersy brugeroplevelsen, herunder annoncer.
Forbrugerrådet Tænks Anette Høyrup tvivler dog på, om Snapchat på den måde kan undslippe de bekymringer, der er forbundet med 'My AI'. "Især fordi vi ved, at mange børn bruger denne tjeneste. Det lægger et endnu større ansvar på virksomheden, end hvis det kun var en tjeneste for voksne," siger hun. Hun påpeger også, at det kan være sværere for børn at forstå, hvad der ligger bag tjenesten. "Det er ikke bare svært, det er umuligt. Vi voksne kan ikke engang gennemskue, hvor dataene ender, hvordan de bliver brugt, og hvordan de kan slettes," tilføjer hun.
Overholder Snapchat overhovedet EU's GDPR?
Der er også tvivl om, hvorvidt 'My AI' overholder EU's GDPR-lovgivning, der handler om beskyttelse af personlige oplysninger. Anette Høyrup vurderer, at der kan være spørgsmål ved det, især når tjenesten angiver, at den gemmer al data, medmindre man selv sletter det.
Der er et behovet for at beskytte brugerne, især børnene, når det kommer til teknologier som 'My AI'. Det foreslås, at Snapchat bør gøre det nemmere for brugerne at fravælge funktionen uden at skulle betale for det og bør overveje at tilbyde en standardversion af appen uden 'My AI'. I mellemtiden arbejder EU på at etablere lovgivning om kunstig intelligens, men indtil det sker, kan Snapchat drage fordel af brugernes interaktion med 'My AI' og opretholde deres tilstedeværelse på appen.
Der er stadig mange bekymringer og spørgsmål omkring 'My AI' og lignende teknologier, og det understreges, at der er behov for at adressere disse bekymringer og sikre, at beskyttelsen af brugernes data og privatliv prioriteres højt.