Moderatorer på Reddit-forummet r/AskHistorians opdagede i december sidste år, at der begyndte at dukke indlæg op, som bar præg af at være genereret af kunstig intelligens (AI). De var nemme at spotte, da de ikke var omfattende, og ofte indeholdt falske oplysninger.
Holdet bag forummet indså hurtigt, at de var blevet et mål for ChatGPT-genereret indhold.
ChatGPT blev lanceret sidste år og har sidenhen skabt en uendelig karussel af hype. Ifølge nogle evangelister kan teknologien bag ChatGPT udrydde hundredvis af millioner af job, udvise tegn på singulære, generaliserede AI'er og muligvis ødelægge verden, men på en måde, der betyder, at du skal købe den nu. Mindre glamorøse konsekvenser, som at skylle en tsunami af AI-produceret affald ud på internettet, har hidtil ikke fået samme opmærksomhed.
Det to millioner store AskHistorians-forum giver ikke-eksperter mulighed for at stille spørgsmål om historiske emner og modtage dybdegående svar fra historikere. For nylig har populære indlæg undersøgt, om stresset ved at være "på tid" er en moderne opfindelse; hvad en middelalderlig skriver ville have gjort, hvis klosterkatten efterlod et blækpoteftryk på deres pergament; og hvordan Genghis Khan fik fiber i sin kost.
Kort efter lanceringen af ChatGPT oplevede forummet fem til ti ChatGPT-indlæg om dagen, siger moderator Sarah Gilbert, hvilket hurtigt steg, da flere fandt ud af om værktøjet. Hyppigheden er nu aftaget, hvilket holdet tror kan være en konsekvens af, hvor grundigt de har håndteret AI-produceret indhold: selvom indlæggene ikke bliver slettet for at være skrevet af ChatGPT, overtræder de ofte subreddits standarder for kvalitet.
Moderatorerne mistænker, at nogle ChatGPT-indlæg er rettet mod at "teste" moderatorerne eller se, hvad brugeren kan slippe afsted med. Andre kommentarer er klart en del af astroturfing- og spam-kampagner eller er involveret i "karmahøstning", hvor konti oprettes for at samle upvotes over tid, hvilket giver dem udseendet af at være autentiske, så de senere kan anvendes til mere skumle formål.
Men det er ikke kun et enkelt godt modereret forum, der oplever problemet. Reddit's ChatGPT-drevne bot-problem er "ret slemt" lige nu, ifølge en Reddit-moderator med kendskab til platformens bredere modereringssystemer, der ønskede at forblive anonym.
Siden afsløringen af skandalen har der været en enorm offentlig debat omkring virksomhedens ansvar og hvordan man bedst beskytter brugerdata på sociale medier. Flere politikere og regeringsledere har kritiseret Facebook for at have for svage retningslinjer og reguleringer på området.
Facebook har efterfølgende taget skridt til at forbedre sikkerheden på platformen og har implementeret flere nye funktioner for at beskytte brugerdata. Virksomheden har også forpligtet sig til at arbejde tættere sammen med myndighederne for at forbedre reguleringen af sociale medier.
Men spørgsmålet om beskyttelse af brugerdata på sociale medier er stadig et stort og komplekst problem, og der er stadig mange uafklarede spørgsmål om, hvordan man bedst kan løse det.
En del af løsningen kan være at oprette mere strenge reguleringer og retningslinjer for virksomheder som Facebook, så de er nødt til at beskytte brugerdata på en mere effektiv måde. Samtidig kan brugerne også tage ansvar for deres egen sikkerhed ved at tage forholdsregler, som f.eks. at være mere opmærksomme på, hvilke data de deler og med hvem.
Alt i alt viser denne skandale, at beskyttelse af brugerdata på sociale medier stadig er en vigtig udfordring, som både virksomheder og brugere skal tage alvorligt.
Comments