Kunstig intelligens kan øge risikoen for cyberangreb og nedbryde tilliden til online indhold inden 2025, advarer en rapport fra den britiske regering.
Kunstig intelligens og AI er en teknologien i fuld fart frem. En ny rapport udarbejdet af den britiske regering lægger ikke fingre imellem når den påpejer den farer der er forbundet med denne nye teknologi. Der er hovedsagligt tale om trusler ifht. cybersikkerhed, men de mener endda at AI kan hjælpe med at planlægge biologiske eller kemiske angreb begået af terrorister, siger rapporten.
Men nogle eksperter har sat spørgsmålstegn ved, om teknologien dog vil udvikle sig så drastisk. Den bristiske premierminister Rishi Sunak forventes at fremhæve mulighederne og truslerne, som teknologien medfører, på et møde på idag.
Rapporten fra regeringen ser især på generativ AI - den type system, der i øjeblikket driver populære chatbots og billedgenereringssoftware, eks. ChatGPT og Midjourney.
Hvad indeholder rapporten?
Denne nyligt udgivet rapport er delvist baseret på afklassificeret information fra efterretningstjenesterne.
Rapporten advarer om, at inden 2025 kan generativ AI blive "brugt til at samle viden om fysiske angreb begået af ikke-statslige voldelige aktører, herunder kemiske, biologiske og radiologiske våben." Den siger, at selvom virksomheder arbejder på at blokere dette, "varierer effektiviteten af disse sikkerhedsforanstaltninger."
Der er idag mange hindringer for at skaffe viden, råmaterialer og udstyr til angreb, men disse barrierer falder og potentialet forøges muligvis i takt med at AI teknologien udvikles, mener rapporten.
Inden 2025 er det sandsynligt, at AI også vil hjælpe med at skabe "hurtigere, mere effektive og større omfang" cyberangreb, advarer den.
Joseph Jarnecki, der forsker i cybertrusler ved Royal United Services Institute, sagde, at AI kunne hjælpe hackere, især med at overvinde deres vanskeligheder med at efterligne officielt sprog.
AI vil bringe ny viden, nye muligheder for økonomisk vækst, nye fremskridt i menneskelig evne og muligheden for at løse problemer, vi engang troede var uden for vores rækkevidde. Men det bringer også nye farer og nye bekymringer Dette forventes at være Premierminister Rishi Sunaks budskab
"Der er en tone, der antages i bureaukratisk sprog, og cyberkriminelle har fundet det ret svært at beherske," sagde han. Rapporten kommer forud for en tale af Mr. Sunak på torsdag, hvor han forventes at redegøre for, hvordan den britiske regering sigter mod at gøre AI sikker og etablere Storbritannien som en global leder inden for AI-sikkerhed.
"AI vil bringe ny viden, nye muligheder for økonomisk vækst, nye fremskridt i menneskelig evne og muligheden for at løse problemer, vi engang troede var uden for vores rækkevidde. Men det bringer også nye farer og nye bekymringer" forventes Hr. Sunak at sige.
Han vil forpligte sig til at tackle disse bekymringer direkte, "så du og dine børn har alle muligheder for en bedre fremtid, som AI kan bringe." AI-møde
Kraftfulde fremtidige AI-systemer kan udføre en bred vifte af opgaver og overgå kapaciteterne hos dagens mest avancerede modeller - siger rapporten
Talen sætter scenen for et regeringstopmøde næste uge for at drøfte truslen fra højt udviklede AIs.
Det vil fokusere på reguleringen af såkaldt "Frontier AI": kraftfulde fremtidige AI-systemer, som ministrene siger "kan udføre en bred vifte af opgaver" og "overgå kapaciteterne hos dagens mest avancerede modeller".
Om sådanne systemer kunne udgøre en trussel mod menneskeheden, er der stor debat om.
En anden nylig offentliggjort rapport fra Government Office for Science, som rådgiver premierministeren og kabinettet, siger, at "mange eksperter betragter dette som en risiko med meget lav sandsynlighed og få plausible veje til at blive realiseret."
Den siger, at for at udgøre en risiko for menneskets eksistens, ville en AI have brug for en vis kontrol over vitale systemer, såsom våben eller finansielle systemer.
De ville også have brug for nye færdigheder såsom evnen til at forbedre deres egen programmering, evnen til at undgå menneskelig tilsyn og en følelse af autonomi.
Men den bemærker, at "der er ingen konsensus om tidslinjerne og sandsynligheden for, hvornår specifikke fremtidige evner kan opstå".
Spillereglerne
De store AI-firmaer er for det meste enige om, at regulering er nødvendig, og deres repræsentanter forventes at deltage i topmødet.
Men Rachel Coldicutt, ekspert i teknologiens sociale indvirkning, satte spørgsmålstegn ved fokus for topmødet.
Hun sagde, at det lægger for meget vægt på fremtidig risiko: "Det giver masser af mening, at teknologivirksomheder, der har mere at tabe ved at blive reguleret for de ting, de laver her og nu, vil fokusere på langsigtede risici."
"Og det har føltes sådan i løbet af sommeren, som om regeringens holdning har været meget stærkt afstemt til fordel for disse synspunkter," sagde hun til BBC.
Men hun sagde, at regeringsrapporterne "modererer noget af fervoren" om disse futuristiske trusler og gør det klart, at der er en kløft mellem "den politiske holdning og den faktiske tekniske holdning".