Cyberkriminelle har afsløret en ny dark-side innovation, WormGPT, designet til at lette ondsindede aktiviteter som business email compromise (BEC), malware og phishing-angreb. WormGPT, et sort-hat-alternativ til GPT-modeller, er blevet trænet i malware-relaterede data, hvilket gør det muligt at producere meget overbevisende falske e-mails, der kan bedrage selv de mest årvågne modtagere.
Forskere fra SlashNext har fremhævet de risici, der er forbundet med WormGPT, især vedrørende BEC-angreb. Værktøjet kan ikke kun efterligne en overbevisende tone, men udviser også strategisk list, hvilket gør det i stand til at orkestrere sofistikerede phishing- og BEC-skemaer.
Ydermere har cyberkriminelle udtænkt "jailbreaks", specialiserede prompter, der har til formål at manipulere generative AI-grænseflader til at generere skadeligt indhold eller offentliggørelse af følsomme oplysninger. Nogle hackere er gået længere ved at lave brugerdefinerede moduler, der ligner dem, der bruges af ChatGPT, for at forfine deres angrebsstrategier, hvilket vækker bekymring over den eskalerende kompleksitet af cyberforsvar.
Brugen af ​​generativ AI har indvarslet en "polymorf karakter" af angreb, der kan lanceres hurtigt og til minimale omkostninger, hvilket udfordrer det nuværende cybersikkerhedslandskab. Som et svar foreslår eksperter at anvende AI-støttede forsvarsmekanismer for effektivt at imødegå disse AI-genererede trusler.
Ifølge SlashNext CEO Patrick Harr er den bedste måde at bekæmpe AI-støttet cyberkriminalitet ved at integrere AI i forsvarskapaciteter. Ved at udnytte AI-baserede forsvarsværktøjer til at identificere og blokere udviklende AI-genererede trusler, kan organisationer være på forkant med cyberkriminelle, der søger at ændre deres angreb konstant.
Harr foreslår at bruge AI til at klone og diversificere syntetiske data for effektivt at forudse og imødegå fremtidige trusler. Efterhånden som AI-drevne angreb bliver mere sofistikerede, er afhængigheden af ​​AI til trusselsdetektion og afhjælpning afgørende for at overgå cyberkriminelles innovationer.
Imidlertid har den voksende popularitet af værktøjer til store sprogmodeller (LLM) som ChatGPT efterladt mange organisationer uforberedte på at forsvare sig mod de nye sårbarheder forbundet med denne teknologi. For at styrke cybersikkerheden skal organisationer omfavne AI-drevne løsninger for at tilpasse sig det stadigt skiftende trussellandskab.