Generativa AI-tjänster som producerar text- och bildmaterial har stora förutsättningar att förenkla och effektivisera arbetet inom en mängd olika branscher. Tyvärr gäller det även cyberbrottsligheten. Det visar en granskning som Cisco Talos.
Cisco Talos, Ciscos avdelning för hotanalys, har i en ny bloggpost gått igenom hur AI-tjänsterna förändrar förutsättningarna för cyberbrott.
Henrik Bergqvist, cybersäkerhetsexpert på Cisco Sverige, känner oro för utvecklingen.
– De basmodeller som är grunden för AI-verktygen bygger på enorma mängder data och information om alla tänkbara industrier. Med den informationsdatabasen blir det mycket enklare för bedragare att bygga ett riktat meddelande som både ser mycket mer initierat och kvalificerat ut, med relaterbart innehåll, och produceras väldigt mycket snabbare”, säger Henrik Bergqvist.
Trots att generativa AI-verktyg för konsumentbruk har ett antal spärrar för att undvika att de används för oetiska syften är det i dagsläget lätt att kringgå dem, enligt Cisco. De lyfter fram ett exempel: hur man lurar AI-tjänsten att författa ett nätfiskemeddelande, med motiveringen att det ska användas i utbildningssyfte för att lära andra om cybersäkerhet.
Dessutom kan man helt enkelt utger sig för att vara någon annan än man är.
– Om jag till exempel vill angripa en livsmedelskedja kan jag utge mig för att vara en leverantör som behöver hjälp att formulera ett professionellt och intressant brev till en inköpsansvarig om en ny produkt, exempelvis en kyldisk. Produktbladet som följer med som bilaga har en smittad fil, och mer än så behövs inte för att genomföra intrånget, säger Henrik Bergqvist.
Att det blir enklare och går snabbare att ta fram personligt anpassade angrepp leder till större utmaningar – men motmedlen förbättras samtidigt.
– Det är en spännande tid och AI och maskininlärning är minst lika kraftfulla verktyg för oss som arbetar med säkerhet, och hjälper oss redan idag att genomföra allt djupare analyser och snabbt upptäcka misstänkta beteenden. För konsumenter finns redan idag tjänster som byggts för att kunna avslöja om en text är AI-genererad eller inte och även dessa tjänster uppdateras och förbättras hela tiden, säger Henrik Bergqvist.
