Click here and choose your language using Google's translation bar at the top of this page ↑
In de wereld van cyberbeveiliging is er een opkomende trend die zowel fascinerend als verontrustend is. Het gebruik van generatieve kunstmatige intelligentie (AI), zoals OpenAI's ChatGPT, en het cybercriminele hulpmiddel WormGPT, in Bedrijfsemail Compromis (BEC) aanvallen. Dit artikel belicht echte gevallen uit cybercrime forums en duikt diep in de mechanica van deze aanvallen, de inherente risico's van AI-gedreven phishing emails, en de unieke voordelen van generatieve AI in het faciliteren van dergelijke aanvallen.
Hoe Generatieve AI BEC Aanvallen Revolutioneert
De vooruitgang van kunstmatige intelligentie (AI) technologieën, zoals OpenAI's ChatGPT, heeft een nieuwe vector geïntroduceerd voor bedrijfsemail compromis (BEC) aanvallen. ChatGPT, een geavanceerd AI model, genereert mensachtige tekst op basis van de input die het ontvangt. Dit betekent dat cybercriminelen deze technologie kunnen gebruiken om de creatie van zeer overtuigende nep emails te automatiseren, die zijn gepersonaliseerd naar de ontvanger, waardoor de kans op succes voor de aanval aanzienlijk toeneemt.
In een recente discussie op een cybercrime forum, werd een voorbeeld getoond van hoe generatieve AI kan worden gebruikt om een email te verfijnen die kan worden gebruikt in een phishing of BEC aanval. De cybercrimineel raadde aan om de email in de moedertaal te schrijven, deze te vertalen, en vervolgens in een interface zoals ChatGPT te voeden om de verfijning en formaliteit te verhogen. Dit betekent dat aanvallers, zelfs degenen die geen vloeiendheid hebben in een bepaalde taal, nu meer dan ooit in staat zijn om overtuigende emails te fabriceren voor phishing of BEC aanvallen.
De Opkomst van WormGPT: Een Cybercrimineel Arsenaal
Ons team heeft onlangs toegang gekregen tot een hulpmiddel genaamd "WormGPT" via een prominent online forum dat vaak geassocieerd wordt met cybercriminaliteit. Dit hulpmiddel presenteert zichzelf als een blackhat alternatief voor GPT modellen, specifiek ontworpen voor kwaadaardige activiteiten.
WormGPT is een AI module gebaseerd op het GPTJ taalmodel, dat ontwikkeld werd in 2021. Het heeft een reeks functies, waaronder onbeperkte karakterondersteuning, chatgeheugenbehoud en codeformatteermogelijkheden. Het is getraind op een diverse reeks van databronnen, met name gericht op malware-gerelateerde data. Echter, de specifieke datasets die gebruikt werden tijdens het trainingsproces blijven vertrouwelijk, zoals besloten door de auteur van het hulpmiddel.
Voordelen van het Gebruik van Generatieve AI voor BEC Aanvallen
Het gebruik van generatieve AI biedt specifieke voordelen voor BEC aanvallen. Ten eerste kan generatieve AI emails creëren met onberispelijke grammatica, waardoor ze legitiem lijken en de kans verkleinen dat ze als verdacht worden gemarkeerd. Ten tweede verlaagt het gebruik van generatieve AI de instapdrempel voor het uitvoeren van geavanceerde BEC aanvallen. Zelfs aanvallers met beperkte vaardigheden kunnen deze technologie gebruiken, waardoor het een toegankelijk hulpmiddel wordt voor een breder spectrum van cybercriminelen.
Manieren om te Beschermen tegen AI-Gedreven BEC Aanvallen
De groei van AI, hoewel voordelig, brengt progressieve, nieuwe aanvalsvectoren met zich mee. Het implementeren van sterke preventieve maatregelen is cruciaal. Bedrijven moeten uitgebreide, regelmatig bijgewerkte trainingsprogramma's ontwikkelen gericht op het bestrijden van BEC aanvallen, vooral die versterkt door AI. Deze programma's moeten werknemers opleiden over de aard van BEC bedreigingen, hoe AI wordt gebruikt om ze te vergroten, en de tactieken die door aanvallers worden gebruikt.
Daarnaast moeten organisaties strenge email verificatieprocessen afdwingen om zich te versterken tegen AI-gedreven BEC aanvallen. Deze omvatten het implementeren van systemen die automatisch waarschuwen wanneer emails die afkomstig zijn van buiten de organisatie interne leidinggevenden of leveranciers imiteren, en het gebruik van email systemen die berichten markeren die specifieke trefwoorden bevatten die gelinkt zijn aan BEC aanvallen zoals "urgent", "gevoelig", of "draadoverdracht". Dergelijke maatregelen zorgen ervoor dat potentieel kwaadaardige emails grondig worden onderzocht voordat er actie wordt ondernomen.
In conclusie, de groei van AI, hoewel voordelig, brengt progressieve, nieuwe aanvalsvectoren met zich mee. Het implementeren van sterke preventieve maatregelen is cruciaal.
Je kunt AI ook inzet voor het goede, en bestrijding van cybercrime, daarvoor hebben wij een AI chatbot gebouwd die je kan helpen bij vragen over cybercrime of zelfs code kan analyseren, van hoe een aanval is opgebouwd. Je moet vooral doorvragen in je chat met de AI, zo begrijpt hij steeds beter wat je wil en wat je specifieke vraag is. Probeer het nu gratis uit.
Ontdek de kracht van AI bij het bestrijden van cybercriminaliteit
AI kan ook worden ingezet voor positieve doeleinden, zoals het bestrijden van cybercriminaliteit. We hebben een AI-chatbot ontwikkeld die je kan helpen bij vragen over cybercrime of zelfs in staat is om code te analyseren om te begrijpen hoe een aanval is uitgevoerd. Het is essentieel om door te vragen tijdens je gesprekken met de AI; op deze manier zal de AI steeds beter begrijpen wat je behoeften zijn en wat je precieze vraag is. Probeer het nu hier uit!
Meer info over BEC-fraude of alle begrippen en vormen van A tot Z
Meer actueel nieuws
AI wordt wapen en doelwit, 172 NL ransomwareslachtoffers
Deze week draaide alles om één rode draad, kunstmatige intelligentie stond aan beide kanten van het gevecht. Criminelen bouwden aanvalsplatforms rond een gejailbreakt taalmodel, verstopten malware achter een valse app van Claude en lieten software slachtoffers rangschikken op waarde. Tegelijk werd de techniek zelf een doelwit, met een ontsnapping uit de sandbox van Claude Cowork en de onthulling dat het de modellen van OpenAI waren die vorige week bij Hugging Face binnendrongen.
Verdachte gezocht na phishing bij vrouw uit Aalten
De politie zoekt een man die na een phishingzaak in Aalten 1.250 euro opnam bij een geldautomaat in Rotterdam. Er zijn duidelijke camerabeelden van hem vrijgegeven en de politie vraagt mensen die hem herkennen om zich te melden.
Een AI agent breekt binnen bij Hugging Face en wachtwoordmanager Passwork verzwijgt Russische banden
Het weekend leverde een primeur op die de sector nog lang zal bespreken. Bij Hugging Face, het grootste open source platform voor AI modellen, werd ingebroken door een volledig autonoom opererend AI systeem, dat in zijn eentje meer dan zeventienduizend acties uitvoerde in de productieomgeving. Tegelijk bleek uit journalistiek onderzoek dat de wachtwoordmanager Passwork, in gebruik bij Nederlandse organisaties, zijn Russische wortels jarenlang verzweeg.
Politie ontmantelt fraude van honderd miljoen per maand en aanvallers misbruiken SonicWall zerodays
De grootste overwinning van deze week komt uit eigen huis. De Nederlandse en Belgische politie ontmantelden een internationale beleggingsfraude die per maand meer dan honderd miljoen euro binnenhaalde, vanuit zo'n twintig callcenters met meer dan zevenhonderd nepadviseurs. Tegelijk bleef de dreigingskant onverminderd hard, want in SonicWall SMA1000 werden twee zerodaylekken actief misbruikt, en een reeks datalekken liet zien dat de echte schade voor burgers vaak pas maanden later valt, wanneer buitgemaakte gegevens terugkeren als gerichte fraude.
Verdachte gezocht na bankhelpdeskfraude in Tilburg
De politie zoekt een man die in Tilburg met de bankpas van een slachtoffer van bankhelpdeskfraude geld heeft opgenomen. De politie heeft een duidelijke foto van de verdachte vrijgegeven en vraagt iedereen die hem herkent om zich te melden.
Rusland bespioneert Nederland via camera's en CitrixBleed 2 versnelt de ransomware
De rode draad van dit weekend loopt langs de rand van het netwerk, precies daar waar apparaten aan het internet hangen die niemand meer echt in de gaten houdt. De Nederlandse inlichtingendiensten AIVD en MIVD maakten bekend dat Russische hackers slecht beveiligde camera's langs militaire routes hebben overgenomen om troepen- en wapentransporten te volgen. Tegelijk waarschuwde beveiligingsbedrijf Huntress dat aanvallers via de kwetsbaarheid CitrixBleed 2 binnen een uur van inbraak naar een volledige ransomware-aanval gaan, en rolde er opnieuw een golf actief misbruikte lekken binnen, van Adobe ColdFusion tot een router die de fabrikant niet meer onderhoudt.