De impact van ChatGPT op Cybersecurity
Terwijl ik de voordelen van ChatGPT vier, ben ik me ook bewust van de mogelijke risico's. Want als ik ChatGPT kan gebruiken voor mijn werk, dan kunnen kwaadwillenden dat ook. Dus vraag ik me af: Wat betekent de komst van geavanceerde AI zoals ChatGPT voor mij als verdediger in de digitale wereld?
Als we kijken naar de huidige stand van ransomware-aanvallen, is het duidelijk dat zo'n 95% begint met een eenvoudige phishing-mail. Nu introduceert ChatGPT, met zijn naadloze interactie en foutloze taalgebruik, een nieuwe dimensie in deze dynamiek. Het vermogen van ChatGPT om spelfouten, grammaticale fouten en verkeerde werkwoordstijlen te vermijden betekent dat hackers over de hele wereld de mogelijkheid hebben om hun phishing-campagnes te versterken met bijna-vloeiend Nederlands.
Het detecteren van phishing-mails is al een hele uitdaging, en met deze ontwikkeling wordt het alleen maar moeilijker. Ik verwacht ook dat de intensiteit van de aanvallen zal toenemen. In deze strijd is het cruciaal om iedereen in een organisatie alert te maken op dit potentieel gevaar. Het herkennen van ‘red flags’ is zelfs voor IT-professionals lastig. Daarom adviseer ik gebruikers altijd om paranoïde te zijn: elke e-mail die ze niet direct kunnen plaatsen, moet als verdacht worden beschouwd.
Wat nog indrukwekkender is, is dat de invloed van ChatGPT verder reikt dan alleen taalverwerking. Hoewel ik zelf niet vaak meer programmeer, weet ik dat collega’s van ons Security Operations Center (SOC) vaak ChatGPT gebruikten om programmacode te genereren. Tijdens onze zomerbarbecue hoorde ik van een collega van ons SOC dat hij ChatGPT had gebruikt om code te genereren om een botnet op te zetten - puur als experiment, natuurlijk!
Wat nog indrukwekkender is, is dat de invloed van ChatGPT verder reikt dan alleen taalverwerking. Hoewel ik zelf niet vaak meer programmeer, weet ik dat collega’s van ons Security Operations Center (SOC) vaak ChatGPT gebruikten om programmacode te genereren. Tijdens onze zomerbarbecue hoorde ik van een collega van ons SOC dat hij ChatGPT had gebruikt om code te genereren om een botnet op te zetten - puur als experiment, natuurlijk!
Onderzoekers van Checkpoint, een vooraanstaand Israëlisch bedrijf, trekken aan de alarmbel over de groeiende interesse van hackers in ChatGPT. Ze rapporteren dat hackers op dit moment actief experimenteren met ChatGPT en kijken hoe ze deze technologie kunnen inzetten voor hun dagelijkse criminele bezigheden. Het onderzoek van Checkpoint heeft aangetoond dat verschillende prominente hackergemeenschappen al begonnen zijn met het gebruik van ChatGPT om schadelijke hulpmiddelen te creëren. Opvallend is dat velen van hen geen ervaring of vaardigheden hebben op het gebied van softwareontwikkeling. Ze leunen op de AI-technologie om de technische lacunes te overbruggen.
Hoewel de momenteel door deze cybercriminelen ontwikkelde tools nog basaal zijn, is het slechts een kwestie van tijd voordat geavanceerdere bedreigingen opduiken. We moeten ons voorbereiden op een toekomst waarin AI-gebaseerde tools, zoals ChatGPT, in toenemende mate worden ingezet door kwaadwillige actoren. We bevinden ons op een spannend kruispunt, waarbij we waakzaam moeten zijn en open moeten blijven voor nieuwe mogelijkheden die hackers in handen krijgen.
2 augustus 2023
