Afgelopen vrijdag was ik te gast bij het programma RTLZ Cybersessies en deze kan je terugkijken via Videoland Aflevering 3 Seizoen 4. Aan tafel zat de presentator Remy Gieling, co-host Eva de Mol en ook tech-journalist Daniel Verlaan. Deze uitzending zou onder andere gaan over cybercrime en AI. Ik heb Aritifical Intelligence gestudeerd, zowel mijn Bachelor en Master op de VU en UvA. Daarnaast ben ik Cybercrime Specialist, dus ik vond het een eer dat ze mij te gast vroegen.
''AI regels is een vorm van moord''
Een aantal nieuwsberichten werden besproken aan tafel, zoals dit nieuwsbericht over kunstmatige intelligentie, waarbij de tech-miljardair Marc Andriessen een manifest publiceert van 5200 woorden waarin hij een betoog houdt over waarom te strenge regelgeving voor AI levens zal kosten. Hij gelooft dat door AI levens gered kunnen worden zoals auto-ongelukken tot pandemieën tot vriendschappelijk vuur in oorlogstijd.
Te bang gemaakt voor AI
In de uitzending werd om onze mening gevraagd. Ik was het met Marc eens, al vind ik de uitspraken die hij doet wel erg ver gaan. Maar mijn boodschap was dat we te veel bang worden gemaakt voor het gebruik van AI door televisie en films. De wereld is nu al in schok van ChatGPT terwijl dat in mijn ogen nog een redelijk simpel voorbeeld is van het gebruik van AI. We zijn er nog lang niet en ik denk inderdaad dat we daar veel grotere stappen in kunnen maken. Uiteraard stem ik wel voor ethische AI, zoals het formeren van een adviesraad AI vanuit de Tweede Kamer.
''Tweede Kamer eist snelle formatie adviesraad AI voor de overheid''
Het nieuwsbericht over de eis van de Tweede Kamer werd ook besproken.
Ik denk dat dit een hele goede ontwikkeling is, omdat meerdere landen al zo een adviesraad hebben. Eerste en Tweede Kamer leden hebben geen expertise overal in en daarom is het goed om deze expertise in te vliegen. Net zoals dat we een commissie voor digitale zaken hebben.
Het nieuwsbericht vanuit TNO
Een ander nieuwsbericht die wij aan tafel bespraken was een nieuwsbericht vanuit TNO.
Zij stellen dat AI alleen cyberaanvallen kan stoppen en dat het een autonoom systeem zal worden, waar dus geen mensenanalyse in hoeven te worden gedaan. De mens zal uiteraard wel het systeem moeten bouwen en controleren. Remy Gieling vroeg aan de gasten of wij bang moesten zijn dat alle banen hierdoor geschrapt gaan worden in cybersecurity.
Daarop antwoordde Daniel dat dit uiteraard niet het geval is. Ik ben ook van mening dat een machine beter anomalies (iets wat afwijkt van normaal gedrag) kan detecteren dan een mens. Daniel gaf als voorbeeld dat als er heel veel data opeens wordt gedownload door een cybercrimineel kan dat wijzen op een datalek. Dit is nog een redelijk simpel voorbeeld dat redelijk snel gedetecteerd kan worden. Maar denk aan een ransomware aanval waarbij een aanval 3 maanden lang acties aan het uitvoeren is binnen het netwerk van een slachtoffer.
Bijvoorbeeld eerst stuurt hij een phishing mail, een medewerker klikt hierop, er wordt malware geïnstalleerd, de hacker installeert een achterdeurtje. Nu gaat de hacker niet elke dag maar om de paar dagen voor maandenlang kijken waar hij allemaal bij kan, of hij hogere rechten kan verkrijgen, bijvoorbeeld beheerrechten. Pas als hij het hele netwerk heeft verkend zal hij de ransomware uitrollen.
Lees ook: Ransomware voorkomen: hoe goed ben jij voorbereid?
AI kan helpen te detecteren
Om al deze activiteit te detecteren en elkaar te koppelen is lastig voor mensen. Je moet je voorstellen dat er elke keer 1 verdachte activiteit gebeurt tussen heel veel andere normale activiteiten. Deze activiteiten bij elkaar vormen een patroon die verdacht is, maar los van elkaar is het lastig te detecteren. Hierbij kan AI zeker helpen!
AI kan ook de analisten ondersteunen. De analisten die in een SOC werken (Security Operations Center), monitoren 24/7 een netwerk. Door AI kunnen delen van het proces of geautomatiseerd kunnen of juist ondersteunen. Bijvoorbeeld door events te clusteren kan een analist beter in een opzicht zien wat er gebeurt. Of een classificatiealgoritme die probeert events te escaleren wanneer het echt verdacht is en andere events als niet verdacht classificeren. Een analist kan dan gelijk acteren op de verdachte events die het AI systeem heeft gevonden.
AI-developer bij cybersecurity bedrijf
Ik ben AI-developer geweest bij een cybersecurity bedrijf. Ik heb daar een clusteralgoritme ontwikkeld en geïmplementeerd in het SOC. Ik vond het een mooie tijd, maar ook een eenzame tijd. Ik werkte met 1 persoon samen, voor 1,5 jaar en niemand begreep goed wat we deden totdat het af was. Het zijn lange trajecten, maar als er echt een AI team zou worden opgericht zo dit sneller kunnen en sneller resultaten gehaald worden. Daarom de oproep aan alle cybersecurity medewerkers of eigenaren van bedrijven. Ga aan de slag met AI, het kan je business zeker verbeteren/versnellen!
