Security in het AI-tijdperk: AI is risicofactor, aanvalswapen én belangrijkste verdediging

Een opvallende poll-uitslag tijdens een recent webinar: 50% van de deelnemers maakt zich het meest zorgen over het securitygedrag van AI-gebruikers. Maar datalekken via openbare AI-modellen zijn niet het enige AI-risico voor security. Er zijn ook hackers die AI inzetten om sneller en effectiever te worden. En ook in de AI-modellen zelf kunnen aanvallen verwerkt zijn. Het antwoord op deze nieuwe risico’s? AI natuurlijk.

Gebruikers die bedrijfsdata invoeren in ChatGPT, gevoelige informatie delen met andere AI-tools buiten de corporate firewall of zelf AI-modellen downloaden zonder security validatie. Het zijn scenario’s waar IT-afdelingen grote zorgen over hebben: Wat gebeurt er met die data? Waar wordt het opgeslagen? Wie heeft er toegang toe?

“Ik denk dat dit hele rationele angst is,” stelt Henri van den Heuvel van Axians in ons recente webinar hierover. Jan Heijdra van Cisco ziet een parallel met het verleden: “We hebben een transitie gezien toen cloud-adoptie op ons afkwam. Bepaalde functionaliteit werd niet door IT aangeboden, dus gingen gebruikers dat uit de cloud halen. Nu zien we exact dezelfde trend, alleen nu voor AI-gedreven applicaties.”

De realiteit van shadow-AI

In de Amerikaanse media lezen we over een epidemie van mensen met een extra iPad in hun tas, omdat ze met de hardware van de baas niet bij ChatGPT mogen. Martijn Hendriks van Axians herkent het patroon: “Men creëert een workaround om toch gebruik te maken van ChatGPT of Copilot in plaats van de AI-oplossingen die door de organisatie gefaciliteerd worden, als die niet goed genoeg werken.”

Deze ongecontroleerde AI-adoptie door werknemers is maar één kant van het verhaal over AI en security. Een nog veel groter risico komt van cybercriminelen die gebruik maken van dezelfde AI-technologieën om hun aanvallen te verbeteren.

Het nieuwe dreigingslandschap

Security is in de afgelopen jaren fundamenteel veranderd. Waar organisaties vroeger een “hek om het pand” hadden, is de perimeter vandaag overal en nergens. “Alles moet zijn waar jij bent,” vat Henri het samen. “Any place, any time, anywhere, any connection.” Martijn ziet dit dagelijks in het Security Operations Center van Axians: “Het dreigingslandschap verandert steeds. Geopolitiek speelt daarin bijvoorbeeld een grote rol.”

Cybercriminelen gebruiken AI om hun aanvallen te verbeteren en op te schalen. Jan deelt een veelzeggend onderzoek: “De University of Illinois Urbana-Champaign voedde GPT-4 met kwetsbaarheden en liet het automatisch exploits ontwikkelen. 87% van die kwetsbaarheden konden automatisch uitgebuit worden.”

Deze trend wordt steeds urgenter, omdat de meeste organisaties volledig afhankelijk zijn van connectiviteit om überhaupt te kunnen werken: “Het is niet alleen het dreigingslandschap zelf, maar ook de afhankelijkheid die angst vergroot van ‘wat als het wegvalt?’” aldus Jan.

Dreiging vanuit AI-modellen zelf

Dan is er nog een derde AI-securitydreiging: de modellen zelf. Jan wijst in die context op het belang van supply chain security: “Welke modellen worden gebruikt door mijn organisatie en waar komen die vandaan? We zien al voorbeelden van modellen die van Hugging Face komen en waar malicious code in zit of waar weights zijn aangepast.”

Dit is een verschijnsel dat we kennen van softwareleveranciers, SaaS, standaardcomponenten of developers die stukjes code gebruiken die ze op GitHub vinden: een kwetsbaarheid komt in veel gevallen helemaal niet uit onze eigen code of configuratie.

Maar hoe test je de veiligheid van een AI-model? Cisco heeft daarvoor al geautomatiseerde tests.

Deze guardrails houden AI vervolgens binnen veilige grenzen: “Je zet die ergens in je infrastructuur om zo’n model heen, zodat kwetsbaarheden niet misbruikt kunnen worden.”

AI als wapen en schild

AI levert dus allerlei nieuwe securitydreigingen op. “Maar,” voegt Martijn toe. “AI geeft ons ook inzichten waardoor we nieuwe bedreigingen zien ontstaan.”

Het mes snijdt inderdaad aan twee kanten. Want de technologie biedt ook verdedigingsmogelijkheden. “We kunnen een AI trainen op alle kwetsbaarheden die we gezien hebben en automatisch mitigerende maatregelen laten nemen,” legt Jan uit. “AI betekent veel automatisering, en automatisering verhoogt de snelheid van dreiging tot maatregelen enorm.”

Visibility als startpunt

Maar zoals zo vaak begint de oplossing bij inzicht. Henri: “Wie wil wat benaderen, op welke manier en waar staat het? Het creëren van dat overzicht is waar stap 1 begint.”

Dat inzicht krijg je nooit, zo is de consensus aan tafel, als je te veel verschillende oplossingen gebruikt voor security en beheer. Het beheersen van de complexiteit is cruciaal. “We moeten naar holistische oplossingen en die met elkaar integreren,” stelt Jan. “Oplossingen die vanuit een managementperspectief op dezelfde manier aangesproken kunnen worden. Anders eindig je met een raamwerk van verschillende oplossingen die je weer aan elkaar moet knopen.”

Henri vult aan: “Eén en één moet drie zijn. Als een virusscanner iets tegenkomt, moet niet iedere firewall dit opnieuw bedenken. Iedereen moet in één keer geïnformeerd zijn.”

Centralized intelligence

Dat red je als organisatie niet meer alleen. De kracht van moderne cybersecurity ligt in collectieve verdediging.

Deze benadering wordt mogelijk gemaakt door AI, die patronen herkent over verschillende organisaties heen. “Het netwerk ziet alles,” stelt Jan. “Vanuit het netwerk kun je die telemetrie verzamelen die je nodig hebt om inzicht te krijgen. Welke stappen zie ik die genomen worden door kwaadwillenden op het moment dat ze proberen binnen te komen?”

Cisco’s Talos Threat Intelligence-organisatie speelt hierin een cruciale rol door wereldwijd informatie te verzamelen over emerging threats. Deze intelligence voedt alle Cisco-oplossingen met realtime informatie over nieuwe aanvalsmethoden. “Met die informatie kun je de aanvallende partijen een stap voor zijn,” aldus Jan.

Axians combineert deze globale intelligentie met lokale expertise in hun Security Operations Center. Martijn beschrijft de aanpak: “We kijken holistisch naar klantomgevingen, maar ook heel klantspecifiek. We vergelijken het dreigingslandschap wereldwijd met wat er zich bij een specifieke klant afspeelt.”

De waarde zit vooral in de correlatie tussen verschillende databronnen. Een aanvalstechniek die bij klant A wordt gedetecteerd, kan heel snel als input worden gebruikt om de verdediging bij klanten B, C en D te versterken. AI maakt het mogelijk om deze correlaties te maken en automatisch mitigerende maatregelen voor te stellen. “Alleen data verzamelen kan iedereen,” benadrukt Jan. “Maar hoe ga je dat omzetten in iets waar je als securityorganisatie de juiste stappen mee kunt zetten? Daar zit de toegevoegde waarde van gecentraliseerde intelligence.”

Praktische implementatie

Voor organisaties betekent dit alles dat security geen ‘afterthought’ meer kan zijn. Het is niet meer iets wat je als aparte oplossing toevoegt aan een bestaande architectuur. Martijn: “We kijken holistisch naar klantomgevingen vanuit securityframeworks. Welke bedreigingen zien we? Hoe kunnen we die afwenden?”

Het proces begint met risico-gebaseerde tuning. “In het begin heb je heel veel data en proberen we dat terug te brengen tot de kern. We hangen dat aan een risk model en werken dan samen met de klant om te bepalen wat de belangrijkste risico’s zijn hoe we ze gaan bestrijden.”

Henri benadrukt de rol van AI en machine learning binnen security operations: “We kunnen actief gebruik maken van AI binnen het SOC en onze security-oplossingen. Dat maakt dat wij centraal een goed realistisch overzicht krijgen.”

De enabler-rol en de toekomst van security

Security is dus niet, zoals sommigen nog denken, een rem op innovatie. Security maakt innovatie juist mogelijk. “Security is de enabler om vooruit te gaan,” benadrukt Jan. “Als we security vanaf dag één meenemen in AI-adoptie, geeft dat uiteindelijk versnelling en competitief voordeel.”

Henri bevestigt dat: “Natuurlijk is er altijd discussie. Maar moderne security ligt niet voor de kar. Moderne security zegt: we gaan mee, maar wel op de juiste manier.”

De ervaring met eerdere technologische revoluties helpt daarbij. “Er is veel ervaring in de industrie over dit soort ontwikkelingen, zoals bijvoorbeeld cloud.” stelt Jan. “Die komt nu van pas.”

Het nieuwe security-paradigma draait om intelligente integratie van AI, cloudgebaseerde oplossingen en proactieve monitoring. Organisaties die nu investeren in deze aanpak, kunnen AI veilig adopteren en concurrentievoordeel behalen. En ja, de angst voor AI-risico’s is terecht, maar hoeft innovatie absoluut niet in de weg te staan. Integendeel: nu goed nadenken over veiligheid is straks vooroplopen.

Wil je weten hoe je AI veilig inzet binnen jouw organisatie?

Bekijk dan het on-demand Axians lunch & learn webinar over security in het AI-tijdperk. Leer van experts van Axians en Cisco hoe je grip krijgt op AI-risico’s én hoe je AI inzet als krachtig verdedigingsmiddel.