AI vraagt om lef

AI blokkeren is geen optie: tijd voor een nieuwe kijk op security

Voor veel organisaties is AI op dit moment hét grote security-vraagstuk. Krachtige tools zijn vaak direct via het web beschikbaar en de verleiding voor medewerkers is groot om die te gebruiken. Maar wat is veilig? Volgens Natasja Pieterman, hoofd cybersecurity van Capgemini Nederland en learning consultant bij Capgemini Academy, is een nieuwe blik op security noodzakelijk. AI blokkeren is nagenoeg onmogelijk en ook onwenselijk. De kunst is medewerkers te stimuleren op de juiste manier met technologie te experimenteren en hen daarin goed te begeleiden.

Voor Natasja is carrière maken in IT-security de logische uitkomst van een zorgvuldige verkenning. Na een juridische opleiding deed ze een studie bedrijfskunde, gevolgd door een master in bedrijfsprocessen en IT. In dat laatste werkveld vond ze precies wat haar ligt: de combinatie van systemen, processen en organisatievraagstukken. Inmiddels werkt Natasja al vijftien jaar op het snijvlak van IT, systeembeheer en security. De laatste twee jaar doet ze dat als hoofd van de cybersecurity-afdeling van Capgemini Nederland.

In de afgelopen jaren ziet Natasja het IT-speelveld drastisch veranderen. IT-beheer was lang overzichtelijk. Werknemers hadden een eigen werkplek met dichtgetimmerde pc’s met een beperkt aantal toepassingen. Vandaag de dag werken medewerkers op allerlei locaties en met verschillende apparaten, mobiel en anderzijds, van de zaak en/of en privé.

Bovendien zijn krachtige tools online met een paar klikken bereikbaar en vinden werknemers moeiteloos alternatieve routes als de organisatie bepaalde software niet aanbiedt. Tegen die achtergrond is AI voor veel organisaties het security-vraagstuk van dit moment geworden. ‘AI blokkeren is geen optie meer.’

Natasja, je zit al heel wat jaren in het vakgebied van IT en security. Wat is er nu wezenlijk anders dan pakweg vijf jaar geleden?

‘Voorheen draaide security voor organisaties vooral om je eigen processen, je eigen applicaties en je eigen databeheer. Dat is niet meer zo. Medewerkers werken op allerlei manieren buiten de systemen die organisaties hen aanbieden en begeven zich daarmee volop buiten die klassieke, afgeschermde werkomgeving. Het is voor organisaties veel minder duidelijk welke tools werknemers gebruiken, welke data ze in welke applicaties stoppen en waar die data vervolgens heengaat.’

Waar wringt dit het meest?

‘Overduidelijk bij AI. Toepassingen op dit gebied zijn heel laagdrempelig online beschikbaar. Mensen kennen ChatGPT en vergelijkbare apps en denken dan: “Dit kan ik ook gebruiken voor mijn werk!” Dat doen ze bijvoorbeeld om een presentatie te maken of een beleidsdocument op te stellen. Dat is logisch gedacht ook, want het helpt om productiever te werken en dagelijkse taken makkelijker te maken.’

En waarom wringt dat?

‘AI-toepassingen draaien op input. Wat je erin stopt, wordt gebruikt om antwoord te geven, analyses te maken of andere tekst te genereren. Hoe meer informatie je geeft, hoe beter zo’n programma werkt. Maar daarmee geef je zo’n systeem ook informatie prijs. Veel van die modellen slaan input op en gebruiken die om zichzelf te verbeteren en die input ook weer als output te gebruiken. En dan wordt het gevaarlijk. Stel, je bent bezig een presentatie te maken over omzet- en winstcijfers, en je gebruikt daarbij AI om een mooie presentatie te maken. Dan wil je wel zeker weten dat die gevoelige informatie niet buiten je eigen organisatie terechtkomt.’

AI is dus niet te vertrouwen. Verbieden, dan maar?

‘Dit was lange tijd wel de reflex van organisaties, maar dat werkt niet. Ik benoemde net al dat AI de productiviteit flink kan verhogen en werknemers echt kan helpen. Werknemers die eenmaal van die voordelen geproefd hebben, willen vaak niet meer terug. Dan kun je als systeembeheerder wel een totaalverbod opleggen, maar in de praktijk is dat kansloos. Werknemers kunnen op veel manieren de weg naar AI-applicaties vinden en als IT-beheerder heb je nog maar beperkt zicht op wat werknemers allemaal gebruiken.’

Als verbieden niet werkt, hoe houd je dan nog de regie?

‘De rol van systeembeheerder is hier nog steeds superrelevant. Eerst moet je begrijpen hoe die toepassingen precies in elkaar zitten. De ene app is de andere niet. Hetzelfde geldt voor de modellen daarachter. Je moet weten wat zo’n toepassing doet met de data die je invoert. Waar wordt die opgeslagen? Blijft de data binnen je eigen organisatie? Wordt die in Europa opgeslagen of in China of de Verenigde Staten? En onder welke voorwaarden gebeurt dat? De contracten en de controlemogelijkheden verschillen sterk per leverancier en dan ook nog per model. ChatGPT bijvoorbeeld heeft AI-abonnementen waarbinnen alle data vrij kunnen worden gebruikt om hun modellen te trainen, maar ook abonnementen die beloven geen data te verwerken. Aan de IT-beheerder de taak om het kaf van het koren te scheiden en te bepalen welke tools veilig zijn en onder welke voorwaarden.’

Maar dan nog: stel dat je een app gebruikt van een leverancier die zegt data wel te verwerken maar niet te behouden, hoe weet je dat zo’n app zich ook echt aan die afspraken houdt?

‘Zodra je data niet alleen intern verwerkt maar ook via online systemen, is dat nooit 100% zeker. Daarom is het zaak niet alleen te kiezen voor een bepaalde leverancier, maar ook een afweging te maken tussen productiviteit en risico. Hoe die afweging uitvalt, verschilt sterk per organisatie. Een scale-up zal bijvoorbeeld eerder accepteren dat er wat data weglekt als daar snelheid en innovatie tegenover staan. Voor een overheidsorganisatie ligt dat heel anders. Die kan zich niet permitteren dat er bijvoorbeeld persoonlijke gegevens lekken. Er is dus niet één model dat voor iedereen werkt.’

Die afweging is helder, maar zelfs als je sommige AI-tools openstelt en andere niet, zullen werknemers wellicht nog steeds geneigd zijn af en toe een ander AI-model of app te proberen…

‘Zo kijk ik er ook naar. Tijdens een training vertelde iemand me bijvoorbeeld dat Microsoft Copilot werd toegestaan, terwijl ChatGPT op het werk was geblokkeerd. Mijn eerste vraag was natuurlijk: “Gebruiken jullie ChatGPT dan ook echt niet?” Toen begon bijna iedereen een beetje ongemakkelijk te schuiven. Het eerlijke antwoord was: “Jawel, tuurlijk doen we dat. Als de Wi-Fi het blokkeert, zetten we die uit en werken we via de hotspot van onze telefoon.”’

Je kunt als organisatie weldoordachte regels bedenken, maar op de werkvloer blijken die niet te handhaven?

‘Dit is een heel belangrijk punt, en dit is ook echt anders dan vroeger. Als je alleen zegt dit mag niet en dat mag wel, dan zullen werknemers zich beperkt voelen en zoeken ze alsnog hun eigen weg. Daarom is het niet genoeg om regels op te stellen. Je moet mensen ook meenemen in waarom iets als risicovol gedrag wordt aangemerkt en waarom dat leidt tot bepaalde keuzes op het gebied van applicatiebeheer.’

Kun je dat concreter maken?

‘Ja. Als je alleen tegen iemand zegt: “Die ruimte mag je niet in, dat is verboden, dan lopen mensen er alsnog binnen, al was het maar uit nieuwsgierigheid. Maar als je uitlegt dat in die ruimte straling is en dat het schadelijk is voor hun gezondheid en dat van hun omgeving, dan gaan ze er met een grote boog omheen! Zo werkt het in het huidige IT-landschap ook. Als je mensen leert welke plekken relatief veilig zijn en wanneer iets risicovol is, dan zijn ze veel meer geneigd zich aan de regels te houden.’

IT security is niet alleen een kwestie van regels, maar ook van bewustwording?

‘Inderdaad. Organisaties zijn gewend om risico’s te bekijken vanuit processen en applicaties. Maar bij AI en vergelijkbare toepassingen gaat het veel nadrukkelijker om cultuur en gedrag.

‘Niet alleen de techniek is bepalend, maar vooral hoe mensen ermee werken, welke afwegingen zij zelf maken en hoeveel ruimte zij ervaren om hun eigen keuzes te maken. Dat vraagt iets anders van IT security-specialisten. Zij moeten niet alleen begrenzen, maar medewerkers actief helpen om veilig en verantwoord met die technologie om te gaan.’

Samenvattend: laten we AI verbieden waar het moet en mogelijk maken waar het kan?

‘Ik zou het zelf net iets anders formuleren. Security moet het dagelijkse werk niet verhinderen. Uiteindelijk wil een organisatie vooruit. Security is er om dat veilig mogelijk te maken. Dus alles wat je technisch kunt beveiligen, moet je technisch beveiligen. Wat je niet kunt beveiligen, moet je misschien wel verbieden. Maar daarnaast moet je ook zorgen dat mensen begrijpen waarom bepaalde keuzes worden gemaakt en welke veilige ruimte er wél is.’ ‘Uiteindelijk maak je echt het verschil als mensen begrijpen wat veilig is, waarom er bepaalde grenzen zijn en binnen welke ruimte ze wél kunnen werken. Pas dan wordt security geen rem op innovatie, maar een voorwaarde ervoor.’

Kun je dat ooit perfect doen?

‘Nee. IT security is eigenlijk net als het beveiligen van je woning: je doet het zo goed mogelijk, maar als een inbreker echt binnen wil, dan is de kans groot dat het hem lukt. Zaak als eigenaar is dat je woning zo veilig is dat een inbreker het teveel moeite vindt en naar de buren gaat. Om dat te realiseren, gaan cultuur en techniek hand in hand.’