Home Artificial intelligence AI is overal, maar de skills om AI goed te beveiligen en...

AI is overal, maar de skills om AI goed te beveiligen en te beheren ontbreken

Barracuda Networks -
44

Barracuda heeft onlangs een survey gehouden onder IT- en securityleiders in organisaties met 100 tot 2.000 medewerkers in de VS, EMEA en APAC. In de survey werd gevraagd “Waar ontbreekt het in uw securityteam momenteel aan skills of expertise die nodig zijn om effectief te reageren?” Uit de bevindingen blijkt dat er veel tekorten zijn in skills op het gebied van AI-security en -governance, vooral bij middelgrote organisaties en bedrijven die AI integreren in e-mailsystemen, operationele workflows en bedrijfssystemen.

AI-security en -governance behoren tot de grootste skillstekorten

Bijna vier op de tien (38%) ondervraagde organisaties geeft aan dat hun teams de skills of expertise missen die nodig zijn om de AI-tools die in het hele bedrijf worden gebruikt, te beveiligen en te beheren. Dit geldt voor 44% van de CIO’s in organisaties met 100 tot 500 medewerkers en 49% van de CIO’s in organisaties met 500 tot 1.000 medewerkers

AI-security en -governance stonden op de derde plaats van de grootste tekorten aan skills die in de survey werden vastgesteld. Slechts twee uitdagingen scoorden hoger: reageren op door AI-gestuurde phishing- en social engineering-aanvallen (47%) en verdedigen tegen identiteitsgebaseerde aanvallen (39%).

Waarom vooral senior IT-leiders zich zorgen maken

Het perspectief van senior IT-leiders is bijzonder belangrijk omdat deze functies breed inzicht bieden in mensen, processen, technologie en bedrijfsstrategie. Zij behoren vaak tot de eersten die zien waar de invoering van AI sneller gaat dan het bijbehorende beheer, de ontwikkeling van beleid en risicomanagement. Hun toegenomen zorgen laten ook zien dat AI-governance niet langer een nichekwestie in cybersecurity is die zich beperkt tot securityteams. Het wordt steeds meer een bedrijfsbrede leiderschapsuitdaging die toezicht vereist op het gebied van technologie, compliance, risicobeheer, juridische zaken, HR en leiderschap.

De omvang en complexiteit maken governance moeilijker

Uit het onderzoek blijkt dat AI-security en -governance moeilijker worden naarmate de complexiteit van de organisatie toeneemt. Van de ondervraagde grotere middelgrote organisaties (met 1.500 tot 2.000 medewerkers) gaf 47% aan te kampen met een gebrek aan expertise op het gebied van AI-governance, vergeleken met 38% van de organisaties met 100 tot 500 medewerkers. Dat verschil is niet enorm, maar wel veelzeggend. Naarmate organisaties groeien, komen er doorgaans meer applicaties, gebruikers, gegevensbronnen en bedrijfsprocessen, met meer integraties daartussen. Ze kunnen ook te maken krijgen met een grotere verscheidenheid aan wettelijke en nalevingsverplichtingen.

In dergelijke omgevingen wordt het beheer van AI moeilijker, zoals te verwachten. Organisaties hebben inzicht nodig in welke AI-tools worden gebruikt, tot welke gegevens die tools toegang hebben, hoe de output wordt gebruikt en wie er verantwoordelijk is voor het toezicht. Het handhaven van consistente governance-standaarden in een grotere, diversere omgeving kan zelfs voor teams met voldoende middelen een uitdaging zijn.

Met AI gekoppelde e-mailworkflows verhogen de risico’s

Een andere interessante bevinding heeft betrekking op organisaties waar AI operationeel wordt geïntegreerd. Naarmate organisaties steeds vaker AI-agents inzetten om e-mail-, CRM-, HR-, financiële en klantenservicesystemen met elkaar te verbinden, wordt het beheer van AI aanzienlijk complexer. 42% van de organisaties die AI gebruiken om e-mail met workflows te integreren, gaf aan bezorgd te zijn over de beschikbare expertise op het gebied van AI-beheer. Ter vergelijking: bij 35% van de organisaties blijft e-mail een proces dat uitsluitend door mensen wordt uitgevoerd.

Deze bevinding onderstreept een verandering in hoe organisaties moeten nadenken over AI-risico’s. Wanneer AI wordt gekoppeld aan de dagelijkse bedrijfsactiviteiten, neemt de potentiële impact aanzienlijk toe. AI kan toegang krijgen tot gevoelige informatie, zakelijke beslissingen beïnvloeden, operationele processen automatiseren of acties initiëren in gekoppelde systemen. AI-governance moet dan meer doen dan alleen het monitoren van prompts en output die door AI gegenereerd wordt. Het draait om controle over hoe AI toegang krijgt tot gegevens, communiceert met bedrijfssystemen, beslissingen beïnvloedt en acties in gang zet.

Managed service providers ondersteunen bezorgde klanten

Uit de bevindingen blijkt verder dat organisaties die samenwerken met Managed Service Providers (MSP’s) vaker aangeven dat ze expertise missen op het gebied van AI-security en -governance. 40% van de MSP-klanten gaf aan bezorgd te zijn over dit soort tekorten aan skills, vergeleken met slechts 30% van de kleine minderheid van organisaties die niet werken met MSP’s en ook geen plannen hebben om dat te doen.

Dit suggereert dat veel organisaties erkennen dat ze zelf niet over alle benodigde expertise beschikken en zich steeds vaker tot MSP’s wenden voor support op het gebied van AI-security, governance en risicomanagement. Interessant is dat organisaties die geen gebruik maken van MSP’s en daar ook geen plannen voor hebben, aangeven dat het vertalen van technische risico’s naar zakelijke impact hun grootste skills-uitdaging is. Met andere woorden: ze erkennen dat ze moeite hebben om te begrijpen hoe technische risico’s – waaronder niet beveiligde en niet beheerde AI – van invloed kunnen zijn op de business. Wellicht is dat ook de reden dat ze niet inzien dat ze daarvoor externe hulp nodig hebben. Bij respondenten van organisaties die samenwerken van MSP’s scoorde deze ‘skills gap’ het laagst van allemaal.

Geen enkele organisatie is immuun

Uitdagingen op het gebied van skills rond AI-security en -governance zijn niet beperkt tot een specifieke sector of regio. Ten minste drie op de tien respondenten in de onderzochte sectoren zegt over onvoldoende expertise te beschikken om het zakelijke gebruik van AI te beveiligen en te beheren. Dit probleem behoorde ook tot de top drie van skillsproblemen in de meeste landen waar de survey is gehouden.

Hoe kan deze skills gap gedicht worden?

Naarmate de adoptie van AI vordert, zal een gebrek aan robuuste security en governance organisaties blootstellen aan steeds meer risico’s. Medewerkers kunnen vertrouwelijke gegevens uploaden naar publieke AI-platforms, AI-agents kunnen toegang krijgen tot informatie die ze niet nodig hebben, gevoelige gegevens kunnen worden opgenomen in prompts, output of trainingsdatasets en organisaties kunnen het overzicht kwijtraken over waar bedrijfsgegevens worden verwerkt of opgeslagen.

De oplossing is niet om het gebruik van AI te beperken. De zakelijke voordelen zijn enorm en medewerkers zullen waarschijnlijk omwegen vinden die de organisatie aan nog meer risico’s blootstellen.

In plaats daarvan hebben organisaties praktische, schaalbare oplossingen nodig om AI veilig in te voeren, zonder innovatie te vertragen of het inzicht en de controle te verliezen over hoe bedrijfsgegevens worden gebruikt. Dit soort oplossingen helpt organisaties en MSP’s om inzicht en controle te behouden over hoe medewerkers bedrijfsgegevens in AI gebruiken, zodat AI veilig kan worden ingevoerd, zonder innovatie te vertragen.

Raynaud Schokkenbroek, Manager Solution Architects – Western Europe, Barracuda

Methodologie

Barracuda heeft 2.000 beslissers op midden- en senior niveau op het gebied van IT en security ondervraagd, die IT- en businessfuncties vervullen bij organisaties met 100 tot 2.000 medewerkers uit een breed scala aan sectoren in de VS, het VK, Frankrijk, DACH (Duitsland, Oostenrijk, Zwitserland), de Benelux (België, Nederland, Luxemburg), de Scandinavische landen (Denemarken, Finland, Noorwegen, Zweden), Australië, India en Japan. Het onderzoek werd in opdracht van Barracuda uitgevoerd door het onafhankelijke onderzoeksbureau Arlington Research.

 

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in