5 minuten leestijd 4 juni 2024
vinger drukt op touchscreen knop

AI en fraude: kansen en risico’s in het digitale tijdperk

Auteurs
Bernadette Wesdorp

EY Nederland Director, Financial Services Privacy Leader, Responsible AI Lead

Leider op het gebied van privacy voor de financiële dienstverleningssector en trusted AI in Nederland. Moeder van twee kinderen. Voormalig professioneel hockeyster. Houdt van hardlopen en zwemmen.

Igor Mikhalev

EY Nederland Partner EY-Parthenon, Head of Emerging Technologies Strategy, AI Strategy Lead

Diepgaande strategie. Diepgaande technologie. Creatief en visionair. Zowel hands-on als strategisch gericht op het grotere geheel.

5 minuten leestijd 4 juni 2024
Related topics AI

AI-kennisontwikkeling groeit; 'Focus op Fraude' webinar belicht preventie van AI gerelateerde fraude en kansen van AI voor organisaties.

In het kort:

  • Vind de balans tussen AI-gedreven kansen en fraudepreventie in het digitale tijdperk.
  • Multidisciplinaire aanpak en constante monitoring zijn cruciaal in AI-gebruik.
  • Menselijke inbreng en kritisch denken zijn essentieel in het AI-tijdperk.

De evolutie van AI biedt enorme kansen maar brengt ook risico's met zich mee. Door de snelle ontwikkelingen en de nog beperkte kennis bestaat er een risico op fraude. Twee cruciale vraagstukken staan hierbij centraal: maakt AI frauderen makkelijker en kunnen we AI inzetten om fraude op te sporen? Bestuurders, commissarissen en financiële professionals verdiepen zich in de snelle ontwikkelingen van AI, gezien het grote belang voor hun dagelijkse verantwoordelijkheden.

Diana Matroos, journaliste en presentatrice van 'De Big Five' op BNR Nieuwsradio, vervulde in het webinar de rol van gastvrouw naast Auke de Bos, bestuurder bij EY accountants. Samen gingen ze in gesprek met experts om het bewustzijn over AI te vergroten en de kennis hierover te verdiepen.

AI: kansen en frauderisico's

Igor Mikhalev: “In een wereld waar technologie met een ongekende snelheid vooruitgaat, baart AI me soms zorgen. Terwijl we streven naar creativiteit en innovatie, creëert AI onvermijdelijk kansen voor mensen met illegale bedoelingen. De resultaten van onze enquête tonen een hoge bezorgdheid over desinformatie en criminele activiteiten, maar erkennen ook efficiëntie en cognitieve verbeteringen als kansen. Ik vraag me af of we deze problemen ooit volledig kunnen oplossen, of dat het een eeuwigdurend evenwicht is dat we moeten nastreven om te behouden. Met vooruitgang in GenAI zien we een toename in geavanceerde fraude, van hypergepersonaliseerde tekstzwendel tot stemaanvallen en deepfakes. Hackers zijn nu in staat om aanvallen op grote schaal uit te voeren.”

Bedrijven moeten alert en proactief zijn in het herkennen en bestrijden van dreigingen zoals deepfakes.
Igor Mikhalev
EY Nederland Partner EY-Parthenon, Head of Emerging Technologies Strategy

Ondanks dat 52% van de consumenten uit het onderzoek denkt dat ze een deepfake-video kunnen detecteren, is er een sterke kans dat dit vertrouwen misplaatst is. Igor: “De impact van dergelijke technologie op de samenleving en het bedrijfsleven is diepgaand, en naarmate het spreekwoordelijke vliegwiel van innovatie sneller draait, moeten bedrijven wendbaarder worden in het identificeren en begrijpen van deze bedreigingen. Ze moeten ook proactief technologie inzetten tegen dergelijke aanvallen, aangezien menselijke vindingrijkheid alleen onvoldoende is om het geavanceerde niveau van aanvallen dat we nu onder ogen zien te voorkomen. Bedrijven moeten wendbaar en slim zijn in het detecteren en begrijpen van deze bedreigingen, en technologie proactief gebruiken om ze tegen te gaan. We hebben technologie nodig die overeenkomt met de schaal van deze aanvallen.”

Kritisch beoordelen

Het lijkt een complex probleem, vooral omdat we een toename zien in geavanceerde fraude. Igor: “Met het huidige klimaat van misinformatie kan dit ook leiden tot vertrouwensproblemen. Als individu ben ik zeer geïnteresseerd in dit probleem. De enorme hoeveelheid data en informatie die wordt gegenereerd, vervaagt de grens tussen waarheid en onwaarheid. We zien meerdere versies van de waarheid, sommige gebaseerd op wat mensen daadwerkelijk hebben gezegd, sommige gegenereerd door AI, en allemaal onderhevig aan emotioneel geladen interpretaties. Dit leidt tot verschillende versies van de waarheid, afhankelijk van wie je het vraagt. Als bedrijfsleiders moeten we onze belanghebbenden opleiden over hoe ze informatie kritisch kunnen beoordelen. We moeten ook ons begrip van waarheid herdefiniëren in de context van deze informatie-overload.

Naarmate AI blijft evolueren en daarmee samenhangende fraude geavanceerder wordt, moeten we waakzaam en adaptief blijven. Het is essentieel om te investeren in onderwijs, geavanceerde detectietechnologieën en robuuste beleidsmaatregelen om deze risico's te beperken. We zijn in een constante race om cybercriminelen te slim af te zijn, en hoewel onze detectiemethoden vooruitgaan, houden ze geen gelijke tred met de snelle vooruitgang van door AI aangedreven bedreigingen. Terwijl we de onbekende wateren van AI bevaren, moeten we bereid zijn om de uitdagingen recht in de ogen te kijken, terwijl we de kansen die het biedt omarmen. De toekomst van AI is een canvas van onbeperkte mogelijkheden, maar het vereist een zorgvuldige en duurzame aanpak om ervoor te zorgen dat het ten goede komt aan de hele mensheid.”

Menselijke factor

Om de impact van AI op individuen te begrijpen, moeten we de mens beschermen en focussen op het benutten van AI voor kansen en het anticiperen op frauderisico's. Belangrijk is dat we mensen voorbereiden en kritisch denken stimuleren. Bernadette Wesdorp: “Het onderzoek wijst uit dat 35% van de organisaties nog geen AI inzet, terwijl anderen dit al doen voor bijvoorbeeld chatbots. Je zou verwachten dat het percentage dat AI niet gebruikt, inmiddels is gedaald, aangezien het soms onbekend is dat AI al in sommige toepassingen wordt gebruikt. Met de snelle adoptie van GenAI zal dit percentage waarschijnlijk snel dalen naar nul. Je kunt er niet meer omheen om AI te gebruiken.”

Navigeren door AI-Wetgeving

Met de komst van de AI Act uit Europa, is het tijd voor organisaties om te begrijpen wat de impact van deze wetgeving is en om een inventarisatie te maken van waar AI wordt in een organisatie wordt gebruikt. Bernadette: “Voor Europa is de tekst gepubliceerd en tegen het einde van het jaar zal de wet van toepassing zijn op systemen die echt verboden zijn. Dit betekent dat organisaties nu moeten nadenken over hun aanpak en de impact van de wetgeving.”

De mens moet de laatste controle uitvoeren - kennisvergroting en het helpen genereren van de beste output zijn cruciaal.
Bernadette Wesdorp
EY Nederland Director, Financial Services Privacy Leader & Trusted AI Leader

Hoewel de wetgeving niet direct zal helpen bij het bestrijden van AI-gerelateerde fraude, is het belangrijk om te weten wat je organisatie doet. Bernadette: “Frauderisicomodellen worden niet beschouwd als hoogrisicosysteem, wat betekent dat de impact op van AI Act op deze modellen beperkt is. Responsible AI bekijk ik vanuit de drie R's: Regulation, Reputation en Realisation. Regulation gaat over de AI Act in Europa, Reputation over ethiek en de risico's voor individuen, en Realisation over de waarde die AI kan toevoegen aan een organisatie.

Als we kijken naar de enquêtevragen aan het publiek over de toename van fraude door AI binnen organisaties, lijkt het risico onderschat te worden. Met de komst van GenAI wordt het makkelijker om fraude te plegen, zoals het genereren van gepersonaliseerde phishingmails. Dit verhoogt de kans op succes en dus de return on investment voor criminelen. Accountants zijn continu bezig met het uitbreiden van hun controle met AI om AI-risico's te bestrijden en patronen te analyseren. Bij EY is er aandacht voor AI en het belang van de menselijke factor. Kennisvergroting en het helpen genereren van de beste output zijn cruciaal. De mens moet de laatste controle uitvoeren.

Het belang van het bijscholen van medewerkers, in combinatie met de inzichten uit onze wereldwijde controles, biedt onze organisatie de mogelijkheid om de kwaliteit van onze audits aanzienlijk te verbeteren. Door de toevoeging van sector- en industrie-expertise en de ervaring van mensen die bekend zijn met de branche, zijn we nu in staat om veel effectievere controles uit te voeren dan tien jaar geleden. Dit vertegenwoordigt een enorme kans voor ons en stelt ons in staat om diepgaandere vragen aan onze klanten te stellen.”

Inzicht in AI-activiteiten

Identiteits- en toegangsbeheer, ofwel wie toegang heeft tot welke systemen, is geen nieuw vraagstuk, maar door AI komen zowel nieuwe als bestaande risico's aan het licht. Organisaties moeten zich bewust zijn van hun huidige maatregelen en wat er mogelijk extra nodig is. Eenvoudige oplossingen zoals tweefactorauthenticatie kunnen veel problemen en fraude voorkomen, ondanks de wens voor gebruiksgemak en snelle toegang. Bernadette: “AI is een multidisciplinair thema dat alle facetten van een organisatie raakt, van data en IT tot wetgeving, compliance en juridische aspecten. Het is cruciaal om AI-gerelateerde fraude vanuit verschillende invalshoeken aan te pakken, bijvoorbeeld via een multidisciplinaire AI board of ethics board die AI-initiatieven beoordeelt. Organisaties moeten goed begrijpen hoe ze AI inzetten en dit continu monitoren, gezien de snelle ontwikkelingen en de verschillende rollen binnen de AI-wetgeving, zoals ontwikkelaar of gebruiker. Inzicht in de eigen AI-activiteiten is ontzettend belangrijk.

Bij de komst van de AI-act is het tijd om actie te ondernemen en de impact op je organisatie te beoordelen. Vaak is er al een goede governancestructuur aanwezig. Het is belangrijk om te identificeren waar de tekortkomingen liggen en wat er nog moet gebeuren. Inventariseer wat je organisatie al doet en bouw hierop voort om zowel nieuwe risico's als kansen te integreren. Je hoeft niet vanaf nul te beginnen, maar het is essentieel om nu te onderzoeken welke stappen je moet zetten. Het is cruciaal dat de verantwoordelijkheid voor AI vanuit de top van de organisatie, zoals de raad van commissarissen, wordt genomen. Het belangrijkste is hoe je reageert op onvoorziene gebeurtenissen; een volledige voorbereiding is niet mogelijk. Focus op de toekomst, leer van ervaringen en zorg voor een snelle reactie.

Het is essentieel om onze 'AI-antenne' te verfijnen, wat inhoudt dat we kritisch moeten beoordelen of we de informatie die we ontvangen kunnen vertrouwen. Als bestuurders, die constant beslissingen nemen, moeten we waakzaam zijn voor de betrouwbaarheid van de aangereikte data: is het waar of niet? Deze kritische houding is niet alleen belangrijk voor onszelf, maar ook iets om te delen en te benadrukken binnen onze organisaties. Het menselijke element is onmisbaar naast AI, dat zowel fraude kan bestrijden als waarde kan toevoegen. Het is een tijdperk van kansen, maar ook van waakzaamheid en verantwoordelijkheid.”
 

Focus op Fraude: AI

Bekijk de webinar terug. Deelnemers: Auke de Bos, Sebastian Kortmann, Diana Matroos, Aad Lensen, Igor Mikhalev, Bernadette Wesdorp, Tom de Kuijper.

Samenvatting

De snelle ontwikkeling van AI biedt kansen maar ook fraude-risico's. Financiële leiders moeten zich verdiepen in AI-ontwikkelingen vanwege hun impact op dagelijkse verantwoordelijkheden. Het webinar 'Focus op Fraude' waarin Diana Matroos en Auke de Bos met AI experts spraken, benadrukte de noodzaak van bewustzijn en kennisverdieping in AI, terwijl nieuwe regelgeving en de menselijke factor in AI-gebruik centraal stonden.

Over dit artikel

Auteurs
Bernadette Wesdorp

EY Nederland Director, Financial Services Privacy Leader, Responsible AI Lead

Leider op het gebied van privacy voor de financiële dienstverleningssector en trusted AI in Nederland. Moeder van twee kinderen. Voormalig professioneel hockeyster. Houdt van hardlopen en zwemmen.

Igor Mikhalev

EY Nederland Partner EY-Parthenon, Head of Emerging Technologies Strategy, AI Strategy Lead

Diepgaande strategie. Diepgaande technologie. Creatief en visionair. Zowel hands-on als strategisch gericht op het grotere geheel.

Related topics AI