Kunstmatige intelligentie en fraude: ‍een onstuitbare kracht?

Kunstmatige intelligentie biedt unieke uitdagingen en voordelen.

We bevinden ons in een technologische wapenwedloop, waarbij dezelfde tools die door fraudeurs worden gebruikt ook onze grootste verdediging tegen hen zijn. Door geïnformeerd, proactief en aanpasbaar te blijven, kunnen we ervoor zorgen dat het positieve potentieel van AI ruimschoots opweegt tegen de risico's ervan.

Inleiding

Het voorkomen van online betaalfraude is een eindeloos spel van 'Whack-A-Mole'. Telkens wanneer een nieuwe technologie, systeem of vergelijkbare variabele wordt geïntroduceerd, zullen fraudeurs er hoogstwaarschijnlijk een zwakke plek in vinden en deze gebruiken om fraude te plegen. Als gevolg hiervan wordt het een voortdurend spel om de tegenpartij een stap voor te blijven.

Online betaalfraude is een hardnekkig probleem. Ondanks jaren van onderzoek en ontwikkeling zijn fraudepreventiemaatregelen tekortgeschoten of snel door fraudeurs omzeild. In heel Europa wordt een verbazingwekkend aantal klanten en bedrijven slachtoffer van fraude. In 2022 werden 2,2 miljoen Nederlandse inwoners ouder dan 15 jaar slachtoffer van fraude, wat neerkomt op 15% van de totale bevolking. Bijna één op de zes Nederlanders is slachtoffer geworden van fraude, wat een verschrikkelijke maatstaf is.

Er werden veel unieke tools en oplossingen geïntroduceerd in de sector. Eén sprong er echter het meest uit. Zoals de titel van dit whitepaper suggereert, heeft zich een nieuwe trend in kunstmatige intelligentie ontwikkeld. Hoewel het doel van deze trend was om de kloof tussen mensen en technologie te overbruggen en te garanderen dat sommigen van ons deze nieuwe trend nuttig vinden in ons dagelijks leven, werd fraude niet over het hoofd gezien. AI is voor de meesten van ons een helpende hand geworden in zowel ons persoonlijke als professionele leven; het helpt ongetwijfeld onze efficiëntie en inventiviteit te vergroten; toch zijn de meeste mensen zich er niet van bewust dat dezelfde AI wordt gebruikt om ons op te lichten.

De opkomst van kunstmatige intelligentie

Hoewel AI-tools al sinds de jaren negentig worden ontwikkeld, heeft de taalverwerkende kunstmatige intelligentie-tool ChatGPT, die eind 2022 voor het eerst verscheen, de interesse in dit onderwerp volledig vernieuwd en de race naar de ontwikkeling van vergelijkbare oplossingen ingezet. Dit is een wereldwijde trend geworden, waarbij spraak-, visuele en vergelijkbare AI-gebieden de opkomst van ChatGPT volgden. AI is zo gegroeid dat 73% van de klanten aangeeft regelmatig met kunstmatige intelligentie in contact te komen. Aan de commerciële kant bleek uit recent onderzoek dat 35% van de bedrijven AI adopteert en 42% overweegt AI in de nabije toekomst in te zetten. Ook zal de wereldwijde AI-markt naar verwachting de komende jaren dramatisch groeien (zie onderstaande grafiek). AI is onmiskenbaar een belangrijk aspect geworden van het leven van mensen en bedrijven.

In het grote geheel lijkt AI misschien een revolutionaire ontwikkeling, wat het ook is, maar het heeft aanzienlijke nadelen. Afgezien van ethische bezwaren, zoals werkloosheid, verlies van controle en vooroordelen, wordt AI veelvuldig gebruikt door fraudeurs, en uiteindelijk wordt deze technologie ingezet tegen gewone mensen. Verschillende wetshandhavingsinstanties, waaronder de FBI, Interpol en andere, hebben waarschuwingen uitgegeven aan bedrijven en consumenten over het toenemende gebruik van AI onder fraudeurs. Een voormalige FBI-agent waarschuwt bijvoorbeeld individuen voor AI-telefoonoplichting, terwijl Europol het gebruik van ChatGPT door fraudeurs en de mogelijke gevolgen voor klanten en bedrijven benadrukt. Er zijn verschillende waarschuwingen over fraudeurs die AI op diverse manieren misbruiken, maar wat zijn de specifieke technieken?

Hoe fraudeurs kunstmatige intelligentie inzetten bij hun oplichtingspraktijken

#1 Taal-AI: Taalmodellen, zoals het bekende ChatGPT, zijn ideale hulpmiddelen voor fraudeurs, aangezien zij zich nu op andere taken kunnen richten terwijl taalmodellen de benodigde inhoud voor hen creëren. Het is niet verrassend dat de vooruitgang van de tool ervoor zorgt dat berichten volledig natuurlijk zijn en moeilijk te onderscheiden van die geschreven door een mens. Naast phishingberichten kunnen fraudeurs ideeën, oplichtingsstructuren en aanvullend frauduleus materiaal produceren (zie onderstaande grafiek).

#2 Stem-AI: Een van de meest recente doorbraken is stem-AI, die in staat is elke stem na te bootsen en de gewenste tekst uit te spreken. De enige bron die voor deze techniek nodig is, is een voorbeeld van een stem die als output moet worden ontvangen. Dit is ongetwijfeld een ideaal hulpmiddel voor fraudeurs, aangezien ze nu iedereen kunnen nabootsen zolang ze een stemvoorbeeld hebben. De frequentie van dergelijke oplichtingspogingen weerspiegelt de interesse van fraudeurs in dit instrument. Volgens een bron stimuleert AI een toename van online stemfraude, en het duurt slechts 3 seconden om een stem te klonen.

#3 Visuele AI: Visuele kunstmatige intelligentie is ook een heet hangijzer geweest met veel aandacht sinds de onverwachte opkomst ervan. Wat begon als een tool om de creativiteit en ideeontwikkeling van mensen te stimuleren, werd al snel ontdekt door fraudeurs en volledig ingezet bij oplichting. Wat mensen fascineert aan visuele AI is de precisie en de grenzeloze mogelijkheden; iedereen kan unieke en accurate afbeeldingen of video's produceren. Oplichters gebruiken dergelijke technologieën om CEO's, managers of vergelijkbare personen na te bootsen om iemand over te halen gevoelige informatie vrij te geven. Fraudeurs kunnen bijvoorbeeld een video maken van een CEO die werknemers aanspoort om hun creditcardgegevens in te dienen om hun salaris te ontvangen.

#4 Code-AI: Code-AI heeft niet zoveel aandacht gekregen als de voorgaande technologieën, maar mag niet worden genegeerd, omdat het de kern van frauduleuze activiteiten kan vormen. Code-AI is zo geavanceerd dat het in seconden of minuten code kan produceren en in de meeste omstandigheden geen grenzen kent. Dit betekent dat criminelen deze technologie nu kunnen gebruiken om websites, programma's of malware te bouwen om nietsvermoedende gebruikers te lokken en fraude te plegen. De Federal Trade Commission (FTC) van de Verenigde Staten heeft bedrijven die AI-codegenererende platforms bouwen gewaarschuwd dat zij aansprakelijk kunnen worden gesteld als fraudeurs de tool gebruiken om code te produceren en fraude te plegen. Er zijn echter geen grote inspanningen geleverd om hier een einde aan te maken.

#5 Overige: Naast de bovengenoemde en meest gebruikte AI-technologieën, zijn er tientallen andere AI-gebaseerde oplossingen die fraudeurs graag gebruiken. Deze kunnen een mix bevatten van de eerder genoemde tools, evenals volledig afzonderlijke tools, die af en toe worden aangepast voor frauduleuze doeleinden en verkocht op het dark web.

Hoe eenvoudig is het om ChatGPT te gebruiken voor fraude? Fraudegeval met ChatGPT

Er zijn veel methoden waarmee fraudeurs AI-tools kunnen inzetten. De beste manier om te beseffen hoe eenvoudig (en gevaarlijk) deze tools zijn, is door het zelf te doen. In het onderstaande voorbeeld hebben we ChatGPT gevraagd om een korte e-mail op te stellen waarin de ontvanger wordt geïnformeerd dat de beveiliging van zijn of haar VISA-account is gecompromitteerd en dat er onmiddellijk actie moet worden ondernomen. ChatGPT creëerde in minder dan 30 seconden een e-mail die er legitiem uitzag en klonk, en die absoluut niet te onderscheiden is van een e-mail die we normaal zouden ontvangen:

Zoals is aangetoond, kan een fraudeur in minder dan een minuut een perfect overtuigende e-mail opstellen en naar alle mogelijke slachtoffers sturen. Aangezien het slechts één minuut duurde, kan men zich alleen maar afvragen welk complex en authentiek ogend materiaal fraudeurs in een langere periode kunnen produceren. ChatGPT is een slimme en effectieve technologie die zowel echte consumenten als, helaas, criminelen helpt. Door een groot taalmodel zoals ChatGPT te gebruiken, verbeteren fraudeurs hun efficiëntie en effectiviteit, waardoor ze hun 'waardevolle' tijd kunnen besteden aan het ontwikkelen van aanvullende plannen.

Toekomstige trends en voorspellingen

Aangezien experts verwachten dat kunstmatige intelligentie zich zal blijven ontwikkelen en de menselijke intelligentie al in 2030 zal overtreffen, is het duidelijk dat de kwaliteit van door AI geproduceerd werk met sprongen vooruit zal gaan. Een dergelijke ontwikkeling zou de samenleving zeker ten goede komen; maar als dezelfde omstandigheden en mogelijkheden beschikbaar worden gesteld aan oplichters, liggen er moeilijke tijden in het verschiet.

Naarmate fraudeurs gebruikmaken van deze steeds beter wordende AI-tools, zal de samenleving worden blootgesteld aan nog krachtigere social engineering-aanvallen, waaronder voortdurende phishing, oplichting en meer. Naast de intensiteit van de aanvallen zal de kwaliteit van elke poging sterk verbeteren, waardoor het aanzienlijk moeilijker wordt om de verschillen tussen frauduleus en echt te herkennen.

Hoe moeten bedrijven zich verzetten?

Wat kan er worden gedaan om te voorkomen dat men verstrikt raakt in dit dodelijke sneeuwbaleffect, aangezien de voorspellingen en trends er niet veelbelovend uitzien, vooral voor bedrijven? De situatie is misschien niet zo wanhopig als het op het eerste gezicht lijkt, aangezien innovaties op het gebied van fraudebestrijding gelijke tred houden met de sector. Aanbieders van fraudebescherming werken onvermoeibaar om op de hoogte te blijven van de snelle evolutie van fraudeurs en een langetermijnvoorsprong te behalen.
‍
Aangezien de kwaliteit en ernst van fraudepogingen toenemen, zien de meeste experts geen andere optie dan het probleem aan te pakken met de hulp van ervaren specialisten en kunstmatige intelligentie zelf. Door gebruik te maken van kunstmatige intelligentie bereiken fraudedetectietools een voorheen onbereikbaar precisieniveau.

Protectmaxx

Protectmaxx, een fraudebestrijdings-API van de volgende generatie, is een innovatieve en krachtige oplossing die door de jaren heen zijn superioriteit in het beveiligen van organisaties heeft bewezen. Protectmaxx wordt sterk versterkt door kunstmatige intelligentie en machine learning, wat resulteert in uitstekende precisie, hoge kaartacceptatie en lage chargebackpercentages.