Wanneer AI nepwebshops aanraadt: hoe online fraude werkt

Iemand klikte op een link die er officieel uitzag. De prijs was te mooi om waar te zijn. Het pakket kwam nooit aan. De bankrekening werd leeggehaald. Dit is geen techthriller. Het is een patroon dat beveiligingsonderzoekers nu waarnemen waar conversatie-AI online fraude ontmoet.

Recente onderzoeken door fraudecontroledienst Ask Silver ontdekten dat ChatGPT overtuigende maar neppe webwinkels kan laten zien wanneer gebruikers vragen over producten van bekende Britse merken zoals Russell & Bromley of Dunelm. Aantrekkelijke kortingen. Geloofwaardige etalages. Links die kopers naar gekloonde websites leiden die zijn gemaakt om geld en betalingsgegevens te stelen.

Wanneer trainingsdata een zwakke schakel wordt

Aanvallers plaatsen kwaadaardige pagina's verspreid over het web. Die pagina's worden gecrawld, geïndexeerd en, wanneer het juiste moment daar is, opgenomen in de bronnen die grote taalmodellen voeden. Het resultaat is wat experts 'datavergiftiging' noemen: het model leert van frauduleuze pagina's en geeft vervolgens dezelfde slechte adviezen aan alledaagse gebruikers.

Anna Jones van Ask Silver zegt dat criminelen soms vreemde momenten in de levenscyclus van een merk exploiteren, zoals een eigendomsoverdracht of wanneer de officiële site offline is, om de AI valse verwijzingen te geven en hun sites legitiem te laten lijken. Het trucje is eenvoudig. Maak een geloofwaardige pagina. Laat het eruitzien als de echte winkel. Laat het model het oppikken en aanbevelen.

Lewis Baxter, die het fraudeteam bij het Britse National Trading Standards leidt, waarschuwt dat de loutere aanwezigheid van een website in een AI-antwoord geen stempel van authenticiteit is. Mensen wenden zich tot chatbots voor snel koopadvies. Oplichters hebben zich net zo snel aangepast. Het zien van een overtuigende link in een chatbotantwoord kan een koper verleiden basiscontroles over te slaan.

De nepwinkels die in de rapporten worden beschreven zijn vaak verontrustend gelikt. Ze gebruiken domeinnamen die dicht bij echte merken liggen, door woorden toe te voegen zoals onlineuk of official naast een bekende naam, en adverteren met flinke kortingen, soms tot 80 procent, om kopers aan te zetten snel te handelen. Veel van deze sites accepteren alleen bankoverschrijvingen, nog een waarschuwingsteken.

Controleer de verkoper altijd direct: zoek de winkel op naam, controleer de officiële site en betaal nooit via bankoverschrijving tenzij u zeker weet dat de verkoper legitiem is.

Wat kunnen gebruikers nu doen? Versnel niet. Lees de URL zorgvuldig. Let op extra woorden, vreemde achtervoegsels en spelfouten. Geef de voorkeur aan kaarten of betaalmethoden die kopersbescherming bieden. Als een site aandringt op een bankoverschrijving, beschouw dat als een duidelijk teken om weg te lopen. Typ wanneer mogelijk de naam van de retailer in een zoekmachine of ga via een betrouwbare bladwijzer in plaats van op een link van een chatbot te klikken.

• Controleer het domein zorgvuldig op extra woorden of onbekende achtervoegsels.
• Zoek naar contactgegevens en verifieerbaar sociaal bewijs.
• Vermijd betaalopties die alleen bankoverschrijving accepteren.
• Gebruik creditcards of betaaldiensten met kopersbescherming.

OpenAI zegt dat het geïdentificeerde frauduleuze sites uit de zoekresultaten van het model heeft verwijderd en een manier biedt voor gebruikers om problematische links te melden. Nuttig. Noodzakelijk. Maar geen volledige oplossing. Modellen leren van grote delen van het web, en aanvallers hoeven maar een paar overtuigende pagina's te maken om schade aan te richten.

Uiteindelijk is de verantwoordelijkheid gedeeld. Technische teams moeten modelpijplijnen versterken en vergiftiging detecteren. Platforms moeten linkcontrole verbeteren. En kopers moeten AI-suggesties als vertrekpunt zien, niet als goedkeuring. Blijf nieuwsgierig. Wees extra voorzichtig.