Geld aan haat: hoe platformbetalingen extremisme voeden

Geld wisselde van hand. Wat leek op routinematige uitbetalingen aan makers financierde geruisloos accounts die verbonden zijn aan expliciete neo-nazi's en extreemrechtse organisatoren, zegt een onderzoek van ABC Australia. Het verhaal dat volgt gaat minder over boekhouding dan over hoe platformprikkels giftige hoeken van het internet kunnen hervormen.

Betaald om te posten: bewijs en betrokkenen

Onderzoekers konden betalingen terugleiden van het alleen-op-uitnodiging monetisatieprogramma van Facebook naar pagina's en makers die herhaaldelijk content publiceerden die de eigen haatzaairegels van het platform schendt. Namen kwamen aan het licht. Een daarvan, geïdentificeerd als Hugo Lennon, is in verband gebracht met blanke-nationalistische netwerken en werd eerder in Melbourne gearresteerd wegens racistische beledigingen gericht aan de premier van India. Ondanks dat dossier begon Facebook hem in september vorig jaar te betalen.

Dit is wat onderzoekers en activisten verontrust: een platform met een directe commerciële relatie met een uitgever (royalty's, inkomstendeling, formele uitnodigingen) dat geld overmaakt naar accounts die handelen in opruiende, vaak gevaarlijke retoriek. Wanneer een bedrijf het label 'maker' plakt op een organisator van haat, wordt verantwoordelijkheid een grijs gebied.

Victoria Rio, uitvoerend directeur van What To Fix, een belangenorganisatie zonder winstoogmerk, verwoordde het eenvoudig: als Meta deze pagina's als zakelijke partners behandelt en ze meedeelt in de inkomsten, neemt het daarmee een bepaalde verantwoordelijkheid op zich voor de inhoud die die partners produceren. Het is niet slechts een moreel argument. Het is een kwestie van hoe platformprikkels zich vertalen naar redactionele uitkomsten.

Onderzoekers naar extremisme zeggen dat de financiële logica van het platform beloningen geeft aan wat engagement genereert. Kaz Ross, die extreemrechtse bewegingen bestudeert, vertelde onderzoekers dat door verontwaardiging gedreven content vaak de meest effectieve manier is om klikken, reacties en shares te genereren. Woede zet om in aandacht. Aandacht zet om in geld.

De publieke reactie van Meta is voorzichtig geweest. Woordvoerders stelden dat er een onderscheid bestaat tussen haatdragende retoriek en content die de grens overschrijdt naar aanzetten tot fysiek geweld. Belediging, zeiden ze, kan wijdverspreid en schokkend zijn, maar het controleren van elk stuk aanstootgevende content is niet de taak van het bedrijf. De verklaring ging niet in op de vraag waarom bekende overtreders in een monetisatieprogramma dat alleen op uitnodiging werkt terechtkwamen.

Het probleem is structureel. Programma's die makers betalen zijn bedoeld om kwaliteit en blijvend engagement te belonen. Maar ze maken niet altijd onderscheid tussen maatschappelijk betrokken makers en propagandisten. Algoritmen jagen op interactie. Mensen interpreteren schade. Wanneer die twee niet op één lijn zitten, worden platforms vruchtbare grond voor het heretiketteren van extremistische content als legitieme mediaproductie.

En nu? Regelgevers en maatschappelijke organisaties zullen aandringen op transparantie: wie wordt uitgenodigd, welke screening plaatsvindt en hoe herhaalde overtredingen worden aangepakt wanneer er financiële relaties bestaan. Platformingenieurs weten hoe engagement wordt gemeten. Beleidsmakers moeten beslissen welk deel van dat systeem behouden blijft en wat moet veranderen.

Het ABC-onderzoek herinnert eraan dat prikkels ertoe doen. Een programma dat is opgezet om makers te ondersteunen kan ook aanzetters financieren wanneer de waarborgen zwak zijn. De volgende stappen van Meta zullen nauwlettend in de gaten worden gehouden, niet alleen door journalisten en ngo's maar ook door overheden die bezorgd zijn over de offline gevolgen van online versterking.