Zoek-AI verspreidt valse dodelijke geruchten over Trump

Stel je voor dat je je zoekassistent om een snel feit vraagt en een macabere roddel terugkrijgt: Donald Trump zou deze maand aan hondsdolheid zijn overleden. Belachelijk. Schokkend. Onwaar.

Dat was de kop waar sommige gebruikers mee te maken kregen na interactie met DuckDuckGo's AI, die beweerde dat Trump aan hondsdolheid bezweken zou zijn en zelfs naar een ogenschijnlijk lokaal WKNA News-artikel wees als bewijs. Het verzonnen verhaal ging nog verder: het stelde dat J.D. Vance Trump gebeten zou hebben op advies van Robert F. Kennedy Jr., die naar verluidt betoogde dat hondsdolheid buitengewone krachten zou geven. De assistent verwees ook naar een ABC News-rapport over een sterfgeval door hondsdolheid in Ohio - een echt verhaal - maar zonder enige link naar Trump.

Niets klopt ervan. Trump en Vance leven nog. RFK Jr. heeft in het verleden controversiële gezondheidsclaims gedaan, maar hij heeft nooit iemand aangeraden op zoek te gaan naar een hondsdolheidinfectie als gezondheidsbevordering. Het WKNA-stuk waar de AI naar verwees lijkt nep of sterk gemanipuleerd en is op het web verspreid. DuckDuckGo heeft op het moment van schrijven geen openbare verklaring afgelegd.

Hoe kon een door AI ondersteunde zoektool deze elementen samenvoegen tot een overtuigend maar volledig onjuist verhaal? Het antwoord is rommelig en door mensen gemaakt. Kwaadwillenden en online trolls fabriceren fictieve berichten, plakken die op obscure sites en forumthreads en laten zoekindexen die oppikken. Retrieval-modellen die zoek-AI's aandrijven kunnen die fragmenten vervolgens vinden, combineren en een zelfverzekerd klinkend antwoord produceren zonder de context of verificatie waar een menselijke redacteur om zou vragen.

Er is een tweede ingrediënt: het trainings- en retrievaldieet van veel conversatiesystemen bevat enorme hoeveelheden door gebruikers gegenereerde content. Reddit, reactiesecties en marginale blogs brengen vaak vroeg en ongevraagd materiaal boven water. Wanneer groepen coördineren - uit kattenkwaad of kwade opzet - kunnen ze modellen richting onwaarheden duwen door een kruimelspoor te leggen dat voor een geautomatiseerde bronzoeker geloofwaardig lijkt.

Deze systemen zijn ontworpen om behulpzaam te zijn en snel te antwoorden. Die snelheid is een feature. Het is ook een kwetsbaarheid. Modellen kennen geen scepsis. Ze controleren niet of een lokaal medium gespofed is of dat een aggregator een kop verkeerd toebedeelde. Ze synthetiseren. Soms wordt die synthese een hallucinatie: een plausibel klinkende bewering zonder feitelijke basis.

Deze episode benadrukt een eenvoudige waarheid: zoek-AI's hebben herkomst, betrouwbaarheidsindicatoren en menselijke controle nodig voordat hun uitkomsten als feiten worden behandeld.

Voor lezers zijn de waarborgen bekend maar het blijft nuttig ze te herhalen. Zoek corroboratie in gevestigde media. Volg bronlinks terug naar de oorspronkelijke berichtgeving. Wees op je hoede voor sensationele beweringen die op kleine of pas aangemaakte sites verschijnen. En als een zoekassistent een bronvermelding geeft, open die dan - ga er niet van uit dat de assistent het voorwerk voor je heeft gedaan.

Voor platformteams is de weg vooruit zowel technisch als organisatorisch. Verbeter retrieval-filters om domeinen van lage kwaliteit te deprioriteren. Maak herkomst zichtbaar zodat gebruikers weten welke bron de AI heeft gebruikt. Voeg geautomatiseerde checks toe die onwaarschijnlijke claims markeren en doorsturen voor menselijke beoordeling. En investeer ten slotte in snelle correctiemechanismen wanneer iets aantoonbaar onjuist verspreidt.

AI zal steeds slimmer worden. Dat geldt ook voor de mensen die proberen het te misleiden. Wie er wint hangt minder af van de modellen en meer van de systemen en werkwijzen die we daaromheen bouwen - en van de vraag die gebruikers blijven stellen: waar komt dit vandaan?