Foutieve Google-kenniskaart meldde dood van Sam Altman

Een paar gespannen minuten op woensdag vertelde een simpele Google-zoekopdracht een schokkend verhaal: Sam Altman, CEO van OpenAI, was overleden. Sociale feeds raakten vol met schermafbeeldingen. Vragen verspreidden zich sneller dan feiten.

Wanneer een openbaar register ontspoort

Gebruikers op X en Reddit merkten het onjuiste overlijdensbericht op in de kenniskaart van Google, het informatievak dat boven veel zoekresultaten staat. Google zei later dat het die bewering niet meer toonde en dat de wijziging niet handmatig door het bedrijf was aangebracht. In plaats daarvan wees de zoekgigant op een diepere kwetsbaarheid: wanneer openbare bronnen worden gemanipuleerd, kunnen die valse signalen doorsijpelen naar de zoekresultaten.

Een voor de hand liggend doel was Wikipedia, de vrije encyclopedie waarop veel zoekmachines en lezers vertrouwen. De wijzigingsgeschiedenis van Altmans pagina toonde ongebruikelijke activiteit op woensdag, 22 bewerkingen die dag nadat er in de voorgaande dagen slechts vijf bewerkingen waren geweest. Om 09:47 UTC verscheen een wijziging die ten onrechte stelde dat Altman was vermoord en diezelfde dag was overleden. Die specifieke regel werd om 10:29 UTC gecorrigeerd, hoewel daaropvolgend extra vandalisme volgde, inclusief beweringen over zijn opleiding en zelfs een naamsverandering. Vrijwilligers zetten de pagina uiteindelijk terug naar een correcte staat.

De Wikimedia Foundation bevestigde aan Business Insider dat de woensdagse bewerkingen werden ontdekt en teruggedraaid binnen een tijdsbestek van één tot 43 minuten. Vrijwilligers rapporteerden het vandalisme, gaven waarschuwingen en plaatsten het artikel onder semi-bescherming. Onder die beperking mogen alleen accounts die ten minste vier dagen oud zijn en minimaal 10 eerdere bewerkingen hebben wijzigingen aanbrengen, een basismaatregel om massale bewerkingen van gloednieuwe accounts af te remmen.

Wikipedia is een veelgebruikte en zichtbare bron voor de kenniskaarten van Google, maar het is niet de enige. Google verzamelt informatie uit honderden openbare bronnen op het web. Het bedrijf zei dat gebruikers onnauwkeurige informatie kunnen melden en dat het handmatig inhoud zal verwijderen die in strijd is met zijn beleidsregels zodra het daarvan op de hoogte raakt. Toch benadrukte Google dat kwaadaardige bewerkingen van openbare bronnen invloed kunnen hebben op wat er in de zoekresultaten verschijnt.

Wat is het grotere plaatje? Een paar punten zijn duidelijk. Ten eerste handelen vrijwillige redacteuren en sitebeveiligingen vaak snel om duidelijk vandalisme ongedaan te maken. Ten tweede kan zelfs korte blootstelling aan valse beweringen op grote platforms zich wijd verspreiden en worden versterkt door geautomatiseerde systemen. En ten derde hangt het systeem dat directe antwoorden levert, kenniskaarten en korte feiten, af van een mozaïek van openbare gegevens, waarbij elk onderdeel op zijn eigen manier kwetsbaar is.

Vertrouwen in online feiten is deels technisch en deels sociaal. Machines zetten de stukken in elkaar. Mensen bewaken de naden. Wanneer een van beide faalt, kan het resultaat verwarrend en soms verontrustend zijn. Deze episode werd gecorrigeerd. Maar het is een herinnering, in een verbonden wereld kunnen een paar kwaadaardige toetsaanslagen zich uitbreiden tot krantenkoppen voordat verificatie ze bijhaalt.