Meta-rechtszaak: leiderschap stuurt productontwerp

In een rechtbank in Oakland schetste een voormalige Meta-ingenieur een indringend beeld van hoe beslissingen bij de socialenetwerkgigant worden genomen: niet in laboratoria of commissies, maar aan de top. Arturo Bejar vertelde de jury dat de prioriteiten van Mark Zuckerberg de productkeuzes op Facebook en Instagram bepaalden, en dat de veiligheid van jonge gebruikers vaak ondergeschikt was aan betrokkenheid en groei.

Macht, productontwerp en een cultuur die volgt

Bejar, die van 2009 tot 2015 bij Meta werkte en tussen 2019 en 2021 terugkeerde als opdrachtnemer om het welzijn van tieners op Instagram te onderzoeken, was de belangrijkste getuige namens de staten in een risicovolle rechtszaak die ingrijpende veranderingen op de platforms zou kunnen afdwingen. Aanklagers stellen dat Meta zijn apps zo heeft ontworpen dat ze jongere gebruikers verslaafd maken, wat bijdraagt aan pieken in angst, depressie en zelfs zelfmoord, terwijl het bedrijf verdoezelde wat het over die schadelijke effecten wist.

Hij beschreef een top-down managementstijl waarbij de focus van één bestuurder door de engineeringteams heen kon doorwerken: wanneer Zuckerberg zich op een bepaalde metriek concentreerde, versnelde het productwerk en volgden ontwerpwijzigingen snel. "Als Mark iets prioriteerde," getuigde Bejar, "kon er binnen enkele maanden veel in beweging worden gezet." Eenvoudige zin. Grote implicatie.

Die getuigenis daagde de publieke verzekeringen van Zuckerberg direct uit dat het bedrijf voortdurend onderzoek gebruikt om producten veiliger te maken. Bejar zei dat hij herhaaldelijk zorgen over de veiligheid van kinderen via e-mails aan het hogere management had geuit, en hij vertelde de jury openlijk dat vertrouwen in Zuckerberg op kinderkwesties misplaatst was.

De rechtszaak begon deze week en zal naar verwachting ongeveer zes weken duren. Een jury zal een adviserende mening geven, maar uiteindelijk zal rechter Evan Gonzalez Rogers beslissen over Meta's aansprakelijkheid en, indien van toepassing, civiele straffen en opgelegde productwijzigingen.

Niet alle bewijzen waren abstract. Bejar vertelde hoe hij zijn tienerdochter hielp een Instagram-account aan te maken. Ze was toen 16. Hij gaf tijdens het kruisverhoor toe dat hij niet alle schade kon voorzien die haar te wachten stond. Ze meldde zich aan om een ruimte te creëren waar vrouwen over auto's en autorijden konden praten, maar kreeg te maken met misogynistische opmerkingen en giftige interacties. "Ze kreeg volgers," zei Bejar, "maar de tol was schade." Die zin maakte indruk in de rechtszaal.

Hij erkende ook dat Meta honderden mensen in veiligheidsfuncties in dienst heeft en dat sommige daarvan zeer gekwalificeerd zijn. Toch zei Bejar dat zijn tweede periode als externe opdrachtnemer zijn toegang tot interne middelen en tot Zuckerberg zelf beperkte, waardoor het moeilijker werd om van buitenaf te pleiten voor ontwerpwijzigingen.

Een twistpunt: de zogenaamde pauzetools van Meta, waar het bedrijf naar verwijst als bewijs dat het gebruikers helpt hun gebruik te matigen. Bejar betoogde dat die functies zo waren ingericht dat ze zouden mislukken. Ze zijn niet standaard ingeschakeld en hun meldingen zijn makkelijk te negeren. Vanuit zijn perspectief functioneren de tools meer als pr-plakmiddelen dan als structurele oplossingen.

Hij getuigde ook dat Meta de technologie had om miljoenen vermoedelijke onder-13-jarigen te identificeren, maar koos voor een 'niet vragen, niet melden'-benadering, omdat strengere leeftijdscontrole de langdurige betrokkenheid en de inkomsten zou kunnen verminderen. Kort gezegd: het bedrijf ruilde potentiële veiligheidsmaatregelen in voor de economische voordelen van bredere gebruikersgroepen.

Opgenomen getuigenis van Meta-onderzoeker Elena Davis, afgespeeld voor de jury nadat Bejar was uitgesproken, benadrukte het interne debat. Davis las onderzoeksbevindingen voor die suggereren dat Facebook herontworpen zou kunnen worden om verslavende mechanismen te verminderen en gebruikers te helpen ongewenste gebruikspatronen te doorbreken. Het onderzoek schetste een heel andere productroutekaart dan die critici zeggen dat het bedrijf uiteindelijk volgde.

Meta wordt geconfronteerd met duizenden gerelateerde rechtszaken in het hele land. Bejar was getuige in vier afzonderlijke processen tegen het bedrijf, en een eerdere zaak aangespannen door New Mexico resulteerde in een vonnis dat veranderingen eiste en schadevergoedingen toekende ter waarde van ongeveer €876 miljoen aan boetes en kosten.

Wat staat er op het spel? Werkelijke hervormingen van de manier waarop platforms worden gebouwd. Of, alternatief, meer incrementele oplossingen die de kernmechanieken van betrokkenheid onaangetast laten. De adviserende mening van de jury en de uiteindelijke uitspraak van rechter Gonzalez Rogers zullen niet alleen van belang zijn voor Meta, maar ook voor hoe toezichthouders en rechtbanken denken over bedrijfsverantwoordelijkheid in de aandachtseconomie.

Als het leiderschap betrokkenheid boven veiligheid prioriteert, volgt het productontwerp, opzettelijk of niet.