Werknemers van AI verzetten zich tegen militaire druk

De spanning komt deze keer niet van toezichthouders of concurrenten. Ze komt uit de laboratoria zelf.

Honderden ingenieurs en onderzoekers die bij Google en OpenAI werken, hebben een opvallende open brief ondertekend waarin zij hun werkgevers dringend oproepen weerstand te bieden tegen de toenemende druk van het Amerikaanse leger om beperkingen op de inzet van kunstmatige intelligentie te versoepelen. In totaal zetten bijna duizend medewerkers hun naam onder de verklaring, die een duidelijke boodschap draagt: "Wij laten ons niet verdelen."

De woordkeuze is rechtstreeks gericht op wat de ondertekenaars beschrijven als een strategie van overheidsfunctionarissen om AI-bedrijven geleidelijk richting militaire samenwerking te duwen — bedrijf voor bedrijf, deal voor deal — totdat ethische veiligheidskaders beginnen te vervagen.

"Ze proberen elk bedrijf te verdelen met de angst dat de ander zal toegeven," stelt de brief. "Die strategie werkt alleen als niemand van ons weet waar de anderen voor staan."

De verklaring komt op een gevoelig moment voor de sector van kunstmatige intelligentie. Nu grote taalmodellen en generatieve AI-systemen aanzienlijk krachtiger worden, tonen regeringen steeds meer interesse in het gebruik daarvan voor inlichtingenanalyse, besluitondersteuning op het slagveld en grootschalige surveillance.

En de inzet is niet langer louter hypothetisch.

Onlangs bestempelde het Pentagon AI-startup Anthropic als een "supply chain risk" nadat het bedrijf naar verluidt weigerde haar technologie te laten gebruiken voor binnenlandse massale surveillance of volledig autonome wapensystemen. Die stap verraste veel waarnemers in Silicon Valley en leidde tot een nieuwe discussie onder de ingenieurs die de tegenwoordig meest geavanceerde AI-modellen bouwen.

Terwijl defensiecontracten en staatsopdrachten lucratief kunnen zijn, brengen ze ook vragen over AI-ethiek, transparantie en verantwoordelijk gebruik van AI in nationale veiligheidscontexten naar voren. Rapporten suggereren daarnaast dat Google en OpenAI mogelijk onderhandelen over regelingen die lijken op die welke Anthropic afwees, wat de interne bezorgdheid verder heeft opgestookt.

Een bekende breuklijn in Silicon Valley

Voor veel werknemers bij Google voelt het huidige moment aan als geschiedenis die zich herhaalt.

In 2018 protesteerden duizenden medewerkers tegen de betrokkenheid van het bedrijf bij Project Maven van het Pentagon, dat machine learning gebruikte om dronebewakingsbeelden te analyseren. De interne weerstand werd zo groot dat Google het contract uiteindelijk liet aflopen en een formele set van AI-ethische richtlijnen invoerde, bekend als de AI Principles van het bedrijf.

Destijds beloofde Google af te zien van het ontwikkelen van technologieën die bedoeld zijn om schade toe te brengen of surveillancepraktijken te ondersteunen die in strijd zijn met internationaal geaccepteerde normen.

De nieuwe open brief suggereert dat die beloften opnieuw op de proef worden gesteld, nu de discussie rond defensiepartnerschappen, defensiecontracten en de militaire toepassing van kunstmatige intelligentie is opgelaaid.

Ondertekenaars beargumenteren dat moderne AI-systemen te krachtig zijn om te worden behandeld als gewone softwareproducten die via routine defensiecontracten worden verhandeld. Geavanceerde generatieve modellen kunnen inlichtingen verwerken, beelden interpreteren, enorme datasets samenvatten en mogelijk assisteren bij targetingbeslissingen met snelheden die menselijke analisten sterk overtreffen.

Sommige onderzoekers wijzen op vroege oorlogssimulaties waarin AI-systemen conflicten agressief escaleren — soms zelfs onder bepaalde gemodelleerde omstandigheden de voorkeur gaven aan nucleaire opties. Die studies blijven experimenteel, maar ze benadrukken hoe onvoorspelbaar machinebesluitvorming kan worden in militaire scenario's.

Voor ingenieurs die deze systemen ontwerpen roept het idee om toezichtinfrastructuur uit handen te geven — of erger, autonome wapensystemen — ernstige ethische en juridische vragen op. Discussies over verantwoorde AI, governance van kunstmatige intelligentie en risicoanalyse van AI in defensietoepassingen worden daardoor urgenter.

De open brief is opmerkelijk, niet alleen vanwege de boodschap maar ook vanwege de coalitie die zich heeft gevormd. Werknemers van concurrerende bedrijven coördineren zelden zulke publieke verklaringen, zeker niet in een industrie waar talent, onderzoeksdoorbraken en infrastructuur fel worden bevochten.

Toch zeggen de betrokken werknemers dat concurrentie hier niet de doorslaggevende factor is. Hun stelling is eenvoudig: wanneer een technologie de mondiale machtsverhoudingen begint te herschikken, hebben de mensen die haar bouwen de verantwoordelijkheid helder te spreken over de grenzen en risico's ervan.

Of de brief daadwerkelijk het bedrijfsbeleid zal veranderen, is onduidelijk. Defensiepartnerschappen kunnen aanzienlijke financiering, schaal en beleidsinvloed opleveren, en regeringen wereldwijd haasten zich om AI te integreren in nationale veiligheidsstrategieën.

Maar de boodschap vanuit de industrie is nu vastgelegd — publiekelijk, collectief en lastig te misinterpreteren. Interne mobilisatie van personeel, publieke transparantie en maatschappelijke discussie over AI-ethiek en het militaire gebruik van kunstmatige intelligentie kunnen de richting van toekomstige samenwerking tussen techbedrijven en defensieorganisaties beïnvloeden.

Belangrijke vragen blijven: hoe kunnen bedrijven hun AI-onderzoek en -producten beveiligen tegen misbruik, welke governance- en compliance-mechanismen zijn vereist voor defensiecontracten, en hoe kunnen onderzoekers, beleidsmakers en het brede publiek samenwerken om verantwoorde toepassingen van AI te waarborgen? Deze discussie raakt aan technische aspecten zoals modelcapaciteit, data-governance, supply-chain risicoanalyse en operationele inzetbaarheid van AI-systemen, evenals aan bredere maatschappelijke waarden en internationale normen.

Uiteindelijk gaat het volgens de ondertekenaars om meer dan één deal of één contract: het gaat om het beschermen van ethische grenzen en het voorkomen dat concurrentiedruk en geopolitieke spanningen leiden tot een geleidelijke erosie van regels en normen die schade kunnen voorkomen.