AI en dubbelgebruik: risico's van misbruikte biotechnologie

Het begon met een verzoek waarbij intern alle alarmbellen afgingen: een prompt waarin een AI werd gevraagd een onderzoeksvoorstel op te stellen om een virus zo te veranderen dat het zich makkelijker verspreidt. Een korte zin, met een zeer reëel risico.

Anthropic zegt dat zijn veiligheidssystemen meerdere wetenschappers hebben geïdentificeerd die Claude probeerden te gebruiken voor de ontwikkeling van potentieel gevaarlijke biologische toepassingen, waarna het bedrijf ingreep. In een recent gepubliceerd rapport beschrijft het vijf casestudy's: geen filmische schurken, maar subtiele, plausibele onderzoekslijnen die de grens tussen legitieme wetenschap en misbruik kunnen doen vervagen.

Een van de meest verontrustende voorbeelden ging over chikungunya. De veiligheidsclassificator markeerde een verzoek voor gain-of-function-onderzoek dat was gericht op het vergroten van de overdraagbaarheid van het virus en zijn vermogen om immuunreacties te ontwijken. Voor chikungunya bestaat geen goedgekeurde antivirale behandeling en de ziekte kan mensen weken of maanden verzwakt achterlaten. Toen het voorgestelde werk verband leek te houden met een aan het leger gelieerd laboratorium, nam de bezorgdheid bij Anthropic verder toe.

Gain-of-function-onderzoek richt zich per definitie op genetische veranderingen die de eigenschappen van een organisme beïnvloeden. Dezelfde experimentele stappen die kunnen helpen bij de ontwikkeling van vaccins of therapieën, kunnen ook worden ingezet om ziekteverwekkers gevaarlijker te maken. Die dual-use-realiteit maakt geautomatiseerde detectie bijzonder complex. Hoe onderscheid je een legitieme veiligheidsstudie van een routekaart naar schade? Het antwoord is zelden eenduidig.

In een ander geval gebruikte een onderzoeker Claude om een atlas van toxische peptiden in gifstoffen samen te stellen en vroeg om een productieworkflow om hun eigenschappen te optimaliseren. Het rapport documenteert ook pogingen om de modellen in te zetten voor digitale schade, waaronder bewakingstactieken, de ontwikkeling van software-exploits, propaganda en mogelijkheden om conventionele systemen als wapen in te zetten.

Anthropic zegt de betrokken accounts te hebben geblokkeerd en de bevindingen te verwerken in zijn veiligheidskader, om geautomatiseerde verdedigingsmechanismen slimmer en strenger te maken.

Jacob Klein, hoofd threat intelligence bij Anthropic, verwoordde het als volgt: 'Dit is geen stripverhaalachtig scenario waarin iemand luidkeels verklaart dat hij een biologisch wapen wil bouwen. Het zijn complexe, onoverzichtelijke gevallen die oordeel vereisen.' Volgens Anthropic rechtvaardigt dat oordeel voorzichtigheid.

Het bedrijf weigerde de betrokken personen of instellingen te noemen, omdat biologisch onderzoek genuanceerd is en het risico bestaat dat betrokkenen verkeerd worden getypeerd. Toch roept het incident dringende vragen op over wie verantwoordelijk is voor toezicht op dual-use-onderzoek nu krachtige modellen breed beschikbaar zijn. Wie mag die grens trekken? En hoe snel kunnen veiligheidssystemen bijblijven nu technieken toegankelijker worden?

Het rapport is geen netjes afgerond verhaal, maar een momentopname van een snel evoluerend probleem: AI-tools die ontdekkingen versnellen en, bij misbruik, de afstand tussen idee en schade verkleinen. De opgave is nu om detectie aan te scherpen, toezicht uit te breiden en te bepalen hoeveel voorzichtigheid de wereld wil betrachten voordat deze mogelijkheden in handen komen van mensen die ze zouden kunnen misbruiken.