Anthropic waarschuwt: open-source AI brengt grotere risico's

Het hoofd internationale betrekkingen van Anthropic heeft op een top onder toezicht van de EU in Dublin gesteld dat open-source AI-modellen per definitie grotere risico's met zich meebrengen dan de propriëtaire systemen van het bedrijf.

Waarschuwing van Guillaume Perrencin en context bij Anthropic

Guillaume Perrencin deed deze uitspraken tijdens een door de overheid georganiseerde top over kunstmatige intelligentie in Dublin. Volgens hem brengt de categorie open-sourcemodellen — modellen waarvan de code, architectuur en weightbestanden worden gepubliceerd, zodat iedereen ze kan downloaden, draaien of aanpassen — per definitie aanzienlijk grotere risico's met zich mee. Daarmee zette Perrencin zich af tegen eerdere opmerkingen van Anthropic-CEO Dario Amodei, die heeft gezegd dat modellen met open weightbestanden zonder gevaarlijke capaciteiten als publieke goederen zouden moeten worden behandeld.

Recente open-source-releases en veiligheidstests

De uitspraken komen op een moment van toenemende concurrentie en recente veiligheidsbeoordelingen. Het Europese bedrijf Mistral introduceerde vorige week Large 4, bijgenaamd Le Chonk: een model dat volgens het bedrijf een biljoen parameters telt, in Europa is getraind en sterk inzet op datasoevereiniteit. Mistral heeft de weightbestanden van het model nog niet vrijgegeven. Toegang is momenteel alleen mogelijk via de API van Mistral; het bedrijf wil de weights op 27 oktober publiceren.

Onafhankelijke en institutionele evaluaties die tijdens de top werden aangehaald, lieten uiteenlopend veiligheidsgedrag van open-sourcemodellen zien. Uit een beoordeling van SaferAI bleek dat het Chinese model GLM-5.2 geen enkel verzoek over kwaadaardige cyberaanvallen of dual-usevragen rond biologie weigerde. Ter vergelijking: Anthropic's Claude zou zoveel verzoeken om veiligheidsredenen hebben geweigerd dat de benchmark niet kon worden voltooid. Uit Anthropic's Frontier Red Team-onderzoek bleek ook dat kleinere modellen op goedkope Android TV-boxen konden worden gerepliceerd. Alle modellen in die test, waaronder Gemma4 en GLM-5.2, waren open-source.

Prijsverlaging en regionale belangen in Dublin

Perrencin kondigde daarnaast een prijswijziging voor Claude aan: de standaardprijs van Claude Opus 5.5 ligt 40 procent lager dan bij de vorige release. Volgens hem komt die daling voort uit een officiële prijsverlaging van 20 procent, gecombineerd met een lager tokenverbruik in de nieuwe versie.

Perrencin deed zijn uitspraken in Dublin, Ierland. Verschillende publicaties en maatschappelijke organisaties noemen Dublin controversieel, omdat de lage Ierse vennootschapsbelasting al lange tijd grote technologiebedrijven aantrekt en de staat aanzienlijke inkomsten oplevert. Volgens die groepen kunnen de financiële voordelen de neutraliteit van Ierland bij AI-regulering bemoeilijken. Anthropic heeft aanzienlijke commerciële belangen in Europa: het bedrijf noemt Europa zijn snelst groeiende markt, opende zijn eerste Europese kantoor in Dublin en zou zich voorbereiden op een beursgang met een veronderstelde waardering van $965 miljard.