Techreuzen steunen open-source AI tegen kill-switchwetten

Toen meer dan twee dozijn technologiebedrijven een gezamenlijke brief aan Amerikaanse wetgevers ondertekenden, was de boodschap helder: ga niet overhaast te werk met strenge regels voor open source AI-modellen. De lijst van ondertekenaars leest als een wie-is-wie uit de sector, waaronder Nvidia, Microsoft, Meta, IBM en anderen, die elk waarschuwen dat voortijdige beperkingen de concurrentie kunnen verstikken en innovatie simpelweg naar het buitenland kunnen verplaatsen.

Jensen Huang, CEO van Nvidia, gebruikte zelfs zijn eerste bericht op X om de brief onder de aandacht te brengen en een eenvoudige stelling te benadrukken: inperkingen die te snel worden ingevoerd, bevoordelen gevestigde spelers en versnellen het offshoren van talent en infrastructuur. Het is geen theater. Er zit een rekenkundige kostenafweging achter dit argument. Het draaien van grote gesloten modellen in publieke clouds loopt snel in de kosten. Bedrijven zoals Microsoft en Palantir hebben betoogd dat het kunnen inzetten van modellen lokaal of in de datacenters van klanten een van de weinige praktische hefbomen is om die uit de hand lopende uitgaven te beheersen.

Wat is dan het tegenargument op het gebied van veiligheid? Critici zeggen dat open modellen lastiger te reguleren en gemakkelijker te misbruiken zijn. De ondertekenaars ontkennen dat niet. Ze erkennen dat diefstal van intellectueel eigendom en misbruik reële problemen zijn, maar stellen dat die risico's beter met gerichte juridische en commerciële maatregelen te beheersen zijn, en niet met algehele verboden die legitiem gebruik wegsnijden. Hun kernpunt: propriëtair betekent niet per definitie veilig. Gesloten systemen kunnen falen, soms op manieren die zelfs interne securityteams niet voorzien.

Open source model-ecosystemen geven een wereldwijde gemeenschap van onderzoekers en ingenieurs de zichtbaarheid die nodig is om fouten te vinden, verdedigingsmaatregelen te ontwikkelen en systemen in de loop van de tijd te versterken. Dat is het praktische veiligheidsargument. Met veel ogen op de code en het modelgedrag worden subtiele kwetsbaarheden waarschijnlijker ontdekt en snel gepatcht, en verspreiden verdedigingspatronen zich sneller dan binnen gesloten silo's.

Ontwikkelaars en platformbeheerders voelen de wrijving al. Hugging Face, bijvoorbeeld, zegt dat een kwaadaardige AI-agent die gekoppeld was aan tools van een andere leverancier het bedrijf dwong echte aanval-logs te analyseren. Gesloten Amerikaanse modellen weigerden die logs te verwerken omdat beveiligingsmaatregelen elke aanvraag blokkeerden die op uitvoerbare hackinstructies leek. De oplossing? Ze gebruikten een open source-model van een Chinese ontwikkelaar om het forensische werk te doen. Het is een ongemakkelijke anekdote, maar het maakt de spanning duidelijk: strikte veiligheidsfilters op gesloten modellen kunnen legitiem verdedigingswerk verhinderen.

Die episode zette wetgevers aan het denken; zij hebben wetsvoorstellen gepresenteerd die ingebouwde uitschakelmechanismen voor AI-modellen zouden verplichten, mechanismen die een systeem onmiddellijk kunnen uitschakelen als het zich onvoorspelbaar gedraagt. Het idee spreekt toezichthouders aan die in een crisis een duidelijk instrument willen hebben. De industrie-ondertekenaars stellen daarentegen dat vast ingebouwde uitschakelknoppen mogelijk niet de wonderoplossing zijn waarop men hoopt, en in sommige realistische implementaties onhaalbaar of zelfs gevaarlijk kunnen zijn.

Regulering is onvermijdelijk. De discussie gaat nu over vorm en timing. Zal beleid experimentatie beperken en capaciteit naar het buitenland verdrijven? Of kunnen wetgevers regels opstellen die mensen beschermen zonder de open ecosystemen aan de kant te schuiven waarop veel ontwikkelaars vertrouwen voor innovatie en snelle respons op dreigingen? De volgende stappen in Washington zullen bepalen waar de toekomst van AI wordt gebouwd en wie die mag bouwen.