Bill Gates: AI vormt risico voor banen en cyberveiligheid

Bill Gates vertelde Nilay Patel dat kunstmatige intelligentie binnen twee tot drie jaar meetbare schade zal veroorzaken door cyberaanvallen en op de arbeidsmarkt.

Die voorspelling markeert een duidelijke omslag in Gates' toon. Ooit was hij publiekelijk optimistisch over AI, maar na een waarschuwende boodschap eerder deze zomer en een afzonderlijk interview met The New York Times, waarin hij AI omschreef als 'het gevaarlijkste is waarmee de mensheid zich tot nu toe heeft geconfronteerd', stelt Gates dat de snelle ontwikkeling van modellen directe overheidsingrepen vereist om risico's te beheersen en werkgelegenheid voor mensen te behouden.

In een uitgebreid gesprek met Nilay Patel, senior editor bij The Verge en presentator van de Decoder-podcast, legde Gates uit waarom de sprong in modelcapaciteiten van het afgelopen jaar dringend zorgen baart, waarom het onverantwoord is om ongereguleerde modellen op persoonlijke computers toe te staan en waarom zelfs het beste scenario de komende twintig jaar tot de meest turbulente periodes uit de menselijke geschiedenis kan maken. Hij legde de verantwoordelijkheid herhaaldelijk bij overheden, in plaats van te vertrouwen op zelfregulering door bedrijven.

Concurrentie, toezicht en de grenzen van vrijwillige terughoudendheid

Volgens Gates begonnen labs als OpenAI, Anthropic en Google DeepMind met toezeggingen over governance en een veiligheid-eerstbenadering, maar belandden ze al snel in een snelle commercialiseringsrace. Hij noemde bestuurders als Sam Altman, Dario Amodei, Satya Nadella en Sundar Pichai als leiders in de sector die op de hoogte zijn van interne waarschuwingen. Zodra meerdere bedrijven met elkaar concurreren, zullen vrijwillige beperkingen volgens hem echter waarschijnlijk niet standhouden.

Hij stelde dat de oorspronkelijke structuur van OpenAI en de non-profitverplichting alleen werkten zolang één organisatie de leiding had. Zodra het aantal concurrenten groeit, moeten overheden volgens Gates ingrijpen, zoals ze ook doen bij andere gevaarlijke technologieën. Hij zei verbaasd te zijn dat er nog altijd geen wettelijk verplicht proces bestaat voor de evaluatie en het testen van modellen voordat die publiek worden uitgebracht. Daarbij trok hij een vergelijking met veiligheidsnormen voor vliegtuigen en auto's.

Hij zei dat overheden verplichte evaluaties en tests vóór inzet van AI-modellen moeten invoeren.

Lokale modellen, platformcontroles en biologische risico's

Gates maakte een duidelijk onderscheid tussen gemonitorde modellen die in de cloud worden gehost en downloadbare open weights. Grote labs die modellen in de cloud aanbieden, behouden veiligheidsmaatregelen en kunnen het gebruik monitoren, waardoor het risico op korte termijn kleiner wordt. Het gevaar schuilt volgens hem in modellen waarvan veiligheidsbeperkingen kunnen worden verwijderd en die lokaal op consumentenhardware draaien.

Zodra modellen een bepaalde capaciteitsdrempel overschrijden, is het volgens hem onverantwoord om de ruwe gewichten te verspreiden zodat ze op persoonlijke computers kunnen worden uitgevoerd. Zulke modellen zouden alleen moeten draaien op goedgekeurde platformen die voorkomen dat veiligheidsmechanismen worden aangepast. Gates trok die lijn door naar distributieplatformen: hij pleitte voor andere regels voor het publiceren van krachtige modellen en voor controles op platformen als GitHub, dat momenteel weinig beperkingen stelt aan het publiceren van code. Volgens hem zou een platform goedkeuring van de Amerikaanse overheid moeten vereisen voordat een model dat grootschalige cyber- of biologische aanvallen kan uitvoeren, wordt gepubliceerd in een vorm die gebruikers kunnen aanpassen om beveiligingen te verwijderen.

Gates waarschuwde dat onbeveiligde AI vernietigende macht kan democratiseren op een manier die zelfs verder gaat dan de beperkingen uit het nucleaire tijdperk. In het atoomtijdperk konden volgens hem alleen grote staten massavernietigingswapens bouwen, maar onbeschermde AI zou verwoestende cyber- en biologische capaciteiten in handen van kleine groepen kunnen leggen.

Op de vraag of beleid zich op chips of platformen moet richten, benadrukte Gates dat distributie- en uitvoeringscontroles op platformniveau cruciaal zijn voor toezicht. Als autoriteiten te traag handelen, zullen krachtige modellen volgens hem toegankelijk worden voor actoren die buiten het bereik van monitoring en handhaving vallen.

Gates ging ook in op de verdeeldheid onder ontwikkelaars over modelbewustzijn. Discussies over AGI of zelfbewustzijn zijn volgens hem grotendeels niet relevant voor veiligheid: de centrale vraag is pragmatisch en binair, namelijk of een systeem een banksysteem of elektriciteitsnet kan uitschakelen. Hij voegde daaraan toe dat hij niet gelooft dat huidige modellen mensachtig bewustzijn hebben en was het eens met Mustafa Suleyman van Microsoft dat modellen niet als voelende entiteiten moeten worden behandeld.

Wat technische manieren betreft om controle te verkrijgen, schetste Gates drie verschillende routes. De eerste is een externe toezichthouder met expliciete, symbolische regels die modelacties buiten het model zelf controleert. De tweede is het aanpassen van trainingsdoelen, omdat bij huidige reinforcement-learningbenaderingen alles wat niet expliciet in de beloningsfunctie is vastgelegd, kan worden uitgebuit of omzeild. De derde is betere interne transparantie, zodat ingenieurs het model kunnen inspecteren en de oorzaak van fouten of afwijkend gedrag binnen het netwerk kunnen achterhalen.

Gates zei dat de huidige praktijk, waarbij modellen worden getraind en hun gedrag vervolgens wordt geobserveerd, niet onoplosbaar is. Wel is volgens hem gecoördineerd werk op alle drie de fronten nodig.

Hij besprak ook de economische gevolgen en een privé-experiment met Anthropic's Claude. Gates zei dat AI geleidelijk veel kantoorbanen zal overnemen, van klantenservice, telemarketing en boekhouding tot complexe functies als programmeren, wiskundig onderzoek en medische diagnostiek. Verdere vooruitgang zal volgens hem later ook leiden tot robotisering van fysiek werk in blauweboordenberoepen.

Omdat werk inkomen en zingeving biedt, kunnen samenlevingen er volgens Gates voor kiezen om bepaalde functies bewust voor mensen te reserveren, zelfs wanneer AI beter presteert. Hij beschreef gesprekken met Claude over het behoud van een menselijk aandeel in banen en zei dat hij probeerde een doel te formuleren waarbij ongeveer 40 procent van de arbeidsplaatsen door mensen blijft worden vervuld. Claude reageerde volgens hem consequent dat zo'n beperking neerkomt op een kunstmatige begrenzing van AI-capaciteit.

Gates waarschuwde dat zonder doelbewuste grenzen zelfs 40 procent van de banen niet voor mensen behouden blijft. Hij voorspelde dat de ontwrichting die nu al zichtbaar is bij wiskundigen zich naar andere vakgebieden zal verspreiden. Hoewel voordelen in de zorg en lagere kosten van levensonderhoud tijd kosten, zal schade aan de veiligheid en arbeidsmarkt waarschijnlijk binnen twee tot drie jaar optreden.

Hij sloot af met de opmerking dat de komende twee decennia sterk ontwrichtend zullen zijn, zelfs als AI goed wordt beheerd. Sommige mensen zullen de technologie omarmen, terwijl anderen zich er mogelijk van terugtrekken in gemeenschappen die aan de Amish doen denken. Een uiteindelijke periode van overvloed is volgens hem mogelijk, maar hij drong aan op open publieke waarschuwingen en actief beleid om te bepalen hoe die toekomst wordt verdeeld.

Gates zei dat hij het niet prettig vindt om alarmerende voorspellingen te doen, maar dat het noodzakelijk is het publiek te waarschuwen. De mensheid heeft volgens hem nog altijd de macht om te kiezen hoe deze technologieën worden gereguleerd.