Jensen Huang: geen kans op AI-uitroeiing tegen 2030

Nvidia-topman Jensen Huang heeft recente waarschuwingen dat kunstmatige intelligentie tot het uitsterven van de mensheid kan leiden van de hand gewezen. Volgens hem jagen sommige leiders van AI-bedrijven het publiek mogelijk angst aan om andere redenen. In een interview met CBS Sunday Morning zei hij dat hij de kans op een door AI veroorzaakt einde van de wereld in 2030 op nul procent schat.

Huang verwerpt claims over existentieel risico

Huang zei dat zorgen over AI-veiligheid grotendeels terecht zijn, maar dat waarschuwingen die de technologie neerzetten als een bedreiging op uitstervingsniveau niet wetenschappelijk onderbouwd zijn. Hij erkende dat AI "vreselijke toepassingen" kan hebben en "veilig" moet worden ontwikkeld, maar benadrukte dat het onjuist is om 2030 als het einde van de wereld af te schilderen. "Hoe je het ook beschrijft, 2030 zal niet het einde van de wereld zijn. De kans dat het het einde van de wereld is, is nul procent," zei hij.

Recent debat in de sector en oproepen tot regulering

Huangs uitspraken komen te midden van een hernieuwd publiek debat over AI-risico's. Eerder deze maand zei een voormalig onderzoeker van Anthropic dat veel medewerkers bij toonaangevende AI-bedrijven "echt geloven dat deze technologie ons allemaal tegen het einde van het decennium zou kunnen doden." Die uitspraak droeg bij aan oproepen vanuit de sector om de ontwikkeling te vertragen en strengere veiligheidsmaatregelen in te voeren.

• Dario Amodei, CEO van Anthropic, riep op tot vertraging van onderzoek, nationale testprogramma's en meer veiligheidsmaatregelen.
• Sam Altman, CEO van OpenAI, steunde het vertragen van onderzoek en het bedrijf riep overheden op verplichte veiligheidsvereisten in te voeren.
• Een voormalig onderzoeker van Anthropic waarschuwde dat veel medewerkers geloven dat AI tegen het einde van het decennium een existentieel risico kan vormen.

Motieven, handhaving van bestaande wetten en praktische veiligheidsmaatregelen

Huang suggereerde dat sommige leiders in de sector het existentiële risico mogelijk overdrijven om politieke redenen of om aandacht te trekken. Volgens hem kunnen recente oproepen tot meer regulering ook bedoeld zijn om gevolgen voor het overtreden van bestaande regels te vermijden, vooral gezien recente veiligheidsincidenten. "Laat dit apocalyptische narratief er niet toe leiden dat iemand wordt vrijgesteld van de wetten die al bestaan. Ze vragen niet echt om meer wetten. Ze willen vrijstelling van de wetten die we hebben," zei hij. Daaraan voegde hij toe: "Handhaaf eerst de bestaande wetten."

Huang vindt dat AI-veiligheid zich meer zou moeten ontwikkelen volgens de praktische, procedurele aanpak uit de commerciële luchtvaart. Naarmate technologieën volwassener worden, verschuift de aandacht van ingenieurs volgens hem doorgaans van systemen operationeel krijgen naar het waarborgen van een veilige werking via verificatie, tests, beoordelingen en standaardisatie. "Doe eerst het praktische en daarna kunnen we het theoretische bespreken. Maar praat niet over het theoretische zonder het praktische te doen," zei hij.