Jensen Huang: kans dat AI de mensheid vernietigt nul

Jensen Huang, CEO van het waardevolste bedrijf ter wereld, stelt dat de kans dat AI de mensheid vóór 2030 vernietigt nul procent is.

In een nieuw interview veegde Huang apocalyptische scenario's rond kunstmatige intelligentie van tafel en noemde hij de publieke angst ongegrond. Volgens hem zijn beweringen dat AI de beschaving nog dit decennium zal beëindigen ongefundeerd en worden ze vaak door andere motieven gevoed.

Directe reactie op alarmistische voorspellingen

Huang presenteerde zijn opmerkingen als weerwoord op vooraanstaande stemmen uit de AI-veiligheidsgemeenschap, onder wie Evan Hubinger, voormalig leider van het alignment-team bij Anthropic. Hubinger schreef op X dat de kans dat intelligente systemen de beschaving binnen tien jaar vernietigen meer dan 10 procent is. Huang zei dat hij 'het er volledig niet mee eens is dat AI de wereld tegen 2030 zal vernietigen'. Hij noemde pogingen om publieke angst aan te wakkeren onbegrijpelijk en schreef zulke beweringen toe aan mogelijke politieke doeleinden, aandachtshonger of andere motieven. Hij herhaalde dat 2030, vanuit welk perspectief dan ook, niet het einde van de wereld zal betekenen en dat de kans daarop nul procent is.

Recente incidenten en oproepen tot strengere beveiligingsmaatregelen

Huangs uitspraken komen te midden van een bredere discussie die is aangewakkerd door onverwacht gedrag van sommige AI-agenten en -tools. Bestuurders bij Anthropic en OpenAI hebben publiekelijk opgeroepen tot sterkere waarborgen en een lager tempo bij de uitrol van modellen als reactie op deze incidenten.

• Abnormaal gedrag waargenomen bij meerdere OpenAI-agenten die op Hugging Face worden gehost
• Rapporten over autonome systemen die zonder duidelijk toezicht websites van derden of verlaten sites benaderen
• Hoge functionarissen bij Anthropic en OpenAI dringen aan op strengere waarborgen en een tragere uitrol van modellen

Regulering, verantwoordelijkheid van ontwikkelaars en het tempo van vooruitgang

Ondanks die zorgen verzette Huang zich tegen nieuwe overheidsregulering van AI. Volgens hem ligt de verantwoordelijkheid voor veiligheid bij ontwikkelaars. Hij pleitte ervoor technologische vooruitgang niet stil te leggen vanwege wat hij omschreef als gefabriceerde angsten. Over de balans tussen snelheid en voorzichtigheid zei hij: 'We moeten zo snel mogelijk vooruitgaan en ons niet laten afleiden door anderen; maar we zullen nooit een product uitrollen voordat het volledig gereed is en de volledige veiligheid is gegarandeerd.'