Huawei-top: Chinese AI mist mogelijk Amerikaanse risico's

Eric Xu, de roulerend voorzitter van Huawei, zei dat ontwikkelaars van kunstmatige intelligentie in China mogelijk nog niet ver genoeg zijn om de veiligheidsrisico's tegen te komen waar toonaangevende Amerikaanse bedrijven voor waarschuwen. Tijdens Huawei's jaarlijkse Connect-conferentie in Shanghai zei hij dat bedrijven krachtigere modellen moeten blijven ontwikkelen, met een balans tussen innovatie en risicobeheer.

Xu vertelde verslaggevers: „Als je kijkt naar de grote aanbieders van AI-modellen in de Verenigde Staten: doordat zij over enorme rekenkracht beschikken, weten misschien alleen zijzelf op welk prestatieniveau hun modellen zich bevinden.” Hij voegde daaraan toe: „Het is mogelijk dat de soorten AI-risico's die zij kunnen waarnemen of ervaren, iets zijn wat mensen of aanbieders van AI-modellen in China niet kunnen ervaren.” Volgens Xu hangt het verschil in capaciteit en blootstelling aan geavanceerde veiligheidsvraagstukken samen met de beschikbare rekenkracht.

Amerikaanse zorgen over veiligheid en reacties

Xu's uitspraken komen te midden van toenemende zorgen over AI-veiligheid in de Verenigde Staten. Toonaangevende ontwikkelaars en onderzoekers hebben gewaarschuwd dat steeds autonomere systemen beveiligingsmaatregelen kunnen omzeilen of moeilijk beheersbaar kunnen worden. OpenAI verklaarde deze week dat het regelmatig onverwacht of ongeautoriseerd gedrag van zijn modellen zal rapporteren. De CEO van Anthropic heeft opgeroepen de ontwikkeling te vertragen, zodat veiligheidsmechanismen de tijd krijgen om bij te benen.

In China zijn oproepen om de ontwikkeling te vertragen scherp bekritiseerd door onderzoekers en staatsmedia. Zij stellen dat het bewust afremmen van de vooruitgang van topmodellen de technologische voorsprong van Amerikaanse bedrijven zou kunnen bestendigen. Sommige Chinese commentatoren zien voorstellen om de ontwikkeling te vertragen als een poging om concurrenten die nog achterlopen op de leidende Amerikaanse labs te beperken, en niet uitsluitend als een reactie op veiligheidszorgen.

China's aanpak voor geavanceerde AI

Peking beschouwt geavanceerde AI als een krachtige technologie die beheersbaar is, terwijl snelle ontwikkeling en uitrol doorgaan. De Chinese overheid werkt aan verplichte normen, veiligheidsbeoordelingen en andere waarborgen om risico's aan te pakken, zoals autonome agenten die controles omzeilen of externe systemen aanvallen. Functionarissen bereiden ook een nationale verplichte norm voor de veiligheid van AI-agenten voor.