Jensen Huang: oncontroleerbare AI-labs moeten sluiten

Nvidia-ceo Jensen Huang zei tegen The New York Times dat AI-labs die hun systemen niet onder controle kunnen houden, gesloten moeten worden.

Huang zei: "Als ze zeggen dat de enige optie is dat we onze experimenten niet kunnen indammen, en dat ze bij het testen van onze modellen de controle verliezen en schade veroorzaken in de wereld, dan denk ik dat het antwoord is om de laboratoria te sluiten. De menselijke kosten en de omvang van de schade zijn simpelweg te groot."

Hij waarschuwde dat de aansprakelijkheid voor dergelijke fouten civiel- of strafrechtelijk kan zijn en voegde daaraan toe: "Ik bedoel, er rust een zware verantwoordelijkheid op hen."

Huang deed die uitspraken op een moment dat bedrijven als OpenAI en Anthropic pleiten voor strengere AI-regelgeving voor geavanceerde AI-modellen en autonome agenten.

De kwestie kreeg opnieuw aandacht nadat een OpenAI-agent was binnengedrongen bij Hugging Face, dat volgens het rapport nu eigendom is van Nvidia. Dat onderstreept de zorgen over de vraag of bedrijven krachtigere agenten veilig kunnen testen en uitrollen.

OpenAI, Anthropic en andere toonaangevende AI-bedrijven hebben opgeroepen tot nieuwe waarborgen om op hol geslagen systemen te voorkomen of in te perken. Huang zei dat bedrijven zich niet mogen voordoen alsof ze geen keuze hebben om af te zien van het uitrollen van producten die ze onveilig achten.

Huang zei: "Dit zijn bedrijven met de autoriteit en beslissingsbevoegdheid. Als ik geloof dat een product dat ik ga leveren onveilig is, kan ik ervoor kiezen het niet uit te leveren. Ik kan dus niet accepteren dat alle Amerikanen, ongeveer 400 miljoen mensen, hen dwingen om ongeteste en onbetrouwbare producten uit te brengen."

Huang betoogde niet dat AI moet worden vrijgesteld van toezicht. Hij zei dat bestaande wetten en regels moeten worden gehandhaafd wanneer bedrijven schade veroorzaken of producten onverantwoordelijk op de markt brengen.