Koning Charles waarschuwt voor duistere risico's van AI

Koning Charles III heeft donderdag topbestuurders van AI-bedrijven gewaarschuwd dat kunstmatige intelligentie mogelijk ‘duistere vermogens’ kan ontwikkelen, misschien zelfs het vermogen om mensenlevens te nemen. Volgens hem moeten beschermende maatregelen en passende regelgeving worden ingevoerd voordat het te laat is.

De waarschuwing klonk tijdens een besloten bijeenkomst die hij organiseerde met enkele prominente vertegenwoordigers uit de sector en hoge Britse functionarissen. De koning vertelde de aanwezige technologieleiders dat ‘de mensen die deze technologieën hebben ontwikkeld nu meer dan ooit waarschuwen dat AI het risico loopt duistere vermogens te ontwikkelen, misschien zelfs het vermogen om mensenlevens te nemen.’ Hij voegde daaraan toe: ‘In dit opzicht lijkt het, als ik dat mag zeggen, dringend noodzakelijk om de existentiële risico’s zorgvuldig te onderzoeken die ontstaan wanneer deze technologieën in verkeerde handen vallen en op mogelijk catastrofale wijze worden gebruikt.’

Aanwezigen en context van de bijeenkomst

Onder de aanwezigen waren Jensen Huang, CEO van Nvidia; meerdere leidinggevenden van OpenAI en Anthropic; Kanishka Narayan, de nieuwe Britse minister voor kunstmatige intelligentie; en het hoofd van de buitenlandse inlichtingendienst van het land. Ook Paolo Benanti, pauselijk adviseur op het gebied van AI, was aanwezig. De besloten bijeenkomst vond donderdag plaats.

De opmerkingen zijn opvallend, omdat de Britse koninklijke familie zich om constitutionele redenen traditioneel afzijdig houdt van diepgaande politieke debatten. AI is momenteel echter een van de meest omstreden mondiale thema’s. De koning omschreef de snelle ontwikkeling van AI als zowel fascinerend als zeer zorgwekkend.

Veiligheidszorgen en recent vertrek

De uitspraken van de koning volgen op het vertrek van een onderzoeker bij Anthropic, die veiligheidszorgen uitte. In een onlinebericht schreef de onderzoeker dat AI-bedrijven ‘wedijveren om machines te bouwen die veel slimmer zijn dan welk mens dan ook’ en waarschuwde dat ‘de mensheid dit mogelijk niet zal overleven.’

Koning Charles besloot met een oproep aan leiders om manieren te vinden om de positieve kanten van AI te benutten en internationale samenwerking en consensus op te bouwen om dat doel te bereiken.