Onderzoeker waarschuwt: snelle AI-ontwikkeling dodelijk

Jacob Coxon, een 27-jarige onderzoeker die onlangs ontslag nam bij Anthropic en eerder bij OpenAI werkte, waarschuwt dat het huidige tempo van de ontwikkeling van kunstmatige intelligentie catastrofale gevolgen voor de mensheid kan hebben. Sommige AI-onderzoekers zijn volgens hem daadwerkelijk bang. Hij lichtte zijn zorgen toe in een bericht op sociale media en in een interview met de BBC.

Ontslag en kernwaarschuwing

In zijn openbare bericht en het daaropvolgende interview zei Coxon: "Als we het huidige tempo van vooruitgang niet vertragen, is er een grote kans dat we in de nabije toekomst allemaal zullen sterven." Volgens hem maken veel werknemers bij AI-bedrijven zich zorgen over de snelheid waarmee de technologie zich ontwikkelt en over de mogelijke gevolgen ervan.

Coxon, die bij OpenAI werkte voordat hij naar Anthropic ging, zei dat hij het voorstel van Anthropic-ceo Dario Amodei steunde om het ontwikkelingstempo te verlagen. Wel stelde hij dat een daadwerkelijke vertraging in overleg met China zou moeten plaatsvinden. Amodei publiceerde zaterdag een stuk waarin hij opriep het tempo van de AI-ontwikkeling te verlagen.

Zorgen over concurrentiedruk en specifieke scenario's

Coxon noemde de felle concurrentie tussen AI-bedrijven een bron van angst onder medewerkers. "Mensen die bij deze bedrijven werken, menen het serieus wanneer ze om regelgeving vragen, omdat ze zichzelf gevangen zien in een race en bang zijn voor de uitkomst", zei hij tegen de BBC.

Hij schetste ook een specifiek scenario dat hij aannemelijk acht: een netwerk van bots dat als één supercomputer functioneert en de controle over het internet kan overnemen. Volgens Coxon zou dit binnen zes maanden tot een jaar werkelijkheid kunnen worden.

Reactie van Anthropic en Silicon Valley

Een woordvoerder van Anthropic vertelde de BBC dat het bedrijf altijd duidelijk heeft gemaakt dat AI naast ongekende risico's ook zeer grote voordelen biedt. De woordvoerder voegde eraan toe dat Anthropic blijft werken aan modellen met enkele van de sterkste veiligheidsmechanismen in de sector.

Coxons uitspraken kregen kritiek in Silicon Valley. Hugging Face-ceo Clement Delangue schreef op X: "Sorry, maar vragen aan Jacob over het risico van uitroeiing van de mensheid is alsof je een airconditioningsmonteur naar klimaatverandering vraagt." Delangue zei later bereid te zijn in te gaan op de door Amodei voorgestelde maatregelen.

Volgens meerdere bronnen die met de BBC spraken, zei Jensen Huang, de ceo van Nvidia, afgelopen week tijdens een door Goldman Sachs georganiseerde conferentie dat Coxons uitspraken onjuist waren.