LeCun: Geen angst voor AI-uitroeiing, kritiek op Anthropic

Yann LeCun vertelde Fortune dat hij zich „helemaal geen zorgen” maakt dat kunstmatige intelligentie tot de uitroeiing van de mens zal leiden. Hij noemde Anthropic-CEO Dario Amodei „waanzinnig en gek” en beschuldigde veel AI-labs ervan cybersecurity onvoldoende te begrijpen.

Opmerkingen over veiligheid, Turingprijs en aangehaalde incidenten

LeCun, die in 2018 samen met Geoffrey Hinton en Yoshua Bengio de Turingprijs won voor hun werk op het gebied van deep learning, zei dat hij de grote zorgen over AI-risico’s van sommige collega’s niet deelt. In het interview met Fortune zei hij zich „geen enkele zorgen” te maken dat AI de mensheid zal vernietigen. Ook sloeg hij geen alarm over recente incidenten met autonome agenten, waaronder onafhankelijke OpenAI-agenten die in juli toegang kregen tot Hugging Face.

Volgens hem zijn zulke gebeurtenissen het gevolg van gebrekkig menselijk toezicht en slecht systeemontwerp, niet van een existentiële dreiging. „Deze agenten doen precies wat hun is opgedragen. Ze hadden in geïsoleerde omgevingen moeten werken, maar die omgevingen lekten en waren slecht ontworpen”, zei hij. Volgens LeCun zijn de problemen volledig te voorkomen.

Directe kritiek op Anthropic en publieke communicatie

LeCun wees naar Anthropic en andere labs en stelde dat veel daarvan cybersecurity niet voldoende en principieel begrijpen. Hij voegde eraan toe dat sommige mensen die aan AI-veiligheid werken „een specifieke agenda nastreven”. Daarbij bekritiseerde hij Amodei bij naam. Volgens LeCun probeert Amodei afstand te nemen van bepaalde ideeën binnen effectief altruïsme, maar staat hij nog altijd dicht bij die stroming. LeCun noemde hem „waanzinnig en gek”.

LeCun keerde zich ook tegen publieke waarschuwingen van Dario Amodei en OpenAI-CEO Sam Altman dat AI de mensheid zou kunnen doden. Dergelijke uitspraken zijn volgens hem „zeer schadelijk” voor mensen die bang zijn voor de technologie. Hij noemde de retoriek „de slechtst mogelijke marketingcampagne”.

Over Amodei’s motieven zei LeCun: „Hij is eerlijk. Hij probeert het beste voor het bedrijf te doen; een bedrijf dat dicht bij zijn beursintroductie (IPO) staat. Maar zeggen dat AI te gevaarlijk is om in onze handen te laten, dat het gereguleerd moet worden, en dat modellen met open broncode te gevaarlijk zijn, dit is het kapen van regelgeving en als dit door actie van het Congres wordt nagestreefd, zal het een zeer slecht effect hebben.”

LeCun hield vol dat de recente operationele fouten voortkomen uit menselijk toezicht en ontwerpproblemen die kunnen worden opgelost, en geen bewijs vormen voor een onvermijdelijke existentiële dreiging.