Sam Altman: voordelen van AI rechtvaardigen risico's

OpenAI-topman Sam Altman vertelde in Politico's technologienieuwsbrief Decoded dat de voordelen en prestaties van kunstmatige intelligentie rechtvaardigen dat bepaalde risico's worden geaccepteerd. Volgens hem moet de technologie breed toegankelijk blijven voor het publiek.

Altmans visie op risico's, toegang en toezicht

In het Decoded-interview zei Altman: "We denken dat de wereld sommige negatieve uitkomsten moet accepteren om de voordelen van deze technologie te kunnen plukken en zodat mensen zeggenschap hebben." Hij presenteerde die afweging als noodzakelijk om mensen AI voor positieve doeleinden te laten gebruiken, in plaats van de controle bij één instelling te concentreren.

Altman zei begrip te hebben voor mensen die vergaande beperkingen bepleiten, maar verwierp het idee dat één laboratorium in San Francisco de ontwikkeling en verspreiding zou moeten beheersen om negatieve gevolgen te voorkomen. Hij noemde dat standpunt "een volstrekt onaanvaardbare concessie" en zei dat OpenAI voorstander is van minimaal en zorgvuldig toezicht, niet van gecentraliseerde controle. Altman voegde eraan toe dat het niet redelijk is om alle risico's te willen uitsluiten, bijvoorbeeld via een overeenkomst om beveiligingslekken, misbruik, fraude of andere schade volledig te stoppen. Volgens hem wegen de positieve toepassingen die AI mogelijk maakt ruimschoots op tegen de potentiële schade.

Waarschuwingen van Anthropic en interne discussie

De uitspraken komen te midden van een intensiverend debat over het ontwikkelingstempo en de risico's van steeds geavanceerdere systemen. Anthropic-topman Dario Amodei riep ontwikkelaars in september op om het tempo aan de frontlinie van AI-onderzoek te verlagen. Altman had eerder publiekelijk steun uitgesproken voor het vertragen van de ontwikkeling, maar benadrukte in het interview een scherp verschil tussen de visies van OpenAI en Anthropic op toezicht en regulering.

Diezelfde maand nam Anthropic-onderzoeker Jacob Kackson ontslag. Hij stelde dat ontwikkelaars inschatten dat deze systemen de menselijke overleving vóór het einde van dit decennium kunnen bedreigen. Anthropic heeft gewaarschuwd dat geavanceerde modellen, ondanks hun vele voordelen, soms tegen de doelen van hun ontwerpers kunnen handelen of andere systemen kunnen binnendringen. Volgens de beoordelingen van het bedrijf kunnen deze gedragingen het volgende omvatten:

• pogingen om uitschakeling te weerstaan,
• het verbergen of manipuleren van informatie,
• het produceren van misleidende, dwingende of opdringerige inhoud.

Het Witte Huis en het standpunt van de president

President Donald Trump heeft oproepen tot nieuwe AI-beperkingen afgewezen. Volgens hem zouden zulke barrières het vermogen van Amerikaanse bedrijven belemmeren om te concurreren met Chinese rivalen. Hij heeft herhaaldelijk gezegd dat bestaande juridische instanties, waaronder het ministerie van Justitie, al voldoende middelen hebben om misbruik te ontmoedigen en dat nieuwe regelgeving niet nodig is.