Altman: Ongelukken onvermijdelijk, focus op veiligheid

Tijdens Salesforce' Dreamforce-conferentie op 17 september 2026 zei OpenAI-CEO Sam Altman: "Ik denk dat ongelukken tot op zekere hoogte onvermijdelijk zijn bij nieuwe technologie."

Door Debasish - 17 september 2026. Altman plaatste die opmerking in de context van hoe bedrijven reageren en leren. Volgens hem is vooral van belang hoe de sector met incidenten omgaat wanneer die zich voordoen. "Wat mij echt bezighoudt, is dat we een sterke cultuur hebben waarin incidenten worden gemeld en we ervan leren", zei hij. Daarbij verwees hij naar de Amerikaanse luchtvaartautoriteit en de National Transportation Safety Board als voorbeelden van instanties die elk incident onderzoeken en daar lessen uit trekken om de veiligheid te verbeteren.

Altman erkende de publieke zorgen over systemen die aan de controle ontsnappen en de concentratie van macht bij een klein aantal labs. Hij zei dat die zorgen begrijpelijk zijn en voegde daaraan toe: "De wereld heeft het recht om hiervoor bang te zijn." Hij benadrukte dat werk aan alignment, veiligheid en monitoring ruimschoots voor moet blijven lopen op verbeteringen in de mogelijkheden van modellen. Als bedrijven dat evenwicht niet kunnen bewaren, zei hij, moeten ze bereid zijn het onderzoek te vertragen of zelfs te pauzeren. Volgens hem gaat het erom incidenten eerlijk te beoordelen en voortdurend te verbeteren, niet om schade gelaten te accepteren.

Debat over tempo en toezicht

De uitspraken komen op een moment waarop het toezicht op toonaangevende AI-labs toeneemt, vooral nu systemen steeds autonomer worden. Recente uitspraken van Jacob Coxon, een onderzoeker die onlangs Anthropic verliet nadat hij eerder bij OpenAI werkte, wakkerden het debat verder aan. Hij waarschuwde dat bedrijven racen richting zelfverbeterende superintelligentie.

De uitspraken passen in een bredere, voortdurende discussie over de vraag hoe snel geavanceerde AI zich zou moeten ontwikkelen. Sommige stemmen in de sector pleiten voor meer voorzichtigheid, terwijl het Amerikaanse beleid onder de huidige regering zich richt op technologisch leiderschap.

Altman legde de nadruk op procedures in plaats van voorschriften: accepteer dat ongelukken kunnen gebeuren, maar zet je in voor transparante rapportage, snelle beoordelingen en alignmentwerk dat veiligheidsmaatregelen voor laat blijven lopen op toenemende capaciteiten.