OpenAI waarschuwt ouders bij schorsing tieneraccounts

Een nieuw soort waarschuwing is stilletjes in de inbox van ouders terechtgekomen: wanneer het ChatGPT-account van een tiener wordt geschorst wegens bedreigingen of gewelddadig gedrag, kan nu de ouder of voogd op de hoogte worden gebracht. Het is een verschuiving die AI-veiligheid minder behandelt als een productinstelling en meer als een signaal voor de openbare veiligheid.

De wijziging volgt op felle kritiek na de massale schietpartij in 2025 in Tumbler Ridge, Canada, waar onderzoekers ontdekten dat de verdachte ChatGPT had gebruikt vóór de aanval. Canadese functionarissen vroegen waarom OpenAI niemand had geïnformeerd toen het account werd gedeactiveerd. Sam Altman, CEO van OpenAI, verontschuldigde zich voor de fout en het bedrijf besloot te heroverwegen hoe het hoogrisicogedrag markeert.

OpenAI bouwde het notificatiesysteem in samenwerking met Moonshot, een organisatie gericht op online schade en vroege interventie. Vidya Ramalingam, oprichter van Moonshot, omschrijft de functie als een praktische eerste stap: gezinnen snel informeren wanneer zich een ernstig probleem voordoet en hen wijzen op hulpmiddelen en vervolgstappen. Vroege waarschuwing, betoogt ze, maakt vroege hulp mogelijk.

Hoe werkt het? Ouders die aan het account van een tiener gekoppeld zijn ontvangen een bericht met als titel "Belangrijke wijzigingen in het account van uw kind." Een klik op "Meer informatie" legt uit dat het account is gedeactiveerd wegens overtreding van beleid met betrekking tot bedreigingen of gewelddadige handelingen. De waarschuwing is bewust direct, bedoeld om ambiguïteit te voorkomen en de reactie van het gezin te versnellen.

Deze update sluit aan bij andere ouderlijke hulpmiddelen die OpenAI al heeft uitgerold: limieten op gebruiksuren, verminderde blootstelling aan gevoelige inhoud en educatieve modi die leerlingen stap voor stap door probleemoplossing leiden voordat een eindantwoord wordt getoond. ChatGPT spoort jongere gebruikers ook aan om regelmatig pauzes te nemen, een kleine aansporing naar gezondere schermgewoonten.

Er zijn afwegingen. Sommigen zullen beweren dat dit richting ouderlijk toezicht neigt. Anderen zullen zeggen dat het een verantwoordelijke laag van toezicht is die escalatie kan voorkomen. De echte test zal zijn hoe deze waarschuwingen worden gebruikt, of ze tot ondersteunende interventie leiden of tot punitieve overreactie.

Uiteindelijk gokt OpenAI erop dat transparante signalen, verzonden naar gezinnen en ondersteund door middelen, gevaarlijk gedrag eerder zullen opsporen in plaats van pas na een tragedie.

Of die aanpak in de echte wereld schade vermindert hangt af van de coördinatie tussen platforms, gezinnen en lokale autoriteiten. Eén klik kan een gesprek op gang brengen. Zal het de juiste klik zijn?