Trusted Contact van OpenAI: Bescherming bij zelfbeschadiging

Sommige mensen behandelen ChatGPT als een zoekvak. Anderen praten ertegen zoals ze een vriend om 2 uur 's nachts zouden sms'en wanneer slaap niet wil komen. Dat tweede gebruik heeft AI naar terrein geduwd dat veel zwaarder is dan productdemonstraties en hulp bij coderen, en OpenAI reageert nu met een functie die is ontworpen voor momenten waarop een conversatie gevaarlijk lijkt te worden.

De nieuwe tool, Trusted Contact genaamd, wordt uitgerold in de ChatGPT-instellingen voor volwassen gebruikers. Het doel is op papier eenvoudig: een gebruiker in staat stellen één persoon te kiezen die op de hoogte kan worden gesteld als het systeem een ernstig risico op zelfbeschadiging detecteert. In de praktijk probeert OpenAI een vangnet te bouwen zonder privégesprekken te veranderen in automatische waarschuwingen.

Het instellen is vrijwillig. Gebruikers kunnen één vertrouwd persoon aanwijzen, maar die persoon moet aan de leeftijdsvereiste voldoen: minimaal 18 jaar in de meeste regio's, of 19 in Zuid-Korea. Zodra geselecteerd ontvangt de contactpersoon een uitnodiging met uitleg over de rol en heeft zeven dagen om te accepteren. Als die persoon weigert, kan de gebruiker iemand anders kiezen.

Wat daarna gebeurt is waar OpenAI duidelijk probeert machtsoverschrijding te vermijden. Waarschuwingen worden niet automatisch verzonden op het moment dat het systeem verontrustende taal detecteert. Eerst vertelt ChatGPT de gebruiker dat hun Trusted Contact mogelijk op de hoogte wordt gesteld. Het moedigt de gebruiker ook aan om zelf contact op te nemen, en biedt zelfs voorgestelde manieren om dat gesprek te beginnen. Daarna bekijkt een kleine groep speciaal getrainde menselijke beoordelaars de zaak. Alleen als zij bevestigen dat de situatie wijst op een serieus risico op zelfbeschadiging stuurt OpenAI een melding.

Die melding kan per e-mail, sms of via de app binnenkomen. Het bevat geen chatlogs, citaten of een samenvatting van het gesprek. In plaats daarvan meldt het simpelweg aan de vertrouwde persoon dat zelfbeschadiging in een verontrustende context werd genoemd en vraagt hen om contact op te nemen. OpenAI zegt te streven naar voltooiing van de menselijke beoordeling binnen een uur.

Waar dit past in OpenAI's bredere veiligheidsinspanningen

Dit verschijnt niet geïsoleerd. OpenAI heeft al veiligheidsfuncties geïntroduceerd die gekoppeld zijn aan tieneraccounts, inclusief meldingen aan ouders wanneer gekoppelde accounts tekenen van nood vertonen. Trusted Contact breidt dat idee uit naar volwassenen, wat veel zegt over hoe het bedrijf ChatGPT nu ziet worden gebruikt. De chatbot is niet langer slechts een productiviteitsassistent. Voor veel gebruikers is het een plek geworden voor diep persoonlijke, emotioneel geladen gesprekken.

Volgens OpenAI is de functie ontwikkeld met input van clinici, onderzoekers en geestelijke gezondheidsorganisaties, waaronder de Amerikaanse Psychologische Vereniging. Die externe betrokkenheid is belangrijk. Elk instrument dat raakt aan risico's op zelfbeschadiging, privacy en crisisrespons bevindt zich in een gevoelig domein waar ontwerpskeuzes echte gevolgen kunnen hebben.

Er zijn ook duidelijke grenzen. Trusted Contact is geen vervanging voor een crisislijn, hulpdiensten of professionele geestelijke gezondheidszorg. OpenAI zegt dat ChatGPT gebruikers blijft doorverwijzen naar die hulpbronnen wanneer dat nodig is. Gebruikers kunnen hun gekozen contactpersoon te allen tijde verwijderen of wijzigen, en de contactpersoon kan zich altijd afmelden.

Er zit een stillere boodschap in deze uitrol. OpenAI erkent iets waar de techindustrie al een tijd omheen draaide: mensen brengen hun meest kwetsbare momenten al naar AI-chatbots. Of bedrijven dat bedoeld hadden of niet doet nu minder ter zake. Het gedrag is er. Functies als Trusted Contact zijn een poging om op die realiteit te reageren met iets meer voorzichtigheid, iets meer menselijkheid en de erkenning dat zelfs de meest geavanceerde chatbot niet de enige stem in de kamer zou moeten zijn wanneer het donker wordt.