Behandel geen chatbot als een vertrouwenspersoon, nooit

Behandel een chatbot niet als een vertrouwenspersoon. Korte zin. Keiharde realiteit.

Meredith Whittaker, die de beveiligde berichtendienst Signal leidt, zei onomwonden tegen Bloomberg dat hulpmiddelen zoals ChatGPT en Claude geen bewuste metgezellen zijn. Ze imiteren gesprek. Ze voelen niet. Ze begrijpen je niet zoals een ander mens dat doet. Dat verschil doet er meer dan ooit toe nu de grens tussen nuttige assistent en opdringerige aanwezigheid met de maand dunner wordt.

Whittaker geeft toe dat ze AI soms gebruikt voor alledaagse taken, bijvoorbeeld om de vorm van een document te ordenen, maar ze gaat niet zover dat ze het vragen stelt die haar denken beïnvloeden. Ze beschermt het creatieve en intellectuele werk dat uit menselijke geesten voortkomt. Waarom een systeem dat bestaande informatie samenvoegt en gemiddeld weergeeft de macht geven om te bepalen hoe we denken of schrijven?

De waarschuwing verscherpte toen ze reageerde op een recente voorspelling van Mustafa Suleyman, het hoofd AI van Microsoft, dat assistenten zoals Copilot dit jaar het kerstinkopen voor gebruikers zouden kunnen afhandelen. Klinkt handig. Maar om dat voor elkaar te krijgen zou de assistent een opmerkelijk intiem beeld van je leven nodig hebben: familiegroepschats, browsegeschiedenis, creditcards, adressen, agenda's, en de mogelijkheid namens jou berichten naar familieleden te sturen. Zou je dat allemaal aan één dienst toevertrouwen?

Whittaker noemt die omvang wat het is: een achterdeur naar persoonlijke privacy. In de context van een veilige messenger zou zulke alomtegenwoordige toegang de garanties ondermijnen die gebruikers zoeken. Signal zal AI-systemen geen brede, indringende permissies binnen de app geven.

Het debat is niet langer theoretisch. Naarmate AI-functies steeds meer in platforms sluipen, brengt elk nieuw gemak een afweging met zich mee: snelheid versus controle, efficiëntie versus intimiteit. Waar jij de grens trekt bepaalt niet alleen je inbox, maar ook wie jouw aandacht en keuzes vormgeeft.