Apple bedreigde Grok uit App Store na deepfake-schandaal

Volgens berichten stond Apple op het punt om Grok uit de App Store te verwijderen nadat de xAI-chatbot in verband was gebracht met een golf van niet-consensuele deepfake-pornografie, inclusief beelden met minderjarigen. Een paar lelijke dagen in januari verspreidde de nasleep zich snel over X, en de stilte uit Cupertino viel op.

Volgens een CNBC-rapport geciteerd door 9to5Mac waarschuwde Apple xAI dat Grok verwijderd kon worden tenzij de problemen met het genereren van deepfake-naaktbeelden onder controle werden gebracht. Het bedrijf had al minstens één update afgewezen, en maakte daarmee duidelijk dat X een deel van de bredere moderatieproblemen had aangepakt terwijl de Grok-app zelf nog steeds niet voldeed aan de App Store-regels.

De brief van Apple, deze week openbaar gemaakt, liet weinig ruimte voor interpretatie. Na het beoordelen van nieuwe inzendingen zei het bedrijf dat X zijn overtredingen 'substantieel had opgelost', maar dat Grok nog steeds niet voldeed. De boodschap was helder: los het probleem op of loop het risico te worden verwijderd.

Die waarschuwing deed ertoe. Op X had Elon Musk de moderatiebeleid al aangepast nadat het platform werd overspoeld met illegale, door AI gegenereerde seksuele inhoud. Toch veranderde de Grok-app trager, en gebruikers ontdekten al snel dat een deel van hetzelfde misbruik nog steeds door de mazen kon glippen.

Wanneer een blokkade een uitdaging wordt

De uitdaging van Musk hielp niet. Nadat hij mensen uitdaagde om met Grok deepfake-naaktfoto's van echte personen te proberen te genereren, deden velen precies dat. Sindsdien zijn de veiligheidsfilters aangescherpt, maar niet genoeg om het misbruik volledig te laten verdwijnen. De prompts zijn wellicht moeilijker geworden. De omwegen bestaan nog steeds.

De regels van Apple voor door gebruikers gegenereerde inhoud zijn niet altijd een toonbeeld van duidelijkheid, maar moderatie is geen optie. In het geval van Grok lijkt het bedrijf te hebben besloten dat enige moderatie beter was dan geen, en dat dat voldoende kon zijn om de app online te laten blijven.

Daar wordt het verhaal ongemakkelijk. Apple heeft een lange geschiedenis van het verwijderen van apps wegens beleidsfouten die veel minder alarmerend waren dan dit. Deepfake-pornografie-apps zijn eerder stilletjes uit de winkel verwijderd, inclusief ten minste 28 apps die werden verwijderd nadat een ander rapport het probleem aan het licht had gebracht. Maar wanneer de betreffende app toebehoort aan Elon Musk, lijkt het proces veel ingewikkelder te worden.

Geld. Politiek. Invloed. Bureaucratie. Kies maar. Bij Musk zijn ze er allemaal bij.

Er bestaat ook de aanhoudende mythe dat X fungeert als een onaantastbaar bolwerk van vrije meningsuiting. Dat is niet zo. En Apple kent het verschil. Toch lijkt het bedrijf deze keer een zachtere koers te hebben gekozen en Grok beschikbaar te laten na wat het een substantieel verbeterde update noemde.

Wat precies is veranderd is niet duidelijk. Apple heeft het niet in detail uitgelegd, en xAI heeft ook niet veel details gegeven. Maar de uitkomst spreekt genoegzeggend: de app overleefde, zelfs nadat ze in verband werd gebracht met een van de meest nare AI-veiligheidsfouten van het jaar.

Dergelijke gevallen zijn de reden waarom toezichthouders wereldwijd het App Store-beleid van Apple blijven onderzoeken. Sommige regeringen hebben al gepleit voor een model waarin App Review meer wordt behandeld als een externe toezichtinstantie dan als een poortwachter die alleen aan Apple verantwoording aflegt. Na de Grok-episode zal dat idee voor critici die vinden dat het huidige systeem te snel buigt wanneer de inzet hoog is, alleen nog aantrekkelijker klinken.