Hoe ChatGPT afbeeldingen verzint: de AI-beeldhallucinatie

Een enkele tweet veranderde een routine-experiment in een vreemd klein internetmysterie. Een gebruiker op X zei dat hij het afbeeldingshulpmiddel van ChatGPT had gevraagd om "de bijgevoegde foto te reconstrueren", terwijl er geen bijgevoegde foto was. Het model stopte niet. Het verzon er een.

Het resultaat? Vreemde, ongemakkelijke beelden die lijken alsof iemand een camera op een koortsdroom heeft gericht. Gezichten vervormen. Achtergronden ontvouwen zich tot onmogelijke texturen. Gebruikers noemden ze griezelig, soms ronduit nachtmerrieachtig. Korte prompts. Wilde uitvoer.

Wat je ziet is een klassiek geval van AI-hallucinatie, maar dan in beeldvorm. Als een model niet over de benodigde input beschikt, kan het nog steeds content produceren door te leunen op statistische patronen en interne kaarten van hoe beelden er gewoonlijk uitzien. Het systeem vult lacunes op in plaats van te zeggen: "Ik heb dat bestand niet." Het resultaat kan creatief zijn, of het kan op een ongemakkelijke manier fout zijn.

Is dit een bug in de beeldgeneratie-pijplijn, of gewoon een vreemde interpretatie van een ruimhartige prompt? Het is moeilijk te zeggen. Het gedrag kan voortkomen uit hoe het hulpmiddel instructies verwerkt die naar een bijlage verwijzen, of uit interne fallbacklogica die probeert behulpzaam te zijn wanneer gegevens ontbreken. Hoe dan ook benadrukt deze gebeurtenis een algemener probleem: modellen die uitvoer boven epistemische terughoudendheid stellen.

Mensen hebben online gedebatteerd en voorbeelden gedeeld en pleiten voor duidelijkere veiligheidsmaatregelen. Ontwikkelaars zouden expliciete controles op ontbrekende input kunnen afdwingen, of het systeem vervolgvragen laten stellen wanneer een vereist bestand niet wordt aangeleverd. Kleine aanpassingen in promptverwerking zouden voorkomen dat het model beelden fabriceert die geen basis in de realiteit hebben.

Als een AI verzint wat het niet heeft, is de fout niet alleen technisch, het is een ontwerpskeuze die we kunnen corrigeren.

Of dit nu een oplosbare glitch is of een herinnering aan de grenzen van huidige generatieve systemen, het gesprek is nuttig. Wie bepaalt wat een AI mag verzinnen? En wie repareert het wanneer die verzinsels te dicht bij een digitale nachtmerrie komen?