Waarom taalmodellen geen menselijke genialiteit vervangen

Stel je Albert Einstein voor, alleen met een gedachte-experiment. Hij stelt zich voor dat hij in een afgesloten lift zit die vrij valt door de ruimte, en uit dat stille mentale beeld destilleert hij de vergelijkingen die de fysica herschrijven. Dat moment, zuivere intuïtie en zintuiglijke verbeelding, een sprong met vrijwel geen data, is het soort creatieve sprong dat huidige taalmodellen moeilijk na kunnen bootsen.

Waarom een zee van tekst niet hetzelfde is als een geleefde wereld

DeepMind-wetenschapper Tom Zahavy formuleerde dit scherp in een recente analyse getiteld 'taalmodellen kunnen niet springen'. Zijn betoog verdeelt denken in drie modaliteiten: inductie, deductie en hypothesevorming. Moderne modellen excelleren in de eerste. Ze comprimeren bergen patronen en kunnen de volgende zin met een verbijsterende nauwkeurigheid voorspellen. Geavanceerde systemen verwerken ook deductie redelijk; geautomatiseerde redeneertools, waaronder projecten zoals AlphaProof, laten zien dat machines logische ketens kunnen volgen wanneer regels worden opgegeven.

Maar waar het gaat om hypothesevorming, het vermogen om een nieuw kader te bedenken op basis van bijna geen empirische input, struikelen machines. Waarom? Omdat ze geen lichaam in de wereld hebben, en ze missen de zintuiglijke intuïtie die mensen gebruiken om causale verbanden te smeden. Je kunt Einsteins initiële premissen niet afleiden door alleen bestaande teksten te analyseren. Zijn inzicht ontstond uit belichaamde metaforen en zintuiglijke gedachte-experimenten, niet uit statistisch patroonherkenning over de literatuur heen.

Sommige denkers, zoals Jürgen Schmidhuber, hebben wetenschappelijke ontdekking ooit gekaderd als een extreme vorm van datacompressie. DeepMind daagt die opvatting uit. Het paper wijst erop dat revolutionaire theorieën vaak ontstaan in data-arme contexten en afhankelijk zijn van contrafactuele scenario's en levendige verbeeldende synthese. Taalmodellen, getraind op retrospectieve patronen, bedenken zelden nieuwe ontologieën die het begrip van de wereld herformuleren.

Dat heeft praktische consequenties. Huidige AI-programmeer- en geautomatiseerde ontdekkingshulpmiddelen blijven beperkt tot vooraf gedefinieerde kaders. Ze kunnen binnen een kader optimaliseren. Ze hebben moeite om het kader zelf te hertekenen. En geen enkele toename in rekenkracht, grotere datacenters of dichter trainingsmateriaal zal automatisch het soort causale intuïtie opleveren dat radicale wetenschappelijke sprongen ondersteunt.

Wat betekent dit voor onderzoek en industrie? Het stelt verwachtingen bij. Taalmodellen zijn krachtige samenwerkingspartners voor patroonrijke taken, het opstellen van teksten, het verfijnen van hypothesen en het verkennen van variaties. Ze vergroten de mogelijkheden, maar vervangen niet de menselijke vonk die de vragen en conceptuele instrumenten uitvindt. Met andere woorden: uitstekend voor ondersteuning. Nog niet klaar om revoluties te starten.

Computationele schaal is geen vervanging voor belichaamd inzicht; menselijke verbeelding maakt nog altijd de sprong.

Er is een open pad vooruit. Hybride benaderingen die modellen koppelen aan sensoren, experimenten en interactieve omgevingen kunnen de kloof verkleinen. Maar totdat machines vormen van gesitueerd begrip en causale intuïtie bezitten die verder reiken dan tekst, zullen de gedurfste wetenschappelijke ideeën het domein van menselijke geesten blijven.