Altman: OpenAI blijft grote aantallen AI-wiskunde publiceren

Sam Altman, CEO van OpenAI, zei in een recente podcast dat het bedrijf een groot aantal wiskundige resultaten van zijn modellen zal blijven publiceren en dat er nog veel meer klaarstaan voor publicatie. Hij zei begrip te hebben voor de moeilijkheden waarmee onderzoekers kampen bij het interpreteren van de uitkomsten, maar voegde eraan toe dat OpenAI niet van plan is daarmee te stoppen.

In de Cheeky Pint-podcast zei Altman: "Ik denk dat iedereen het recht heeft om te weten hoe de wereld werkt; maar ik heb begrip voor de methodologische uitdagingen van onderzoekers." In hetzelfde gesprek was hij duidelijk over toegang tot fundamentele kennis: "Ik ben hier volkomen duidelijk over: de mensheid verdient het om fundamentele kennis te kennen, en we moeten een belangrijke en vitale wetenschappelijke ontdekking niet voor onszelf houden. De wereld verdient het om deze feiten te kennen."

De uitspraken van Altman behoren tot de eerste expliciete reacties van de OpenAI-topman op het debat over de recente wiskundepublicaties van het bedrijf. De afgelopen maanden gingen publicaties van opvallende resultaten door het lab gepaard met chaotische lanceringen en beperkte toelichting. Daardoor zijn veel wiskundigen enthousiast over de bevindingen, maar tegelijk verward over het bewijs en de context. Onderzoekers zeggen dat OpenAI alleen al in de afgelopen maand honderden bewijzen en resultaten heeft vrijgegeven. Veel daarvan worden in schriftelijke rapporten omschreven als zeer kort, onleesbaar en ambigu.

Wiskundigen die met de pers spraken, hebben OpenAI's aanpak rond openbaarmaking herhaaldelijk bekritiseerd. Zij wijzen op gebrekkige bronvermelding, onvoldoende achtergrondmateriaal en een gebrek aan zorgvuldige verificatie. Volgens critici legt de situatie de zware taak om bewijzen te verifiëren bij de academische gemeenschap, terwijl het bedrijf nieuwe resultaten blijft publiceren.

Tegelijkertijd wordt OpenAI ervan beschuldigd enkele belangrijke ontdekkingen voor het publiek te hebben achtergehouden. Critici noemen drie vermeende doorbraken in de wiskunde, natuurkunde en informatica. Volgens hen zijn de details van een daarvan, de Yang-Mills-theorie die veel van de moderne deeltjesfysica en bijbehorende wiskunde onderbouwt, nooit openbaar gemaakt. OpenAI heeft gezegd dat het sommige details heeft achtergehouden op advies van een kleine groep geselecteerde experts, om tot een duidelijkere presentatie te komen. Volgens mensen die het bedrijf eerder adviseerden, ging die beslissing in tegen hun aanbevelingen.

Altman maakte bekend dat de wiskundige output van het bedrijf aanzienlijk groter is dan wat al is gepubliceerd. Toen hem werd gevraagd of OpenAI naast de honderden recent vrijgegeven bewijzen nog meer bevindingen had, antwoordde hij: "Ja, die hebben we zeker." Hij erkende ook dat de focus van het lab op het oplossen van wiskundige problemen een tijdlang "uit de hand was gelopen", maar omschreef die inspanning als een bewuste test van de grenzen van de modellen. Volgens Altman hebben ingenieurs intern een kanaal met de naam "Hold My Beer" opgezet om de moeilijkste wetenschappelijke problemen aan de modellen voor te leggen en hun prestaties te meten.

Altman schatte dat OpenAI honderden miljoenen dollars heeft uitgegeven aan het aanpakken van moeilijke wiskundige problemen, waaronder meer dan $10 miljoen aan pogingen rond de Navier-Stokes-vergelijkingen: de reeks partiële differentiaalvergelijkingen die vloeistofdynamica beschrijft. Deze cijfers illustreren de omvang van de private financiering die naar fundamenteel onderzoek stroomt. Sommige onderzoekers vrezen dat zulke middelen academische groepen zonder vergelijkbare budgetten kunnen marginaliseren.

Altman zegt dat OpenAI AI-gegenereerde wiskundige resultaten ondanks de zorgen van onderzoekers zal blijven publiceren en dat nog veel meer bevindingen wachten op publicatie.