Het Einde van de Wiskunde

Wiskunde gaat niet alleen over het zeggen van ware dingen. Het gaat over het stellen van de juiste vragen, in verwarring raken, ronddwalen, afgeleid raken, ongelijk hebben, herkennen wanneer je ongelijk hebt en vastlopen. Vooral vastlopen. Het gaat over het vastklampen aan een gigantisch bouwwerk en dit aftasten tot je een klein stukje ervan begrijpt. Het gaat over het vinden van betekenis en intuïtie voor de textuur van een object dat in eerste instantie alleen begrepen kan worden door je schedel ertegenaan te slaan totdat het zich in je voorhoofd aftekent. En vervolgens proberen dat inzicht over te brengen op iemand anders, en toezien hoe zij hun eigen weg ernaartoe vinden.

Ik begon in juli 2020 met het proberen te laten rekenen van LLM's via het spel "AI Dungeon", een van de eerste applicaties aangedreven door GPT-3. In april 2022 kreeg ik GPT-3 voor het eerst een correct bewijs te laten produceren (van de kleine stelling van Fermat). Op dat moment dacht ik niet dat ze op korte termijn nuttig zouden worden voor wiskundig onderzoek.

Dit veranderde toen de eerste redeneermodellen werden uitgebracht: op 1 februari 2025 schreef ik dat het model o3-mini-high "duidelijk de drempel van oprechte bruikbaarheid" voor onderzoek had overschreden, hoewel het nog steeds veel fouten maakte. Sindsdien zijn de modellen verbeterd, en ChatGPT 5.2 Pro (uitgebracht in december 2025) kan regelmatig redelijke bewijzen leveren voor lemma's die ik zou omschrijven als "complex maar routine voor experts", hoewel het nog steeds fouten maakt. Daarnaast gebruik ik Codex, de coding/computer-use agent van OpenAI, voor wetenschappelijke computertaken die ik een paar maanden geleden niet eens had geprobeerd.

In publieke commentaren heb ik geprobeerd successen te erkennen terwijl ik tegelijkertijd tegen de hype in ging. Ik heb veel gesproken over "slop"-papers op arXiv. Ik ben bezorgd dat we de wetenschappelijke gemeenschap vervuilen met incorrecte wiskunde waarvan de fouten enorm moeilijk te detecteren zijn. Ik heb me geprobeerd te concentreren op het heden. In dit essay zal ik spreken over de toekomst.

***

Ik keer momenteel terug naar Toronto van een top over de toekomst van de wiskunde bij OpenAI. Sebastian Bubeck vroeg me om iets te vertellen over de toekomst die we allemaal willen vermijden: een toekomst waarin mensen wiskundig machteloos zijn. Jacob Tsimerman adviseerde ons om detail te prioriteren boven correctheid, en ik betwijfel niet dat ik erin geslaagd ben om de correctheid naar de achtergrond te verschuiven.

De premisse van de workshop (die we als uitgangspunt namen, in plaats van als onderwerp voor debat, om de discussie productief te houden) was dat AI robuust supermenselijk zal worden in wiskunde. Ik wil een verhaal vertellen waarin de wiskundige vooruitgang, ondanks dit feit, tot stilstand komt. Om duidelijk te zijn: dit is geen voorspelling — ik ben van nature optimistisch en denk dat we een manier zullen vinden om ons aan te passen — maar ik probeer me voor te stellen hoe een toekomst eruit zou zien waarin bepaalde huidige trends zich voortzetten.

2026

Wat duidelijk is, is dat we aan het begin staan van een massale explosie van wiskundige output. Zo is er bijvoorbeeld een enorme stijging te zien in het aantal combinatoriek-papers dat sinds eind 2021 wekelijks op arXiv wordt geplaatst. Andere gebieden vertonen een soortgelijke, zij het minder dramatische, stijging. Ik stel me voor dat een tijdreeks van tweets over wiskundige resultaten er hetzelfde uit zou zien.

Wat minder duidelijk is, is hoe interessant of correct dit overschot is, laat staan hoeveel ervan daadwerkelijk zinvol wordt bestudeerd. Desalniettemin bevat het een aantal opvallende en significante nieuwe resultaten.

Tegelijkertijd atrofiëren bepaalde organen van de wiskundige gemeenschap. Er is een daling zichtbaar in het aantal vragen en antwoorden op MathOverflow. Deze cijfers waren al een tijdje in een langzame daling omdat de functie van MathOverflow werd overgenomen door Discord en andere platforms, maar de daling sinds het begin van 2025 is waarschijnlijk grotendeels toe te schrijven aan AI. Wat ik hier opvallend vind, is dat er zowel minder vragen als minder antwoorden zijn. Ik kon in de statistieken geen toename vinden in antwoorden op oudere vragen, of enige andere statistiek die ik als positief zou kunnen bestempelen.

Zelfs bij de interessantste resultaten die door AI zijn geproduceerd, gebeurt er iets vreemds. Zo produceerden drie groepen onafhankelijk van elkaar bijna gelijktijdig zeer vergelijkbare bewijzen voor het 1/e-vermoeden van Feige; twee groepen gaven toe dat het resultaat door AI was gevonden. Nadat @alpoge het tegenvoorbeeld van Fable voor het Jacobiaan-vermoeden in dimensie $\geq 3$ plaatste, repliceerde een intern model bij OAI dit; op dezelfde manier repliceerde Anthropic veel van de recente resultaten die OpenAI heeft aangekondigd. De modellen, en de mensen die ze gebruiken, lijken dezelfde problemen op te lossen.

In de praktijk betekent dit dat een enorme hoeveelheid duplicerende arbeid, zowel menselijk als digitaal, wordt besteed aan werk waarvan de marginale waarde voor de wiskunde in feite beperkt is tot de kosten van de tokens en wellicht een paar bits aan informatie die aangeven dat het probleem kan worden opgelost door bestaande modellen.

2027

Natuurlijk kan dit werk waarde hebben voor de mensen die het aankondigen (erkenning, PR, etc.).

Op dit moment proberen we hoogwaardige wetenschap te stimuleren door mensen te belonen die papers produceren, stellingen bewijzen en vermoedens oplossen. Maar deze output is nu verkeerd geprijsd, en het stimuleren hiervan is niet overduidelijk optimaal voor de productie van hoogwaardige wetenschap. Wat gebeurt er als we dit de komende jaren blijven doen?

Ik denk dat, als we dat doen, de dominante strategie voor carrière succes (althans op de middellange termijn) het spelen van de "gokkast voor vermoedens" is. In feite hoeft men de vermoedens niet eens zelf te kiezen — je kunt Codex gewoon vragen ze te kiezen, op te lossen en het werk te controleren. Als je geeft om het produceren van correcte papers, kun je op deze manier meerdere korte papers per dag produceren (en mensen doen dit al); als correctheid je niet uitmaakt, kun je er veel meer produceren (en dat gebeurt ook).

Wat is de toegevoegde waarde? De kosten van de tokens? Zeker niet de ontwikkelde expertise — die is er namelijk niet. Niemand, zelfs de auteur niet, leest veel van dit werk. Wiskundigen zijn niet langer verbonden met de onderliggende wiskunde. Zelfs menselijke verificatie is debatbaar minder waardevol naarmate de modellen betrouwbaarder worden.

Bovendien heeft dit ernstig negatieve effecten op de wiskundige gemeenschap. We naderen het punt waarop modellen een paper kunnen reconstrueren op basis van een paar kernideeën. Sommige van de autonome AI-resultaten die we beginnen te zien hebben een "laatste mijl"-karakter, waarbij ze een probleem afronden na diepgaand recent werk van anderen. In zo'n wereld is het bespreken van werk in uitvoering — of zelfs het aangeven dat modellen een bepaald probleem kunnen oplossen — steeds gevaarlijker (althans, zolang we dergelijk werk belonen met prestige, banen, etc.).

Ik ben onlangs door meerdere collega's verteld dat zij om deze reden niet bereid zijn om werk in uitvoering te bespreken.

2028

Desalniettemin zijn er enkele lichtpunten. Autoformalisering wordt goedkoop en effectief. Veel gaten of fouten in de literatuur worden ontdekt en hersteld.

Er is veel beweerd over de noodzaak van menselijk oordeel bij dit proces, om te controleren of beweringen en definities correct zijn geformaliseerd. Ik ben hier sceptisch over — ik zie geen reden waarom modellen dit niet effectief zouden kunnen doen.

Aan de andere kant zien we al gevallen waarbij formalisaties verschillen van de Engelse tekst die ze formaliseren, op manieren die mogelijk niet duidelijk zijn voor de lezers. Opnieuw raken wiskundigen losgekoppeld van de wiskunde — hoewel ze kunnen vertrouwen op de beweringen in oud werk, is het moeilijker om de ideeën te vertrouwen. Informalisering helpt hier een beetje bij, maar dat is kostbaar en tijdrovend.

2029 en daarna

Ondanks dit blijft de professie het produceren van papers stimuleren. Modellen beginnen alle functies te vervullen die menselijke wiskundigen nu uitvoeren: theorievorming, het opstellen van vermoedens, het oplossen van vermoedens, itereren, etc. Menselijke wiskundigen doen "laboratoriumwetenschap" met agents, waarbij ze rekenkracht richten op vragen die zij interessant vinden.

Wie houdt zich bezig met dit werk? Hoe leiden we de volgende generatie op? Het is voor mij niet duidelijk of onze huidige instituten, als ze zich niet aanpassen aan dit nieuwe regime, kwalitatieve wiskundigen blijven produceren. Sterker nog, het lijkt me dat onze bestaande prikkels mensen zullen belonen die zich niet diepgaand met de wiskunde bezighouden, of er zelfs helemaal niet om geven.

Zal dit leiden tot een duurzame wiskundige praktijk? Ik denk plausibel niet. Waarom zouden dergelijke mensen überhaupt middelen blijven toewijzen aan agents die wiskunde bedrijven? Misschien is dit hoe wiskundig onderzoek er op de lange termijn uitziet in deze wereld.

Samenvatting van mogelijke risico's:

Ik wil benadrukken dat deze problemen reflecties zijn van het feit dat de professie zelf al op verschillende manieren imperfect is. Dit is niet verrassend — naarmate AI-geïnduceerde veranderingen druk uitoefenen op onze instituten, zullen deze uiteraard barsten op de plekken waar ze al gebrekkig waren. Misschien geeft deze externe schok ons de kans om enkele van deze gebreken te herstellen.

Onze instituten hebben bepaalde waarden (productie van hoogwaardige wetenschap, menselijk kapitaal, menselijk begrip, etc.) die we proberen te bereiken door mensen die daaraan bijdragen te belonen met plezier, prestige, etc. Deze waarden blijven bestaan in een wereld met zeer capabele AI, maar de mechanismen die we gebruiken om ze te bereiken zijn in veel gevallen niet robuust tegenover zeer capabele AI.

Enkele slotvragen: (Hier eindigt de analyse van de risico's).

Voor wat het waard is, ben ik breed optimistisch dat de wiskunde zal overleven en bloeien. We hebben de kans om ongelooflijke dingen te leren en te begrijpen. Ik denk dat we ons zullen aanpassen.

Ik denk dat veel van deze zorgen over enkele jaren wellicht ouderwets of parochial zullen lijken, aangezien zeer capabele modellen massale sociale omwentelingen veroorzaken die verder gaan dan de wereld van de abstracte wiskunde. Mijn hoop is echter dat de vragen die ik hier stel nauw genoeg zijn om productief te worden overwogen, en dat onze antwoorden kunnen dienen als model voor anderen die ebenfalls worden beïnvloed.