Het krijt en het vliegtuig

Ik denk dat we het einde zien van het romantische tijdperk van de wiskunde — het tijdperk van de helden — iets wat in andere disciplines al eeuwen geleden gebeurde, al vroeg in de industriële revolutie. Maar op somehow hield de wiskunde stand en behielden we onze idiosyncratische tradities. We gebruiken bijvoorbeeld allemaal schoolborden, zoals u kunt zien, en ik heb dit speciale Japans-Koreaanse krijt.” — Terence Tao in een gesprek met Numberphile over AI

Tegenwoordig is het een zeldzame reflectie dat bij industrialisatie de beoefenaars van een discipline de manier waarop ze werken veranderen. We zijn grotendeels voorbij die tijd van industrialisatie. De emotionele reacties van wiskundigen op recente AI-bewijzen spreken daarom over de veranderende normen binnen hun discipline.

Ik was getroffen door de mate waarin begrippen als romantiek, respect, hoffelijkheid en angst een rol speelden in die reacties. Ik had soortgelijke reacties gevonden in andere disciplines uit het verleden (zie de lijst van de anti-technologische Luddieten-beweging), maar vergeleken met historische verslagen, zoals de impact van de naaimachine op kleermakers en de tractor op boeren, is het krachtiger om deze veranderingen in realtime te witnessing.

Hier is Tao over de roep om respect en etiquette:

“Ik denk dat de bredere gemeenschap respect moet hebben voor een deel van onze ruimte. Als je een marathon organiseert, is het begrijpelijk dat het voor het algemene publiek niet gepast is om met de auto over dezelfde weg te rijden en mensen in de race in te halen – theoretisch zou je dat kunnen, maar sociaal gezien is dat geen goede etiquette.”

Maar tenzij er iets is om het in stand te houden, is er altijd een tendens weg van etiquette. Vijftig jaar geleden kregen we een voorproefje van een breuk in de wiskundige etiquette. In 1976 werd de vierkleurenstelling als bewezen beschouwd — met hulp van een computer.

Er waren toen reacties zoals:

“Het huidige bewijs steunt in feite op een Orakel, en ik zeg: neer met de Orakels! Dat is geen wiskunde” – Paul Halmos, UC Santa Barbara

“Omdat het probleem met totaal ongepaste middelen was opgelost, zou geen enkele eersteklas wiskundige er nu meer aan werken, omdat hij niet de eerste zou zijn die het deed.” (uit het boek 'Four Colors Suffice' van Robin Wilson)

Het bespotten van dat gecomputeriseerde bewijs was nog jaren later gebruikelijk, toen ik op de middelbare school zat.

Naast die breuk in de etiquette zien we nu ook paniek, potentieel verloren financiering en gevoelens van vervolging.

Uit de presentatie “A Serious AI Alignment Flaw in Mathematics, 28 Days Later”, door Hugo Duminil-Copin:

“Mijn verschillende PhD-studenten en postdocs verkeren in een staat van totale paniek, en ik begrijp hen. En bachelor- en masterstudenten stellen dezelfde vragen, heel simpelweg: is er nog een toekomst voor de wiskunde?

Beleidsmakers zullen in de komende jaren beslissingen nemen over financiering en we moeten klaar zijn om onze toegevoegde waarde uit te leggen. Als mensen meer tijd besteden aan het uitleggen dat anderen ongelijk hebben en dat hun argumenten slecht zijn, hebben we simpelweg geen argumenten meer om aan deze beleidsmakers te presenteren... Ik schreef deze tekst voor Proof Prompts... En ik had deze zomer de indruk dat er een soort onbalans was in termen van spreektijd en vooral wie er sprak; soms ter ondersteuning van het feit dat AI absoluut fantastisch was voor wiskunde, en soms over het feit dat men bang kon zijn voor de gevolgen van deze AI, of het gebruik van AI... En dus schreef ik een tekst die voor mij vrij gematigd leek... en ik was verrast door de gewelddadigheid van de e-mails en berichten die ik na deze tekst ontving.”

Zouden die beleidsbeslissingen effectief zijn in zo'n situatie? Hoe kunnen we “toegevoegde waarde” adequaat uitleggen, wanneer die waarde wellicht pas na vele jaren wordt gerealiseerd, of wanneer de waarde (in financiële zin) van nieuwe kennis onduidelijk is?

In dat kader is er de Leiden Declaration on Artificial Intelligence and Mathematics: “Wiskundigen hebben een keuze over het feit of en hoe zij kunstmatige intelligentie adopteren in de uitvoering van hun onderzoek. Zij hebben ook de verantwoordelijkheid om ervoor te zorgen dat de discipline blijft floreren.”

Er is ook sprake van spirituele angst. Uit een bericht getiteld “The Dark Night of Mathematics”:

“Ik word gek. In de afgelopen week hebben LLM's een aantal tegenvoorbeelden geproduceerd voor belangrijke, langdurige conjecturen... Ik lijd aan een diepe spirituele crisis door deze ontwikkelingen.

Er is iets aan wiskundige ontdekking (vooruitgang, verbetering, creatie) dat vitaal is voor de spirituele, experiëntiële kwaliteit van het doen van wiskunde. De creatie (of zelfs het nastreven) van nieuwe wiskunde is een manier waarop mensen historisch gezien toegang hebben gekregen tot het onzegbare en het goddelijke en mystieke zijn tegengekomen.

Stel dat elk theorema dat je probeert te bewijzen al op 100 prachtige manieren is bewezen — bedrijven zullen wiskundigen massaal betalen om de gewichten te optimaliseren voor 'interessant', 'mooi', wat je maar wilt. Wat de eigenzinnigheid, toegevoegde waarde of unieke synthese van je aanpak ook is, het is al gedaan, of kan in een instant worden gedaan met een geestloze prompt.

Denk hier eens over na: als de Bibliotheek van Babel bestond, zouden auteurs dan nog steeds boeken schrijven?

Het verhaal van menselijke ontdekking en de triomf van de menselijke geest zal binnenkort uit deze discipline worden geschrapt. Het Dinitz-Garg-Goemans tegenvoorbeeld was de meest schrijnende demonstratie. Het onthulde dat het proces van het prompten van nieuwe bewijzen net zo zielloos zal zijn als het bestellen van eten via Doordash. Kijk hoe de magie en het mysterie verdampen. Kijk hoe de zon ondergaat voor ons heldentijdperk. Is er niet iets kwaadaardigs aan het blokkeren van alle toekomstige generaties wiskundigen van de ervaring van ontdekking? Vergeet nauwkeurigheid of zelfs attributie. Iets fundamenteels aan de ervaring van wiskunde wordt afgepakt.”

En we zien nederigheid. Uit “We’re gonna need a lot more mathematicians”:

“De gemeenschap van onderzoekswiskundigen bestaat grotendeels uit mensen die [zelden het gevoel hadden niet mee te kunnen komen met nieuwe concepten]... Maar we gaan nu een tijd van nederigheid tegemoet: een tijd waarin we allemaal zullen weten hoe het voelt om niet mee te kunnen komen.”

Ironisch genoeg concludeert het bericht: “De ideeën en meningen die hier worden gepresenteerd zijn volledig de mijne, maar GPT 6 Astra was instrumenteel in het helpen opstellen van deze notitie.”

Opnieuw Tao: “Ik denk dat we naar een industrieel tijdperk gaan waarin wiskunde veel grootschaliger zal worden. We zullen in grote teams werken, meer zoals in de andere wetenschappen... Er was iets romantisch aan het heldentijdperk en hopelijk behouden we daar wat van in ons onderwijssysteem. We zullen eerst de nadruk leggen op traditionele manieren van wiskunde bedrijven voordat we overgaan op de industriële zaken, net zoals we kinderen leren rekenen met de hand voordat we ze rekenmachines geven.”

Ik heb meelevend met de wiskundigen. Maar dit zijn geen productieve gevoelens, hoe wreed dat ook klinkt voor het einde van een “romantisch tijdperk”.

Er is een Chinees idioom: 生不逢时 of “geboren op het verkeerde moment”, dat vertelt hoe een oude ambtenaar die op een lagere post werkte, zijn lage rang uitlegde aan de huidige keizer. Hij was een jonge strijder toen een vorige keizer hield van literatuur, middelbaar toen de volgende keizer hield van oudere, ervaren adviseurs, en oud toen de huidige keizer hield van de jongeren.

Toen hij dit hoorde, promoveerde de keizer de oude man vanwege zijn loyaliteit in verschillende omgevingen. Maar in dat voorbeeld is de uitkomst individueel en niet schaalbaar. Er is geen keizer die gunsten verdeelt over de wiskundigen van nu.

Je kunt niet kiezen wanneer je geboren wordt of in welke omgeving je wordt geboren. Het is frustrerend om te dromen: “Ik had een geweldige ontdekkingsreiziger kunnen zijn als ik maar geboren was in 1500, toen er nog veel onontdekte landen waren!” Of om te denken: “Ik had een geweldige wiskundige kunnen zijn als ik geboren was in 1900, ruim voordat AI-bewijzen bestonden!”

We hebben het ideaal van vooruitgang zo lang omarmd dat we vergaten dat er nog steeds velden zijn waar ridders met lansen aanvallen.

Dingen veranderen wanneer ze schalen. Maar de uitkomsten van schaling laten ons achter met resultaten die niet precies de oorspronkelijke doelen waren. Blijvend bij het thema van het romantische tijdperk: we zagen iets veranderen toen we voorbijgingen aan de ridderlijke regels van oorlogsvoering, de kunst en gemeenschap van het ploegen van akkers met paarden, of de jaren die werden besteed aan een olieverfschilderij. Hun vervanging door de loopgravenoorlog van het begin van de 20e eeuw, GPS-gestuurde tractoren en combines, en pop-art gaf ons meer volume, maar ook iets anders.

In “Will it be a golden age or a dark age for mathematics (and science)?,” geeft de auteur toe dat het begrip van AI-gegenereerde bewijzen onvolledig is, maar pleit hij voor hun potentieel om het leren te bevorderen.

“Het grijpen naar dat potentieel vereist de zorgvuldige integratie van LLM's in de diverse STEM-ecosystemen, met prioriteiten die gericht zijn op het versterken van een nieuwe generatie wetenschappers, het ontwikkelen van nieuwe STEM-expertise en het behouden van een open, collaboratieve en intellectueel onafhankelijke wetenschappelijke onderneming: dat is het 'gouden tijdperk'-scenario in de titel. In het 'donkere tijdperk'-scenario zou de wetenschappelijke en technologische output op korte termijn nog steeds spectaculair toenemen, maar tegelijkertijd zou de onafhankelijke menselijke wetenschappelijke activiteit geleidelijk verzwakken, waarbij de productie van nieuwe kennis steeds meer geconcentreerd raakt in een klein aantal handen, die steeds minder in staat zijn om de geproduceerde kennis te begrijpen.”

En in Quo Vadis, Mathematics? vinden we de analogie van wiskundigen als eenzame ontdekkingsreizigers die te voet door gevaarlijk terrein navigeren. Ondertussen worden vliegtuigen gemeengoed, wat zorgt voor “desoriëntatie en een plotseling verlies van doel. Dat verdriet is echt, en ik zal niet doen alsof dat anders is. Maar het zal niet duren. De wiskunde staat op het punt om af te studeren. Het zal uitgroeien tot een industrie op volle schaal en de ware infrastructuur worden van alle wetenschappelijke en technologische vooruitgang; een fundament waarop elk ander veld rust, in plaats van een rustig hoekje van de academie. Het tijdperk van de eenzame klimmers sluit, en het tijdperk van het in kaart brengen van het hele continent opent. Wat mij betreft: ik kan niet wachten om die uitgestrekte bergketens vanuit mijn supersonische vliegtuig te zien.”

Dat krijt waar Tao over sprak moet wel superieur zijn. Een collega van mij kocht alles wat hij kon toen hij hoorde dat de oorspronkelijke fabrikant stopte. Maar de schoolborden zijn al verdwenen.