Het artikel waarschuwt voor een fundamentele misuitlijning tussen de doelstellingen van AI-bedrijven en de wiskundige gemeenschap. Hoewel LLM's steeds beter worden in het oplossen van complexe wiskundige vraagstukken, stellen de auteurs dat het oplossen van problemen slechts een proxy is voor het werkelijke doel: conceptueel begrip en inzicht.
De belangrijkste punten zijn:
- De menselijke factor: Wiskunde draait om een langdurig proces van interactie, discussie en vereenvoudiging, essentieel voor de vorming van studenten en de groei van het vakgebied.
- Risico's van AI: De focus op snelle resultaten kan leiden tot een 'massaproductie' van antwoorden zonder correcte verslaglegging, wat risico's met zich meebrengt op het gebied van plagiaat en het verlies van de menselijke transmissieketen.
- Bredere dreiging: Dit probleem is symptomatisch voor een algemene trend waarbij AI in diverse intellectuele beroepen het eindproduct prioriteert boven het proces van training en begrip.
De auteurs pleiten voor een dringende aanpak van deze kwesties door zowel de wiskundige gemeenschap als de ontwikkelaars van AI-technologie om te voorkomen dat intellectueel werk wordt uitgehold.
Een ernstige misuitlijning van AI in de wiskunde
De aard van wiskundig onderzoek
Wiskundig onderzoek houdt zich bezig met het begrijpen van basisstructuren van vormen, getallen en natuurverschijnselen. In de loop van generaties is er een groot corpus opgebouwd van geavanceerde ideeën, methoden, abstracties en andere instrumenten om het wiskundige landschap te begrijpen. Op hun beurt zijn moderne technologieën en wetenschappen gebaseerd op deze wiskundige instrumenten.
Beroemde problemen hebben vaak gediend als herkenningspunten en vuurtorens waaraan men een verbeterd begrip van dit landschap kan meten. Het oplossen van een van deze problemen is altijd een teken geweest van nieuwe inzichten en interessante methoden, die vervolgens door een gemeenschap van wiskundigen worden bestudeerd via een langdurig en moeizaam proces van lezingen, discussies en vereenvoudigingen. Aan het einde van dit proces vindt men idealiter een presentatie van de resultaten in een tekstboek, geschikt voor studie door elke master- of zelfs bachelorstudent. Sommige wiskundige ideeën vervolgen hun reis zelfs verder om, decennia of eeuwen later, instrumenten te worden die door de gehele populatie worden begrepen en gebruikt.
De menselijke factor in de wiskundige gemeenschap
De wiskundige gemeenschap functioneert in veel opzichten als een miniatuurversie van de mensheid. Ze bestaat uit individuen die een grote verscheidenheid aan verschillende benaderingen gebruiken, verenigd door kernwaarden. De kostbaarste hulpbronnen van ons beroep zijn studenten en ideeën, en deze koesteren we met grote zorg. We voelen ons verantwoordelijk om hen te laten groeien tot hun volledige potentieel, totdat ze een eigen leven kunnen leiden in de wiskundige wereld.
Aan studenten suggereren we vaak problemen met de primaire intentie om vaardigheden te ontwikkelen waardoor zij goed gepositioneerd zijn voor vorderingen in onderzoek en elders. Onze ideeën verspreiden we via lezingen, private discussies en zorgvuldige verslagen, waarbij we ze verbinden met de eerdere ideeën van anderen. Deze processen kosten onvermijdelijk tijd en zijn gebaseerd op menselijke interactie.
De risico's van AI als instrument
In recente maanden heeft het succes van AI bij het oplossen van grote wiskundige problemen ook buiten wiskundige kringen de koppen gehaald. Maar het oplossen van problemen is slechts een instrument en een proxy voor het bereiken van het primaire doel: conceptueel begrip en inzicht. Wanneer dit in de wereld van AI wordt vergeten, kan het instrument zich tegen het primaire doel keren. De massaproductie van "waar/onwaar"-uitspraken in een steeds hoger tempo zou namelijk vruchtbare grond kunnen vernietigen in plaats van nieuw leven in nieuwe ideeën te blazen.
Vaak worden deze oplossingen overhaast aangekondigd, waardoor er geen tijd overblijft voor een correct verslag, het isoleren van nieuwe methoden en ideeën, en het citeren van relevant eerder werk van anderen. Zoals in alle creatieve beroepen roept dit ernstige vragen op over attributie en plagiaat. Bovendien zouden AI-bedachte ideeën nooit volledig tot leven komen en zou de cruciale menselijke transmissieketen tussen wiskundigen verloren gaan zonder de bereidwillige wiskundigen die zorg moeten dragen voor de ontwikkeling en integratie in de wiskundige canon.
Een algemene bedreiging voor intellectueel werk
We zijn getuige van een algemene bedreiging voor intellectueel werk, met een misuitlijning tussen het resultaat van het gebruik van AI en het oorspronkelijke doel ervan. In veel vakgebieden en activiteiten hebben jaren van training traditioneel niet alleen gediend om een definitief antwoord of product te produceren, maar ook om begrip te ontwikkelen en het vermogen om nieuwe vragen en ideeën te formuleren.
Echter, door voort te bouwen op een enorme hoeveelheid eerder menselijk werk, worden AI-systemen steeds beter in staat om de resultaten van dat werk direct te produceren, waardoor deze doelen niet langer op één lijn liggen. De problemen waar de wiskundige gemeenschap nu voor staat, zijn vergelijkbaar met de problemen waar andere wetenschappelijke en creatieve beroepen voor staan, en wijzen op kwesties die de hele mensheid kan treffen: hoe zorgen we ervoor dat we, terwijl AI de manier waarop werk wordt gedaan verandert, niet uit het oog verliezen wat dat werk in de eerste plaats bedoelde te bereiken.
Toekomst en aanpassing
AI biedt het potentieel om oprechte wiskundige studie en begrip te verbeteren en te versnellen. De wiskunde als beroep zal zich op verschillende manieren moeten aanpassen aan deze veranderingen. Of deze veranderingen het vakgebied uiteindelijk ten goede komen of een destructief effect hebben, zal echter grotendeels worden bepaald door de beslissingen van de mensen die deze nieuwe technologie beheersen.
Deze kwesties moeten dringend worden aangepakt in de wiskundige gemeenschap, door de bedrijven die deze technologieën ontwikkelen en, breder, door een samenleving die met soortgelijke problemen zal worden geconfronteerd in vele andere vormen van intellectueel werk.
Ondertekenaars
- Artur Avila (Fields Medal 2014)
- Manjul Bhargava (Fields Medal 2014)
- Caucher Birkar (Fields Medal 2018)
- Pierre Deligne (Fields Medal 1978)
- Yu Deng (Fields Medal 2026)
- Simon Donaldson (Fields Medal 1986)
- Hugo Duminil-Copin (Fields Medal 2022)
- Alessio Figalli (Fields Medal 2018)
- Martin Hairer (Fields Medal 2014)
- June Huh (Fields Medal 2022)
- Maxim Kontsevich (Fields Medal 1998)
- Elon Lindenstrauss (Fields Medal 2010)
- Pierre-Louis Lions (Fields Medal 1994)
- James Maynard (Fields Medal 2022)
- Curt McMullen (Fields Medal 1998)
- Shigefumi Mori (Fields Medal 1990)
- Ngô Bảo Châu (Fields Medal 2010)
- Andrei Okounkov (Fields Medal 2006)
- Peter Scholze (Fields Medal 2018)
- Stanislav Smirnov (Fields Medal 2010)
- Terence Tao (Fields Medal 2006)
- Maryna Viazovska (Fields Medal 2022)
- Cédric Villani (Fields Medal 2010)
- Wendelin Werner (Fields Medal 2006)
- Efim Zelmanov (Fields Medal 1994)
Een ernstige misuitlijning van AI in de wiskunde
De aard van wiskundig onderzoek
Wiskundig onderzoek houdt zich bezig met het begrijpen van basisstructuren van vormen, getallen en natuurverschijnselen. In de loop van generaties is er een groot corpus opgebouwd van geavanceerde ideeën, methoden, abstracties en andere instrumenten om het wiskundige landschap te begrijpen. Op hun beurt zijn moderne technologieën en wetenschappen gebaseerd op deze wiskundige instrumenten.
Beroemde problemen hebben vaak gediend als herkenningspunten en vuurtorens waaraan men een verbeterd begrip van dit landschap kan meten. Het oplossen van een van deze problemen is altijd een teken geweest van nieuwe inzichten en interessante methoden, die vervolgens door een gemeenschap van wiskundigen worden bestudeerd via een langdurig en moeizaam proces van lezingen, discussies en vereenvoudigingen. Aan het einde van dit proces vindt men idealiter een presentatie van de resultaten in een tekstboek, geschikt voor studie door elke master- of zelfs bachelorstudent. Sommige wiskundige ideeën vervolgen hun reis zelfs verder om, decennia of eeuwen later, instrumenten te worden die door de gehele populatie worden begrepen en gebruikt.
De menselijke factor in de wiskundige gemeenschap
De wiskundige gemeenschap functioneert in veel opzichten als een miniatuurversie van de mensheid. Ze bestaat uit individuen die een grote verscheidenheid aan verschillende benaderingen gebruiken, verenigd door kernwaarden. De kostbaarste hulpbronnen van ons beroep zijn studenten en ideeën, en deze koesteren we met grote zorg. We voelen ons verantwoordelijk om hen te laten groeien tot hun volledige potentieel, totdat ze een eigen leven kunnen leiden in de wiskundige wereld.
Aan studenten suggereren we vaak problemen met de primaire intentie om vaardigheden te ontwikkelen waardoor zij goed gepositioneerd zijn voor vorderingen in onderzoek en elders. Onze ideeën verspreiden we via lezingen, private discussies en zorgvuldige verslagen, waarbij we ze verbinden met de eerdere ideeën van anderen. Deze processen kosten onvermijdelijk tijd en zijn gebaseerd op menselijke interactie.
De risico's van AI als instrument
In recente maanden heeft het succes van AI bij het oplossen van grote wiskundige problemen ook buiten wiskundige kringen de koppen gehaald. Maar het oplossen van problemen is slechts een instrument en een proxy voor het bereiken van het primaire doel: conceptueel begrip en inzicht. Wanneer dit in de wereld van AI wordt vergeten, kan het instrument zich tegen het primaire doel keren. De massaproductie van "waar/onwaar"-uitspraken in een steeds hoger tempo zou namelijk vruchtbare grond kunnen vernietigen in plaats van nieuw leven in nieuwe ideeën te blazen.
Vaak worden deze oplossingen overhaast aangekondigd, waardoor er geen tijd overblijft voor een correct verslag, het isoleren van nieuwe methoden en ideeën, en het citeren van relevant eerder werk van anderen. Zoals in alle creatieve beroepen roept dit ernstige vragen op over attributie en plagiaat. Bovendien zouden AI-bedachte ideeën nooit volledig tot leven komen en zou de cruciale menselijke transmissieketen tussen wiskundigen verloren gaan zonder de bereidwillige wiskundigen die zorg moeten dragen voor de ontwikkeling en integratie in de wiskundige canon.
Een algemene bedreiging voor intellectueel werk
We zijn getuige van een algemene bedreiging voor intellectueel werk, met een misuitlijning tussen het resultaat van het gebruik van AI en het oorspronkelijke doel ervan. In veel vakgebieden en activiteiten hebben jaren van training traditioneel niet alleen gediend om een definitief antwoord of product te produceren, maar ook om begrip te ontwikkelen en het vermogen om nieuwe vragen en ideeën te formuleren.
Echter, door voort te bouwen op een enorme hoeveelheid eerder menselijk werk, worden AI-systemen steeds beter in staat om de resultaten van dat werk direct te produceren, waardoor deze doelen niet langer op één lijn liggen. De problemen waar de wiskundige gemeenschap nu voor staat, zijn vergelijkbaar met de problemen waar andere wetenschappelijke en creatieve beroepen voor staan, en wijzen op kwesties die de hele mensheid kan treffen: hoe zorgen we ervoor dat we, terwijl AI de manier waarop werk wordt gedaan verandert, niet uit het oog verliezen wat dat werk in de eerste plaats bedoelde te bereiken.
Toekomst en aanpassing
AI biedt het potentieel om oprechte wiskundige studie en begrip te verbeteren en te versnellen. De wiskunde als beroep zal zich op verschillende manieren moeten aanpassen aan deze veranderingen. Of deze veranderingen het vakgebied uiteindelijk ten goede komen of een destructief effect hebben, zal echter grotendeels worden bepaald door de beslissingen van de mensen die deze nieuwe technologie beheersen.
Deze kwesties moeten dringend worden aangepakt in de wiskundige gemeenschap, door de bedrijven die deze technologieën ontwikkelen en, breder, door een samenleving die met soortgelijke problemen zal worden geconfronteerd in vele andere vormen van intellectueel werk.
Ondertekenaars
- Artur Avila (Fields Medal 2014)
- Manjul Bhargava (Fields Medal 2014)
- Caucher Birkar (Fields Medal 2018)
- Pierre Deligne (Fields Medal 1978)
- Yu Deng (Fields Medal 2026)
- Simon Donaldson (Fields Medal 1986)
- Hugo Duminil-Copin (Fields Medal 2022)
- Alessio Figalli (Fields Medal 2018)
- Martin Hairer (Fields Medal 2014)
- June Huh (Fields Medal 2022)
- Maxim Kontsevich (Fields Medal 1998)
- Elon Lindenstrauss (Fields Medal 2010)
- Pierre-Louis Lions (Fields Medal 1994)
- James Maynard (Fields Medal 2022)
- Curt McMullen (Fields Medal 1998)
- Shigefumi Mori (Fields Medal 1990)
- Ngô Bảo Châu (Fields Medal 2010)
- Andrei Okounkov (Fields Medal 2006)
- Peter Scholze (Fields Medal 2018)
- Stanislav Smirnov (Fields Medal 2010)
- Terence Tao (Fields Medal 2006)
- Maryna Viazovska (Fields Medal 2022)
- Cédric Villani (Fields Medal 2010)
- Wendelin Werner (Fields Medal 2006)
- Efim Zelmanov (Fields Medal 1994)
Groetjes,