Het artikel bespreekt de toezegging van David Silver, oprichter van Ineffable Intelligence, om de toekomstige opbrengsten uit de verkoop van zijn bedrijf via Founders Pledge aan goede doelen te doneren. Deze beweging is onderdeel van een bredere trend waarbij AI-ondernemers enorme bedragen beloven aan filantropie, wat potentieel de financiering van wereldwijde gezondheidszorg en onderzoek drastisch kan veranderen.
Er wordt echter gewaarschuwd voor de risico's van deze private macht. Omdat een kleine groep individuen bepaalt welke problemen prioriteit krijgen en wat als succes geldt, ontstaat er een gebrek aan democratische verantwoording. Critici stellen dat filantropie slechts de gevolgen van extreme ongelijkheid verzacht zonder het systeem aan te pakken.
Tot slot concludeert het artikel dat filantropische intenties niet mogen dienen als vervanging voor strikte governance, veiligheid en transparantie in de ontwikkeling van AI-technologie.
AI-fortuinen blazen een oud debat over private macht nieuwelijk leven in
David Silver hielp bij de doorbraak van AlphaGo bij Google DeepMind en leidt nu Ineffable Intelligence, een startup die streeft naar vooruitgang in reinforcement learning. Zijn nieuwste weddenschap is zowel financieel als technisch: Silver heeft toegezegd de opbrengsten die hij ontvangt uit een eventuele verkoop van het bedrijf aan goede doelen te doneren.
Ineffable Intelligence haalde 1,1 miljard dollar op bij een gerapporteerde waardering van 5,1 miljard dollar, wat de belofte potentieel enorm maakt, maar ook sterk voorwaardelijk. Een waardering van een privaat bedrijf is geen contant geld, een exit is niet gegarandeerd en Silver heeft de uiteindelijke ontvangers nog niet geselecteerd. Wat er vandaag bestaat, is een bindende toezegging geregeld via Founders Pledge en de ambitie om het geld te richten op het redden van levens.
AI-rijkdom creëert een nieuwe klasse van donateurs
Silver maakt deel uit van een groeiende groep AI-oprichters die aanzienlijke delen van hun toekomstige rijkdom beloven. Microsoft AI-chef Mustafa Suleyman en Lovable-oprichter Anton Osika hebben soortgelijke toezeggingen gedaan. Volgens Founders Pledge steeg de waarde van de geregistreerde beloften van 400 miljoen dollar in 2023 naar 4 miljard dollar tot nu toe in 2026, waarbij AI verantwoordelijk is voor ongeveer een derde van het totale lifetime-bedrag.
Deze cijfers worden gerapporteerd door de non-profitorganisatie en zijn mede afhankelijk van activa waarvan de waarde kan veranderen. Toch geven ze aan hoe snel de AI-boom de filantropie zou kunnen hervormen. Als grote AI-bedrijven uiteindelijk beursgenoteerd worden, kunnen werknemers en oprichters enorme liquide fortuinen verkrijgen, waardoor private individuen ongebruikelijke invloed krijgen op onderzoek, gezondheidszorg en sociale programma's.
Silver zegt dat zijn prioriteit ligt bij het menselijk lijden van nu, in plaats van bij verre, speculatieve doelen. Hij heeft gewezen naar organisaties die efficiënt levens kunnen redden, waaronder werk tegen malaria, maar is van plan de toewijzingsbeslissingen pas te nemen na een toekomstige verkoop.
Een bindende belofte lost de kwestie van verantwoording niet op
Grote donaties kunnen verwaarloosde behoeften financieren en sneller bewegen dan overheden. De Gates Foundation heeft bijvoorbeeld meer dan 100 miljard dollar uitgegeven aan armoede en ziekten. Toch concentreert private filantropie ook de besluitvorming. Donateurs kiezen welke problemen belangrijk zijn, welke interventies steun krijgen en welke maatstaven als succes gelden, zonder te zijn gekozen door de getroffen gemeenschappen.
Critici die door Wired zijn geïnterviewd, betogen dat filantropie de gevolgen van ongelijkheid kan verzachten zonder het systeem aan te pakken dat extreme rijkdom produceerde. Afhankelijkheid van een klein aantal donateurs kan instituten bovendien heroriënteren naar hun voorkeuren. Deze zorgen bewijzen niet dat een specifiek geschenk schadelijk is, maar ze dagen de aanname uit dat het verdienen en doneren van een fortuin automatisch een adequate vorm van herverdeling is.
De AI-context maakt die spanning scherper. Een toekomstige liefdadigheidsuitbetaling zou retorisch kunnen worden gebruikt om agressieve ontwikkeling te rechtvaardigen of risico's te bagatelliseren. Silver wijst die logica af en stelt dat het opgeven van zijn persoonlijke financiële gewin een prikkel wegnemt die beslissingen zou kunnen vertekenen.
Dit standpunt kan oprecht zijn zonder de structurele kritiek op te lossen. Goede intenties en nuttige subsidies kunnen naast elkaar bestaan met zorgen over wie de autoriteit heeft gekregen om prioriteiten te stellen en waarom publieke instellingen niet beschikten over vergelijkbare middelen.
Motivatie, governance en resultaten zijn allemaal van belang
De belofte van Silver is sterker dan een informele publieke toezegging omdat Founders Pledge gebruikmaakt van een contract. Desondanks omvat verantwoord geven meer dan alleen afdwingbaarheid. De uiteindelijke financiers zullen behoefte hebben aan transparante criteria, bewijs over resultaten en waarborgen tegen het risico dat de voorkeuren van een oprichter de lokale expertise overstemmen.
Er is ook een zakelijke vraag. Het wegnemen van persoonlijk gewin neemt de druk van investeerders, werknemers of concurrerende markten niet weg. Ineffable Intelligence blijft een bedrijf met durfkapitaal dat systemen nastreeft waarvan Silver gelooft dat ze de samenleving kunnen transformeren. Filantropische intentie kan geen vervanging zijn voor veiligheid, governance of verantwoording in de manier waarop deze systemen worden ontwikkeld.
De opkomende klasse van AI-donateurs kan waardevol werk financieren op een schaal die weinigen overheden of goede doelen kunnen evenaren. Het kan ook een kleine groep technologie-oprichters buitengewone macht geven om publieke prioriteiten te definiëren. De toezegging van Silver maakt dit debat concreet. De belangrijkste test zal niet de omvang van een beloofd fortuin zijn, maar hoe de rijkdom is gecreëerd, hoe beslissingen worden gedeeld en of toekomstige uitgaven voordelen opleveren die door de getroffen gemeenschappen herkend worden.
AI-fortuinen blazen een oud debat over private macht nieuwelijk leven in
David Silver hielp bij de doorbraak van AlphaGo bij Google DeepMind en leidt nu Ineffable Intelligence, een startup die streeft naar vooruitgang in reinforcement learning. Zijn nieuwste weddenschap is zowel financieel als technisch: Silver heeft toegezegd de opbrengsten die hij ontvangt uit een eventuele verkoop van het bedrijf aan goede doelen te doneren.
Ineffable Intelligence haalde 1,1 miljard dollar op bij een gerapporteerde waardering van 5,1 miljard dollar, wat de belofte potentieel enorm maakt, maar ook sterk voorwaardelijk. Een waardering van een privaat bedrijf is geen contant geld, een exit is niet gegarandeerd en Silver heeft de uiteindelijke ontvangers nog niet geselecteerd. Wat er vandaag bestaat, is een bindende toezegging geregeld via Founders Pledge en de ambitie om het geld te richten op het redden van levens.
AI-rijkdom creëert een nieuwe klasse van donateurs
Silver maakt deel uit van een groeiende groep AI-oprichters die aanzienlijke delen van hun toekomstige rijkdom beloven. Microsoft AI-chef Mustafa Suleyman en Lovable-oprichter Anton Osika hebben soortgelijke toezeggingen gedaan. Volgens Founders Pledge steeg de waarde van de geregistreerde beloften van 400 miljoen dollar in 2023 naar 4 miljard dollar tot nu toe in 2026, waarbij AI verantwoordelijk is voor ongeveer een derde van het totale lifetime-bedrag.
Deze cijfers worden gerapporteerd door de non-profitorganisatie en zijn mede afhankelijk van activa waarvan de waarde kan veranderen. Toch geven ze aan hoe snel de AI-boom de filantropie zou kunnen hervormen. Als grote AI-bedrijven uiteindelijk beursgenoteerd worden, kunnen werknemers en oprichters enorme liquide fortuinen verkrijgen, waardoor private individuen ongebruikelijke invloed krijgen op onderzoek, gezondheidszorg en sociale programma's.
Silver zegt dat zijn prioriteit ligt bij het menselijk lijden van nu, in plaats van bij verre, speculatieve doelen. Hij heeft gewezen naar organisaties die efficiënt levens kunnen redden, waaronder werk tegen malaria, maar is van plan de toewijzingsbeslissingen pas te nemen na een toekomstige verkoop.
Een bindende belofte lost de kwestie van verantwoording niet op
Grote donaties kunnen verwaarloosde behoeften financieren en sneller bewegen dan overheden. De Gates Foundation heeft bijvoorbeeld meer dan 100 miljard dollar uitgegeven aan armoede en ziekten. Toch concentreert private filantropie ook de besluitvorming. Donateurs kiezen welke problemen belangrijk zijn, welke interventies steun krijgen en welke maatstaven als succes gelden, zonder te zijn gekozen door de getroffen gemeenschappen.
Critici die door Wired zijn geïnterviewd, betogen dat filantropie de gevolgen van ongelijkheid kan verzachten zonder het systeem aan te pakken dat extreme rijkdom produceerde. Afhankelijkheid van een klein aantal donateurs kan instituten bovendien heroriënteren naar hun voorkeuren. Deze zorgen bewijzen niet dat een specifiek geschenk schadelijk is, maar ze dagen de aanname uit dat het verdienen en doneren van een fortuin automatisch een adequate vorm van herverdeling is.
De AI-context maakt die spanning scherper. Een toekomstige liefdadigheidsuitbetaling zou retorisch kunnen worden gebruikt om agressieve ontwikkeling te rechtvaardigen of risico's te bagatelliseren. Silver wijst die logica af en stelt dat het opgeven van zijn persoonlijke financiële gewin een prikkel wegnemt die beslissingen zou kunnen vertekenen.
Dit standpunt kan oprecht zijn zonder de structurele kritiek op te lossen. Goede intenties en nuttige subsidies kunnen naast elkaar bestaan met zorgen over wie de autoriteit heeft gekregen om prioriteiten te stellen en waarom publieke instellingen niet beschikten over vergelijkbare middelen.
Motivatie, governance en resultaten zijn allemaal van belang
De belofte van Silver is sterker dan een informele publieke toezegging omdat Founders Pledge gebruikmaakt van een contract. Desondanks omvat verantwoord geven meer dan alleen afdwingbaarheid. De uiteindelijke financiers zullen behoefte hebben aan transparante criteria, bewijs over resultaten en waarborgen tegen het risico dat de voorkeuren van een oprichter de lokale expertise overstemmen.
Er is ook een zakelijke vraag. Het wegnemen van persoonlijk gewin neemt de druk van investeerders, werknemers of concurrerende markten niet weg. Ineffable Intelligence blijft een bedrijf met durfkapitaal dat systemen nastreeft waarvan Silver gelooft dat ze de samenleving kunnen transformeren. Filantropische intentie kan geen vervanging zijn voor veiligheid, governance of verantwoording in de manier waarop deze systemen worden ontwikkeld.
De opkomende klasse van AI-donateurs kan waardevol werk financieren op een schaal die weinigen overheden of goede doelen kunnen evenaren. Het kan ook een kleine groep technologie-oprichters buitengewone macht geven om publieke prioriteiten te definiëren. De toezegging van Silver maakt dit debat concreet. De belangrijkste test zal niet de omvang van een beloofd fortuin zijn, maar hoe de rijkdom is gecreëerd, hoe beslissingen worden gedeeld en of toekomstige uitgaven voordelen opleveren die door de getroffen gemeenschappen herkend worden.
Groetjes,