Het artikel bekritiseert het idee dat de mensheid na de Singulariteit kan overgaan op een staat van 'oneindige vakantie'. De auteur stelt dat dit scenario onmogelijk is omdat AI de fundamentele mechanismen die menselijke relaties creëren, ondermijnt:
- Sociale erosie: Werk en onderwijs zijn traditioneel de plekken waar mensen elkaar ontmoeten en banden smeden. In een wereld met supermenselijke intelligentie en een basisinkomen vervallen deze drijfveren.
- Disintermediatie: AI vervangt de noodzaak om andere mensen om hulp of kennis te vragen, waardoor de sociale processen die leiden tot vriendschappen verdwijnen.
- Geestelijke atrofie: Door het wegvallen van strijd en inspanning verliezen mensen hun karakter en interessante persoonlijkheid, waardoor er geen intrinsieke waarde meer is in sociale interactie.
- Existentiële verveling: In combinatie met radicale levensverlenging kan dit leiden tot een uitputtingsslag van sociale netwerken en een diep gevoel van ennui.
We zullen niet "gewoon wat gaan doen"
Wat gaan we doen na de Singulariteit? Het standaardantwoord is: "we gaan gewoon wat doen" (just hang out). De oneindige vakantie, zoals in de Culture-romans. Ik denk dat dit niet zal werken. "Gewoon wat doen" impliceert het volgende:
- Andere mensen bestaan.
- Zij willen met jou afspreken.
- Jij wilt met hen afspreken.
De post-schaarste, oneindige vakantie AI-utopie ondermijnt echter al deze aannames.
Andere mensen bestaan
De sociale processen waardoor mensen bij elkaar komen en relaties opbouwen, zullen verdwijnen. Werk is overduidelijk zinloos in een wereld met goedkope, supermenselijke intelligentie. De universiteit (eigenlijk al het onderwijs dat verder gaat dan mensen leren spreken) zal zinloos worden, omdat er geen werk is om te doen en omdat het vergroten van je menselijk kapitaal je levensresultaten niet verandert: je ontvangt hetzelfde basisinkomen (UBI), of je nu analfabeet bent of een PhD hebt.
Ik heb veel van mijn vrienden leren kennen door open-source code te schrijven en deel te nemen aan de gemeenschap van software engineers. AI lost die gemeenschap op door menselijke bijdragen overbodig te maken. Als Claude Code al had bestaan toen ik begon, zou niemand hebben omgegeven om Austral of mijn andere open-source projecten of mijn technische blogposts.
Als tiener probeerde ik Linux te installeren, liep ik tegen allerlei problemen aan en ging ik naar de IRC-chatrooms voor hulp. In dat proces maakte ik vrienden. Vandaag de dag zou ik het gewoon aan Claude vragen. AI disintermediate iedereen, waardoor we elkaar niet langer nodig hebben. Ik heb nog steeds vrienden, maar ik put put nu uit een pre-AI-voorraad vrienden die ik heb ontmoet via praktijkgemeenschappen. Jongere mensen hebben dat privilege niet.
Wat is bovendien nog het nut van steden in een wereld zonder werk? Als er niets te doen is, is er geen reden om mensen geografisch bij elkaar te brengen.
Zij willen met jou afspreken
De BATNA (Best Alternative To a Negotiated Agreement) voor sociaal contact wordt steeds beter, goedkoper en gemakkelijker. Wanneer het sensorium van mensen een oneindige brandslang van AI-gegenereerde superstimuli wordt, waarom zouden ze dan nog met iemand afspreken?
Dit gaat minder over AI en meer over de trajectory van consumententechnologie, aangezien veel mensen al zo leven: ze gaan naar hun werk en kijken naar TikTok. Na het werk zullen ze gewoon TikTok blijven kijken.
Jij wilt met hen afspreken
Zoals Gregory Conti uitlegt:
"[Onder] ASI zal deze eindeloze vrije tijd worden doorgebracht in verminderd, vermoeiend gezelschap, aangezien we de ervaringen van strijd en inspanning zullen missen die interessante persoonlijkheden genereren. Onze geest zal zijn geatrofieerd. We zullen weinig van belang aan elkaar hebben te vertellen."
De mensen in de AI-utopie zullen geen vaardigheden, geen opleiding en geen prestaties hebben. We hebben geluk als ze zelfs maar geletterd zijn. Ze zullen het niet waard zijn om mee te praten, en jij zult niet met hen willen afspreken.
Misschien kunnen jij en ik nog afspreken met onze huidige vrienden. Maar denk hier eens een stap verder over na: hoe zit het met de volgende generatie? Hoe gaan zij betekenisvolle relaties opbouwen wanneer de sociale processen die die relaties creëerden tot het verleden behoren?
Als we radicale levensverlenging realiseren, ontstaat er bovendien het probleem van uitputting op de lange termijn: mensen zullen uit elkaar groeien, zich uit de samenleving terugtrekken om in de experience machine te stappen, overlijden door ongelukken of een einde maken aan hun leven uit verveling (ennui). Je sociale netwerk zou dus een niet-hernieuwbare bron kunnen zijn die na verloop van tijd uitgeput raakt, naarmate je pre-Singulariteit relaties verdwijnen en niet kunnen worden vervangen om de hierboven genoemde redenen.
We zullen niet "gewoon wat gaan doen"
Wat gaan we doen na de Singulariteit? Het standaardantwoord is: "we gaan gewoon wat doen" (just hang out). De oneindige vakantie, zoals in de Culture-romans. Ik denk dat dit niet zal werken. "Gewoon wat doen" impliceert het volgende:
- Andere mensen bestaan.
- Zij willen met jou afspreken.
- Jij wilt met hen afspreken.
De post-schaarste, oneindige vakantie AI-utopie ondermijnt echter al deze aannames.
Andere mensen bestaan
De sociale processen waardoor mensen bij elkaar komen en relaties opbouwen, zullen verdwijnen. Werk is overduidelijk zinloos in een wereld met goedkope, supermenselijke intelligentie. De universiteit (eigenlijk al het onderwijs dat verder gaat dan mensen leren spreken) zal zinloos worden, omdat er geen werk is om te doen en omdat het vergroten van je menselijk kapitaal je levensresultaten niet verandert: je ontvangt hetzelfde basisinkomen (UBI), of je nu analfabeet bent of een PhD hebt.
Ik heb veel van mijn vrienden leren kennen door open-source code te schrijven en deel te nemen aan de gemeenschap van software engineers. AI lost die gemeenschap op door menselijke bijdragen overbodig te maken. Als Claude Code al had bestaan toen ik begon, zou niemand hebben omgegeven om Austral of mijn andere open-source projecten of mijn technische blogposts.
Als tiener probeerde ik Linux te installeren, liep ik tegen allerlei problemen aan en ging ik naar de IRC-chatrooms voor hulp. In dat proces maakte ik vrienden. Vandaag de dag zou ik het gewoon aan Claude vragen. AI disintermediate iedereen, waardoor we elkaar niet langer nodig hebben. Ik heb nog steeds vrienden, maar ik put put nu uit een pre-AI-voorraad vrienden die ik heb ontmoet via praktijkgemeenschappen. Jongere mensen hebben dat privilege niet.
Wat is bovendien nog het nut van steden in een wereld zonder werk? Als er niets te doen is, is er geen reden om mensen geografisch bij elkaar te brengen.
Zij willen met jou afspreken
De BATNA (Best Alternative To a Negotiated Agreement) voor sociaal contact wordt steeds beter, goedkoper en gemakkelijker. Wanneer het sensorium van mensen een oneindige brandslang van AI-gegenereerde superstimuli wordt, waarom zouden ze dan nog met iemand afspreken?
Dit gaat minder over AI en meer over de trajectory van consumententechnologie, aangezien veel mensen al zo leven: ze gaan naar hun werk en kijken naar TikTok. Na het werk zullen ze gewoon TikTok blijven kijken.
Jij wilt met hen afspreken
Zoals Gregory Conti uitlegt:
"[Onder] ASI zal deze eindeloze vrije tijd worden doorgebracht in verminderd, vermoeiend gezelschap, aangezien we de ervaringen van strijd en inspanning zullen missen die interessante persoonlijkheden genereren. Onze geest zal zijn geatrofieerd. We zullen weinig van belang aan elkaar hebben te vertellen."
De mensen in de AI-utopie zullen geen vaardigheden, geen opleiding en geen prestaties hebben. We hebben geluk als ze zelfs maar geletterd zijn. Ze zullen het niet waard zijn om mee te praten, en jij zult niet met hen willen afspreken.
Misschien kunnen jij en ik nog afspreken met onze huidige vrienden. Maar denk hier eens een stap verder over na: hoe zit het met de volgende generatie? Hoe gaan zij betekenisvolle relaties opbouwen wanneer de sociale processen die die relaties creëerden tot het verleden behoren?
Als we radicale levensverlenging realiseren, ontstaat er bovendien het probleem van uitputting op de lange termijn: mensen zullen uit elkaar groeien, zich uit de samenleving terugtrekken om in de experience machine te stappen, overlijden door ongelukken of een einde maken aan hun leven uit verveling (ennui). Je sociale netwerk zou dus een niet-hernieuwbare bron kunnen zijn die na verloop van tijd uitgeput raakt, naarmate je pre-Singulariteit relaties verdwijnen en niet kunnen worden vervangen om de hierboven genoemde redenen.
Groetjes,