Of het nu een ongeluk was of niet: de uitschakeling van 'No Kings' is waarom je je megafoon niet moet huren van Zuck

Veel supporters van de protesten vermoedden onmiddellijk sabotage. Zij wezen erop dat Mark Zuckerberg de afgelopen jaren Trump sterk heeft gesteund, wat impliceert dat Zuckerberg aan de knoppen heeft gedraaid om de man in het Witte Huis te helpen. Om uiteenlopende redenen is het echter onwaarschijnlijk dat dit waar is.

Ik zal aan het einde van dit artikel deze redenen nader toelichten, maar het hoofddoel van dit stuk is om het argument te belichten dat Will Robinson en Tim Chambers onlangs maakten: het maakt niet eens uit of het opzettelijk is gedaan of niet. Zelfs als je gelooft dat Zuckerberg en Trump samen lachten terwijl ze op de knop drukten om het No Kings-account tot zwijgen te brengen, is het echte probleem dat dit überhaupt mogelijk was.

Onze reactie zou in beide gevallen hetzelfde moeten zijn.

Praktische lessen voor digitale organisatie

Robinson en Chambers richten zich op zeer praktische lessen voor iedereen die betrokken is bij digitale organisatie. De kernvraag is: hoe bereid je je voor op de mogelijkheid dat een gecentraliseerde provider je account verwijdert? Hun advies is goed en praktisch:

• Zorg voor communicatiekanalen die een derde partij niet gemakkelijk kan uitschakelen.
• Richt accounts in op open platforms.
• Stel een draaiboek op over hoe te reageren (voornamelijk het verspreiden van het nieuws) als je account wordt gesloten.

De noodzaak van decentralisatie en cognitieve vrijheid

Dit is ook een herinnering aan het bredere punt waar ik al enige tijd op hamer: het belang van decentralisatie en gebruikerscontrole over hun online ervaringen. Gecentraliseerde systemen creëren een natuurlijke zwaartekracht die leidt tot controle over je spraak. Mijn vriend Danny O’Brien schreef een paar jaar geleden dat decentralisatie geen doel op zich is, maar eerder een middel om te garanderen dat we "cognitieve vrijheid" hebben.

Wanneer we de controle over onze spraak overdragen aan een derde partij, zonder de mogelijkheid om te vertrekken (met al onze inhoud en connecties intact), geven we een fundamenteel element van onze vrijheid op. O’Brien beschrijft het als volgt:

"Op dit moment, als je een notitie voor jezelf schreef en deze op de harde schijf van je persoonlijke computer zette, zou je alles kunnen zeggen en tekenen wat je wilt. Als het in de cloud staat, heb je die garantie niet: zelfs als je het in je eigen Google Drive of DropBox bewaart, kan het als ongewenst worden beschouwd en worden verwijderd. Ik weet niet hoe het met jullie zit, maar mijn notities zijn voor het grootste deel mijn geheugen. Mijn zoekopdrachten in de zoekmachine zijn in zekere zin gesprekken met mezelf over mijn zorgen en interesses, iets wat ik zelden zelfs aan mijn dichtste partner zou onthullen.

[...]

Ons eigen bewustzijn kan niet worden gehuurd van anderen, of ons tijdelijk worden toegestaan, met ingebouwde politie, backdoors of verborgen adverteerders. We moeten de middelen van computation ownen, en dat betekent dat we al deze indringers moeten verwijderen en het terug moeten plaatsen in het persoonlijke domein dat we controleren: of dat nu fysiek is, of door tools als encryptie en zero-knowledge proofs te gebruiken om onze controle te behouden wanneer onze data en rekenkracht op hardware van anderen staan."

Voor mij is dit de piramide van digitale rechten: een stevig fundament van gedecentraliseerde, door de gebruiker gecontroleerde technologie, wat ons bredere cognitieve vrijheid, interne privacy, vrijheid van zelfexpressie en vrijheid van zelfbeschikking geeft. Op die solide grond kunnen we een samenleving bouwen die vrij en eerlijk is.

De valkuil van gecentraliseerde systemen

Om dit soort vrijheid voor "cognitieve vrijheid" te bereiken, moeten we de dreigingen van gecentraliseerde systemen erkennen. Dat Meta het "No Kings"-Instagramaccount heeft uitgeschakeld, is daar een voorbeeld van, ongeacht of het opzettelijk was of een ongeluk. Dit was precies de gedachte achter mijn oorspronkelijke paper Protocols, Not Platforms. Als je de controle over je digitale ruimtes overdraagt aan iemand anders, bepalen zij of die ruimtes überhaupt mogen bestaan.

En ze kunnen daar slecht in zijn, of nu door incompetentie of kwaadaardigheid.

Soms betekent dat dat je account wordt gesloten — om goede of slechte redenen. Veel mensen willen dit probleem niet onder ogen zien. Ze zeggen: "De mensen zijn daar," en dat is waar, maar alleen omdat "de mensen" hebben ingestemd met het geven van die macht aan Mark Zuckerberg en anderen.

Helaas zijn de meeste "oplossingen" die mensen voorstellen een vorm van: "Dwing Mark Zuckerberg om beter te zijn en het account dat wij leuk vinden niet uit te schakelen." Dat is geen manier om een betere wereld te bouwen. Het is bovendien exact dezelfde reactie die MAGA-aanhangers hadden toen Donald Trump na de bestorming van het Capitool op 6 januari werd verbannen van sociale media. Hun reactie was om platforms te dwingen de inhoud van mensen die MAGA steunde te hosten. Dat kan geen werkbare oplossing zijn, want naarmate politieke verhoudingen verschuiven, is het dwingen van platforms om de accounts van de ergste mensen te hosten onwerkbaar voor bijna iedereen.

De betere oplossing: Open tools

Er is een betere oplossing: bouw tools die open, gedecentraliseerd en door de gebruiker beheerst zijn. En gebruik ze dan ook echt, in plaats van nog meer macht te geven aan Mark Zuckerberg om het account van een protestorganisatie uit te schakelen midden in een groot protest.

Is het erg dat Meta dat account heeft verwijderd? Zeker. Los je dat op door te eisen dat Zuck "beter wordt"? Nee. Dat geeft hem alleen maar meer macht, terwijl onze eigen macht afneemt. Wie de macht over de systemen heeft — of het nu een miljardair-CEO is of een overheidsfunctionaris — heeft de mogelijkheid om je af te sluiten (of om anderen in je feed te dwingen).

Zelfs als dit mensen die je steunt terugbrengt op het platform waar je ze wilt hebben, zorg je er alleen maar voor dat je de volgende keer weer boos bent wanneer iemand die je niet vertrouwt aan de macht is. Het antwoord is om ervoor te zorgen dat ze die macht in de eerste plaats niet hebben.

Politieke druk en precedenten

Wanneer ik dit besprak op Bluesky, beweerden sommige mensen dat het prima was voor het Congres om te "onderzoeken" wat er was gebeurd met het No Kings-account, om uit te vinden of Zuckerberg door overheidsfunctionarissen was gevraagd het account te verwijderen. Senator Chris Murphy uit Connecticut kondigde aan dat hij het Congres Meta hierover wil laten onderzoeken.

De juiste manier om dit aan te pakken, is dat het Congres zijn toezichtbevoegdheden over de uitvoerende macht gebruikt om uit te vinden of functionarissen van de regering contact hebben gehad met Meta over het account. Maar elke benadering waarbij gekozen functionarissen (of enige overheidsfunctionarissen) bedrijven onder druk zetten om te modereren op de manier die zij prefereren, zal uiteindelijk tegen je werken zodra mensen aan de macht komen die je niet leuk vindt.

Wanneer je bepaalt of je het eens bent met een beleid op basis van welk "team" erom vraagt, is dat geen principiële houding. We hoeven niet te leven in een wereld waarin we heen en weer stuiteren tussen deze of die overheidsfunctionaris en welke miljardairs zij kunnen intimideren. Dit is waarom het steunen van gedecentraliseerde tools zoals atproto of ActivityPub meer is dan een kwestie van smaak. Deze systemen maken dit soort uitschakelingen veel moeilijker en veel minder schadelijk, waardoor je hetzelfde bereik behoudt terwijl je de "cognitieve vrijheid" en het vermogen om echt eigenaar te zijn van je eigen account behoudt.

Was het opzettelijk? Een technische analyse

Wat betreft deze specifieke zaak: voor zover ik kan vaststellen, is de kans zeer klein dat dit opzettelijk is gedaan. Ten eerste gebeuren dit soort fouten voortdurend. De meeste mensen die niet hebben gewerkt in trust & safety bij een groot platform kunnen zich de enorme schaal van wat er dagelijks gebeurt niet voorstellen. Er verschijnen elke dag honderden miljoenen stukken content. Als minder dan 1% onjuist gemodereerd wordt, is dat nog steeds een enorm absoluut aantal.

Het patroon is simpelweg dat Meta hier altijd slecht in zal zijn. Het was slecht in het verleden — toen MAGA-aanhangers volhielden dat Zuck "conservatieven censureerde" — en het is er nu nog steeds slecht in. Omdat het op deze schaal correct doen simpelweg menselijk onmogelijk is.

Een account als No Kings zag waarschijnlijk een enorme piek in aandacht op de dag van het protest, wat het soort activiteit is dat vaak de automatische sensoren triggert. Meta's uitleg is voor velen onbevredigend, maar het past bij het patroon. Het bedrijf beweerde aanvankelijk dat er sprake was van verhoogde activiteit door het account, en verduidelijkte later dat de echte trigger een verrassende sprong was in het "lezen" van andere berichten van dat account, wat paste bij het patroon van "geautomatiseerd botverkeer in plaats van een gewoon mens dat ons systeem doorzoekt."

Dat is niet verrassend. Meta's uitleg voor de sprong was dat ze een "Claude-tool" detecteerden:

"Specifiek detecteerden onze netwerkbeveiligingssystemen het gebruik van een Claude-tool die profielen, berichten en hashtags las, waarbij de frequentie scherp toenam (~4x volume) in intense bursts op 17 oktober."

Dat lijkt volkomen redelijk. Iemand met toegang tot dat account (en dat kunnen meerdere mensen zijn) kan Claude hebben gebruikt om berichten en vermeldingen te monitoren, of te zoeken naar protestfoto's en -video's uit het hele land om te delen en te reposten. Of het kan simpelweg zijn dat Meta's geautomatiseerde systemen waardeloos zijn.

Het probleem van "belangrijke accounts"

Op Bluesky argumenteerde iemand dat Meta "zou moeten weten" dat ze een oogje in de gaten moeten houden bij "grote politieke accounts" zoals deze. Dat klinkt in theorie mooi, maar Meta deed dat jarenlang al in een programma genaamd XCheck. Dit vlagde high-profile accounts voor een secundaire menselijke review voordat er actie tegen hen werd ondernomen — precies wat deze commenter suggereerde. Maar toen Frances Haugen dat lekte naar de WSJ, werd dit gepresenteerd als Facebook dat "een geheime elite heeft die is vrijgesteld" van zijn regels.

Je bent dus vogelvrij: of je nu een speciale lijst hebt of niet.

Maar de grootste reden waarom ik niet denk dat dit opzettelijk was, is: waarom zou dat iemand helpen? Van alle accounts die de Trump-administratie zou willen bannen, denkt iemand echt dat ze dit ene Instagram-account van een protest dat al landelijk gaande was zouden suggereren, met mensen die onmiddellijk zouden merken dat het account weg was en andere middelen zouden gebruiken om het nieuws te verspreiden? Het verhaal rammelt aan alle kanten.

Conclusie: Geen koningen in de infrastructuur

Of dit nu overheidsinterventie was, of Zuck die besloot de betogers te laten zien wie de baas is... de uitkomst verandert niet. De intentie doet er hier nauwelijks toe.

In beide scenario's is het probleem dat Zuck te veel macht heeft. Het antwoord moet zijn om ervoor te zorgen dat Zuck minder macht heeft door over te stappen naar systemen die geen enkele miljardair, geen enkele politicus en geen enkele entiteit kan controleren. Ja, dat vereist collectieve actie. Maar het begint bij jou. Als je zelf blijft vertrouwen op dergelijke platforms, klaag dan niet over het feit dat Zuck misschien niet je beste belangen in het vizier heeft. Dat weten we namelijk al.

Elk plan dat ervan uitgaat dat miljardairs betere mensen worden om jouw leven makkelijker te maken, is gedoemd te mislukken. In plaats daarvan hebben we nu de macht om onze eigen tools te bouwen op onze eigen systemen die we controleren — en we kunnen ze resistent maken tegen miljardairs, wat ze ook resistent maakt tegen enshittification.

Of Zuck, Trump of iemand anders bewust betrokken was bij het uitschakelen van het No Kings-account, zou de minste van onze zorgen moeten zijn. Het feit dat iemand vertrouwt op een systeem waar een centrale provider dat kan doen — per ongeluk of niet — is het onderliggende probleem. Want het feit dat één provider het kan doen, betekent dat er uiteindelijk iemand zal proberen hen onder druk te zetten om het te doen, zelfs als dat in dit specifieke geval niet gebeurde. Of het gaat per ongeluk offline op precies het verkeerde moment. Je voorkomt dit door over te stappen naar systemen waar geen enkele provider die beslissing mag nemen.

"No Kings" is een geweldige slogan, maar die zou ook moeten gelden voor de mensen die onze communicatie-infrastructuur controleren.