Wie lijnt de 'aligners' uit? Korte juridische gedachten over de komende strijd rond "AI-veiligheid"

Dario Amodei, de CEO van Anthropic, heeft een essay gepubliceerd – We Must Pace The Frontier – waarin hij schrijft:

Ik heb de afgelopen twaalf jaar aan AI gewerkt omdat ik geloof dat het de kwaliteit van het menselijk leven drastisch kan verhogen. Ik heb vaak geschreven over deze ongelooflijke voordelen: ik geloof dat AI de meeste grote ziekten in de komende 5–10 jaar kan genezen, de economische groeicijfers aanzienlijk kan versnellen, een wereld van overvloed en empowerment kan creëren, en een renaissance van democratie en vrijheid kan inluiden.

Maar – en er is altijd een maar –

…zoals veel technologieën hiervoor, brengt AI risico's met zich mee, en omdat het zo'n krachtige technologie is, zijn deze risico's ernstig.

Volgens sommigen omvatten die risico's de volledige vernietiging van het menselijk ras. Zie bijvoorbeeld Eliezer Yudkowsky, die vandaag vol vertrouwen stelt dat we allemaal zullen sterven als we niet onmiddellijk een wereldwijd techno-communisme instellen, met draconische overheidscontrole over spraak en publicatie van een type dat nog nooit eerder is gezien in een westerse samenleving:

Er is momenteel niets belangrijker dan dat "niet sterven door AI" een bipartijtenproject wordt in plaats van een door Democraten gepolariseerd vraagstuk. Als je politiek kapitaal hebt dat je hieraan kunt besteden, doe dat dan nu, ik smeek je. Leven of dood. — Eliezer Yudkowsky ⏹️ (@ESYudkowsky) 13 september 2026

Er is geen bewijs dat dit zal gebeuren. Sommige voorstanders van regulering vertellen ons dat de enige reactie de meest extreme reactie is die beschikbaar is: totale staatscontrole. Er is ook geen bewijs dat deze reactie correct is. Niemand kent het antwoord en de geschiedenis dient niet als gids, behalve dat apocalyptische voorspellingen over nieuwe technologieën tot nu toe allemaal onjuist zijn gebleken.

De geschiedenis biedt echter wel veel begeleiding over het gebruik en misbruik van overheidsmacht. Ze vertelt ons dat de staat in feite waarschijnlijk de slechtst mogelijke bewaarder is voor de krachtigste publicatie- en data-analysetechnologieën.

Niettemin stelt Amodei, om dit risico aan te pakken, voor om:

…AI te bouwen tegen een gebalanceerd tempo dat erop gericht is de veiligheid te waarborgen, terwijl de voordelen toch worden behaald en er wordt omgegaan met belangrijke geopolitieke dilemma's.

Kortom: regulering.

Als mijn vaste lezers weten, ben ik namens mijn cliënten al ruim 18 maanden verwikkeld in juridische gevechten met internetcensoren over de hele wereld; agentschappen die denken dat ze zowel de status, de competentie als het recht hebben om Amerikaanse bedrijven te vertellen welke software ze mogen schrijven en uitvoeren. Ik voel dat dit een geschikt moment is om mijn eerste gedachten hierover te delen.

Het voorstel van Amodei

Zoals David Sacks terecht op X opmerkte, is Anthropic vrij om zijn onderzoeks- en ontwikkelingsinspanningen in AI op elk moment en in elke mate te vertragen. Amodei stelt echter iets anders voor: dat iedereen samen vertraagt, onder toezicht. Hoewel Amodei aanvankelijk schrijft dat de "vertraging" vrijwillig zou moeten zijn, is het plan om over te gaan naar wettelijke reguleringsregimes – wat betekent dat dit voorstel noodzakelijkerwijs het gebruik van dwingende staatsmacht inhoudt – waar softwareontwikkelaars zich verplicht aan zouden moeten houden:

De meest effectieve methode van tempo-beheersing is via regulering die gericht is op alle Amerikaanse frontier AI-bedrijven, aangezien dit ook diegenen bestrijkt die niet bereid zijn vrijwillig mee te werken. (nadruk toegevoegd.)

Zijn plan bestaat uit drie elementen.

Ingebedde evaluatoren

Het eerste element is de inzet van "Ingebedde Evaluatoren" (Embedded Evaluators):

…medewerkers-achtige toegang voor een team van ingebedde evaluatoren van derden (zoals METR), wiens rol is om de naleving van veiligheidspraktijken en toezeggingen te verifiëren, incidenten te rapporteren en te helpen bij het beoordelen van de uitlijning (alignment) van niet alleen voltooide AI-modellen, maar ook trainingspijplijnen en -processen.

Er bestaat al een robuuste industrie van externe "veiligheids"-toezichthouders voor Web 2.0 – wat het Huis van Afgevaardigden (House Judiciary Committee) heeft omschreven als het "censuur-industrieel complex". De staat van dienst van deze entiteiten van de vorige keer vertelt ons hoe deze regeling in de praktijk uitpakt.

Een bekend privaat actor in deze ruimte was de Global Alliance for Responsible Media, of GARM. GARM, een commerciële onderneming, omschreef zichzelf als "een vrijwillig cross-industrieel initiatief dat in 2019 is opgericht om digitale veiligheid aan te pakken". Onder andere leverde GARM een reeks beleidskaders en richtlijnen, waaronder "the Brand Safety Floor and the Adjacency Standards Framework", om merkeigenaren te ondersteunen bij het waarborgen dat hun advertentiegelden niet onbedoeld illegale of schadelijke inhoud ondersteunden die hun merken zou schaden.

Hoewel GARM in 2024 is ontbonden, werkte GARM volgens het House Judiciary Committee tijdens zijn actieve periode samen met mondiale regulatoren om druk uit te oefenen op bedrijven zoals Twitter (nu X Corp.) om "significante collectieve macht" te gebruiken om Tuitters moderatiebeslissingen dwingend te beïnvloeden, inclusief het "tot zwijgen brengen van president Trump", en om boycotts van het platform te bewerkstelligen als het platform weigerde te gehoorzamen.

Amodei voegt hieraan toe:

Dit is de cruciale stap voor de verifieerbaarheid van alle tempo-toezeggingen, en heeft precedent in de bankensector, waar soms reguliere "toezichthouders" samen met werknemers zijn ingebed.

Toevallig is de bankanalogie precies het argument dat academici op het gebied van "misinformatie/desinformatie" (lees: pro-censuur) gebruiken om de Britse Online Safety Act en soortgelijke regimes te rechtvaardigen; zie bijvoorbeeld Alan Jagolinzer van de Universiteit van Cambridge, die uit de wereld van de financiële verslaglegging komt en reguleringsregimes voor spraak vergelijkt met financiële rapportagevoorschriften na 2008.

Het probleem is natuurlijk dat fraude in de financiële verslaglegging geen grondwettelijk recht is; vrije meningsuiting wel. In Amerika is softwareontwikkeling, zonder de intentie om een misdrijf te plegen of te faciliteren, in de regel een beschermde vorm van expressie. Ik zie niet in hoe het oprichten van een nieuwe reeks ngo's om substantieel dezelfde functie uit te voeren als de "Online Safety" ngo's – met dezelfde methoden, maar ditmaal met ngo-commissarissen die zeer gevoelige toegang hebben tot interne systemen – tot een ander of beter resultaat zal leiden dan tot nu toe.

Democratische coördinatie (ook wel regulering)

Het tweede element is "Democratische Coördinatie", waarbij:

Frontier AI-bedrijven binnen democratische landen coördineren om gemeenschappelijke veiligheidsnormen vast te stellen, evenals limieten op het tempo van ongecontroleerde AI-vooruitgang. Sommige vormen van coördinatie die effectief zouden zijn voor tempo-beheersing zijn juridisch uitdagend en vereisen overheidssteun.

Er zijn twee aspecten aan dit punt: (a) mededingingsrecht en (b) contentregulering.

Vanuit het perspectief van het mededingingsrecht is het probleem voor Anthropic eenvoudig. Anthropic en OpenAI zijn met afstand de grootste spelers in de AI-markt, en het coördineren van hun beleid, procedures en "standaarden" met elkaar brengt het risico met zich mee dat ze worden geclassificeerd als een onwettig kartel. Dit zou met name het geval zijn als de twee giganten bijvoorbeeld afspraken zouden maken over prijzen of voorwaarden – bijvoorbeeld door hun API-voorwaarden zo aan te passen dat iedereen die een model zou gebruiken dat afweek van de standaarden in de wereldmarkt (bijv. Kimi, Deepseek), niet langer in staat zou zijn om te interageren met de software van OpenAI of Anthropic.

"Overheidssteun" voor "juridisch uitdagende" coördinatie is een beleefde manier om te vragen om een vrijstelling van het mededingingsrecht om grotere coördinatie tussen concurrenten toe te staan in de naam van "veiligheid".

Vanuit het oogpunt van contentregulering is de formulering "gemeenschappelijke veiligheidsnormen alsmede limieten op het tempo van ongecontroleerde AI-vooruitgang" erg breed. Dit suggereert dat Anthropic voorziet dat vrijwel elke industrie die zijn software gebruikt – van productie en biotechnologie tot nieuws publicatie en copywriting – (a) nieuwe "veiligheidsnormen" nodig zal hebben met betrekking tot niet-expressief gedrag, en (b) limieten zal krijgen op hoe snel AI-software zelf ontwikkeld mag worden.

In andere landen, met name in het Verenigd Koninkrijk en Europa, waar nationale regeringen minder constitutionele waarborgen hebben op hun macht, verwacht ik dat zowel (a) als (b) juridisch gezien zonder veel moeite kunnen worden gelegaliseerd. Gezien de gemakkelijke implementatie van regels zoals de Online Safety Act en de Digital Services Act, zou dit politiek gezien waarschijnlijk ook geen grote hindernissen kennen.

Het primaire juridische probleem met dit aspect van het voorstel van Anthropic bevindt zich in de Verenigde Staten, met name bij (b) – de limieten op hoe snel software zelf ontwikkeld kan worden. Softwareontwikkeling, softwarepublicatie en webhosting zijn inherent expressieve activiteiten. Zie bijvoorbeeld de lijn van zaken in Bernstein v. United States, alsook Smith v. California, Cubby v. CompuServe, het feitencomplex van Stratton Oakmont v. Prodigy, en de bijbehorende wetgevingsgeschiedenis rond 47 U.S.C. § 230. De verschillen tussen de Verenigde Staten en hun bondgenoten op het gebied van Web 2.0 gaan terug tot de stichting van de VS; in zowel daaropvolgende jurisprudentie als wetgeving heeft Amerika ervoor gekozen deze activiteit te beschermen tegen staatsinmenging.

Voor zover Anthropic en hun medestanders van plan zijn dit deel van hun plan te gebruiken om Amerikaanse burgers te beletten (a) AI-modellen te ontwikkelen of (b) modellen en gepubliceerde FOSS-modelgewichten (Free and Open Source Software) uit China te gebruiken, zijn First Amendment-problemen onmiddellijk duidelijk en weegt het precedent zwaar tegen overheidsregulering.

Mondiale coördinatie

Het derde onderdeel van Amodei's plan is "Mondiale Coördinatie", waarbij:

[de] VS en andere democratische regeringen proberen te coördineren met autoritaire regeringen, voor zover dit mogelijk is, terwijl zij de uitdagingen van het verifiëren van naleving serieus nemen.

Autoritaire regeringen zijn niet het enige probleem waar Amerika hier tegenaan loopt.

We leven in een tijdperk waarin het grootste deel van de westerse wereld, met uitzondering van de Verenigde Staten, uitgebreide technologieregulering heeft ingevoerd die gericht is op de technologie van gisteren: hoofdzakelijk zoekmachines en sociale media.

De laatste grote wereldwijde inspanning om publicatie- en communicatietechnologie te reguleren begon na een morele paniek die werd veroorzaakt door de dubbele schokken van (a) Brexit en (b) de verkiezing van Donald Trump tot president van Amerika in 2016. Het resultaat was uitgebreide internetcensuurwetten in Australië (Online Safety Act 2019), het Verenigd Koninkrijk (Online Safety Act 2023), en de Europese Unie (Digital Services Act), plus wellicht een halfdozijn kopieën over de hele wereld, waaronder Brazilië (zie bijv. de herzieningen van 2025 van de Marco Civil da Internet door het Braziliaanse Hooggerechtshof), Singapore, Maleisië, Indonesië en meer – die allen proberen spraak en gedrag te beheersen die (a) op Amerikaanse servers staat en (b) in de Verenigde Staten, op die servers, grondwettelijk beschermd is onder de First Amendment.

Over het algemeen kiezen de censuurregimes van het Westen er niet voor zichzelf zo te omschrijven. Dat betekent niet dat het geen censuurschema's zijn.

Neem het VK, dat zijn wet de "Online Safety Act" noemt en stelt dat de wet bestaat om het VK veilig te houden tegen de kwaden van het internet. De handhaver, Ofcom, is geen wetshandhavingsinstantie en heeft niet zelfstandig de macht om content te verwijderen of arrestaties te verrichten; het kan niemand veilig houden tegen iets.

Britse politici zijn niet populair genoeg om censuur direct uit te voeren, dus besteden ze dit uit aan Amerikanen via een vage en ingewikkelde bureaucratische procedure die in feite neerkomt op: "censureer je websites, of wij (Ofcom) zullen je (Amerikaanse) bedrijf treffen met ruïneuze boetes of gevangenisstraffen als wij, naar ons eigen goeddunken, bepalen dat je platform zichzelf niet goed genoeg censureerde."

Deze censuur wordt schijnbaar uitgevoerd om internetgebruikers "veilig" te houden tegen ideeën en expressies die de Britse staat formeel afkeurt. Voor de meeste gebruikers is alles wat nodig is om het hele regime te omzeilen en de "onveilige" internetervaring te krijgen die ze willen, een gratis VPN met een Amerikaans exit-IP. Miljoenen Britten hebben dit gedaan, wat het VK tot een van de landen met het hoogste VPN-gebruik ter wereld maakt.

In brede zin vereist het Britse regime, net als veel van deze regimes, dat bedrijven (a) gebruikers via leeftijdsverificatie (doxing) identificeren voordat ze toegang krijgen tot diensten, en (b) ervoor zorgen dat gebruikers die toegang hebben tot die diensten geen inhoud kunnen zien die door de wet wordt verboden. Hoewel er gebieden zijn waar de Amerikaanse en Britse spraakreguleringen overeenkomen, zijn er veel meer gebieden waar dat niet zo is – en voor veel van deze gebieden is de spraak die de wet vereist te verwijderen, expliciet grondwettelijk beschermd in de Verenigde Staten.

Een "mondiale coördinatie"-structuur voor AI zal worden gebouwd door dezelfde regeringen, bemand door dezelfde regulatoren en onder druk gezet door dezelfde ngo's die het bovenstaande hebben gebouwd. Het is mogelijk, zelfs waarschijnlijk, dat elke wereldwijde poging tot harmonisatie op exact hetzelfde punt zal botsen: het zal voor een Amerikaans bedrijf niet mogelijk zijn om te voldoen aan Europese controles en tegelijkertijd te genieten van de volledige breedte van hun Amerikaanse grondwettelijke rechten, aangezien de regels incompatibel zullen zijn opgesteld.

Bovendien is het verificatieprobleem dat Amodei noemt met betrekking tot autoritaire staten in feite een fataal gebrek voor elk dergelijk schema met mondiale pretenties. Gegeven één enkele "defecteur" die aantoonbaar buiten het bereik van de jurisdictie valt, begint de afschrikking te wankelen. Hoe hoger de inzet, hoe waarschijnlijker het is dat defectie zal plaatsvinden.

Hoewel veel Amerikaanse bedrijven, bij afwezigheid van wetswijzigingen in Amerika (zoals een duidelijke censorship shield law), waarschijnlijk zullen blijven voldoen aan buitenlandse censuurregimes uit angst, zullen de enige partijen tegen wie zo'n kader consistent zal worden afgedwongen de bedrijven zijn die niet immuun zijn voor vonnissen in de landen waar deze wetten het meest waarschijnlijk worden aangenomen – wereldwijde bedrijven, waarvoor op dit moment niet veel startups gelden, maar zeker wel Anthropic en OpenAI. In de Verenigde Staten zal AI-regulering onderhevig zijn aan vroege en doctrinair gezonde constitutionele uitdagingen.

Amodei schrijft:

We moeten elke wereldwijde beslissing over het tempo, vooral op korte termijn, zo benaderen dat de voorsprong van de VS en haar bondgenoten wordt beschermd.

Ik beschouw dit niet als bijzonder realistisch. Onder Amerika's geopolitieke tegenstanders, van wie er meerdere in oorlog zijn met Amerika (direct of via proxy) en die elk incentive hebben om te defecteren, zal het effectieve nalevingsniveau waarschijnlijk richting nul gaan.

Voorlopig oordeel: Wie lijnt de 'aligners' uit?

Als ik iets heb geleerd van onze strijd tegen Europese censoren, is het dat ongeacht de goede bedoelingen van een reguleringsregime, regulatoren onderworpen zijn aan politieke controle. Regulatoren zullen, onderworpen aan die politieke controle, politieke dingen doen.

De duidelijkste illustratie uit mijn eigen dossiers is de vervolging door Ofcom van een kleine, zeer controversiële Amerikaanse website – een discussieforum voor geestelijke gezondheidszorg genaamd SaSu, zonder Britse aanwezigheid, personeel of activa – die in juli 2025 vrijwillig het volledige Verenigd Koninkrijk had geoblokkeerd. Ofcom accepteerde deze maatregel aanvankelijk als een oplossing voor de zaak.

Binnen enkele dagen nadat Ofcom de geoblock van mijn cliënt in oktober had geaccepteerd en het dossier aanvankelijk had gesloten, draaide Ofcom zijn positie terug en heropende de zaak na een gecoördineerde drukcampagne van parlementsleden en activistische ngo's. Ofcom en zijn ngo-partners omzeilden vervolgens de geoblock met VPN's, maakten inloggegevens aan via die omzeiling, en citeerden de resulterende VPN-toegang als bewijs dat de blokkering ontoereikend was.

In mei 2026 probeerde Ofcom de site een boete van £950.000 op te leggen, wat werd aangekondigd via een gecoördineerde, embargo-perscampagne; weken later escaleerde dit verder, waarbij werd geëist dat de site de servicevoorwaarden herschreef en een site-brede gedwongen uitloging afdwong voor elke gebruiker op aarde, om de sessies te beëindigen die de regulator zelf via omzeiling had gecreëerd. Mijn cliënt, die vrijwillig het VK had geblokkeerd, besloot dat het genoeg was en weigerde deze verdere eisen.

Op 21 juli 2026, 480 dagen nadat het dossier was geopend, sloot Ofcom het dossier, zonder iets te hebben geïncasseerd.

Op geen enkel punt in deze reeks werd het gedrag van de regulator bepaald door het bewijsmateriaal in het dossier – bewijs dat, zoals het dossier laat zien, alleen kon worden verkregen door de website te bezoeken via een omzeiling van een geoblock die de regulator zelf eerder had geëist. Ook werd de regulator niet geleid door de juridische realiteit van het Amerikaanse constitutionele recht, ondersteund door de politieke realiteit van de Amerikaanse macht.

De regulator werd in plaats daarvan gestuurd door de politieke stemming in het eigen land. SaSu was een van de redenen die werden opgegeven voor de noodzaak van de Online Safety Act; politieke druk creëerde de censuurwet om de site te targeten. Druk opende de zaak toen de censuurwet in werking trad. Druk draaide een goedgekeurde oplossing terug. Druk produceerde een boete waarvan iedereen betrokken wist dat deze nooit geïnd kon worden.

Druk, voortkomend uit het ontbreken van een gezichtsreddende uitweg, hield de handhavingsmachine van Ofcom negen maanden lang draaiende, nadat de doelwit een advocaat had ingeschakeld en de Amerikaanse juridische positie correct had uiteengezet. De handhaving stopte pas lang nadat de zinloosheid van de acties van de regulator duidelijk was geworden voor elke juridisch gekwalificeerde waarnemer.

Het gehele handhavingsproces tegen SaSu was één enkele, continue, politieke daad. Dat is hoe een zogenaamde "onafhankelijke" expert-regulator in een moderne westerse democratie zich zal gedragen onder politieke druk in wat een eenvoudige zaak had moeten zijn met een snelle schikking.

Dit is ook wat we kunnen verwachten van een "ingebedde evaluator", een gecoördineerd standaardorgaan of een mondiaal AI-nalevingsregime onder politieke druk, omdat die organen worden gerund door mensen, en mensen zijn (a) feilbaar en (b) reageren op prikkels.

Het is waarschijnlijk dat Amodei's voorstellen al gretig worden opgenomen door "Online Safety"-regulatoren en de bijbehorende academische ecosystemen wereldwijd, terwijl zij kijken hoe ze het bereik en het mandaat van de censuurschema's over Web 2.0 kunnen uitbreiden – schema's waar een handvol Amerikaanse cliënten het afgelopen jaar met hand en tand tegen heeft gevochten. Het zal geen decennium duren om hun censuurapparaten bij te werken om een ander gebied van Amerikaanse technologie te reguleren, noch zal het een decennium duren voordat het enorme pleitwerk-apparaat dat ze hebben gebouwd rond "Online Safety" een AI-veiligheidsnarratief gaat pushen in wetgevers in de Verenigde Staten en over de hele wereld.

Onze samenlevingen kunnen beter; dat zouden OpenAI en Anthropic ook kunnen, als ze dat zouden willen. Maar men vermoedt dat het soort mensen dat de "Online Safety"-teams van deze bedrijven bemant, filosofische, zo niet professionele afstammelingen zijn van de "Trust and Safety"-groep die ooit bij bedrijven als Twitter of Facebook werkte, en later de censuuragentschappen van het Westen creëerde of nu bemannen.

Het kostte bijna een decennium, en het daadwerkelijke zicht van het Britse electoraat op de implementatie van de Online Safety Act, voordat het Britse publiek zich tegen die regulering keerde en besefte dat de Britse regering een ernstige beleidsfout had gemaakt.

Als OpenAI en Anthropic ervoor kiezen om formele goedkeuring van preventieve censuur (prior restraint) als bedrijfsbeleid te adopteren, moeten zij die zich verzetten tegen de wereldwijde regulering van AI snel handelen. De meest recente tegenoffensief tegen overheidscensuur van het web kostte zeven jaar om te organiseren. Het tegenoffensief tegen overheidscensuur van AI heeft die luxe van tijd niet.