Hoe het was om aan LLM's en security te werken bij Meta (2022-2026)

Ik heb genoten van mijn tijd bij Meta, maar ik telde ook de dagen af tussen het vrijkomen van mijn aandelen (equity vests) en droomde er na bijna elke vesting over om ontslag te nemen. Het was de meest opwindende engineeringcultuur waar ik ooit deel van heb uitgemaakt, maar op zijn slechtst voelde het als een pervers psychologisch experiment. Ik was trots dat ik kon werken aan Llama, de fundamenten van LLM-beveiliging en het beveiligen van de gegevens en apparaten van 3,5 miljard mensen; tegelijkertijd schaamde ik me voor de interne prikkels die ons motiveerden om mensen steeds meer minuten van hun ene, wilde en kostbare leven te laten verspillen aan het scrollen door Instagram Reels.

Ik ben eind februari op eigen initiatief vertrokken. Sinds die tijd lijkt de culturele crisis daar te zijn verdiept. Veel van de mensen tegen wie ik opkeek, zijn inmiddels naar Anthropic, OpenAI, Thinking Machines en Microsoft gegaan. Nu ik wat afstand heb genomen — na ontslagen, vertrekken en het vreemde gevoel om te zien hoe een plek waar ik van hield nog een trede lager afdaalde op de ladder van culturele ruïne — voelt dit als het juiste moment om iets te schrijven, in de hoop dat het nuttig is voor mijzelf en anderen.

Een bijenkorf van individuele ambitie

Stel je iemand voor die in paniek raakte de ene keer dat hij een B+ haalde, die een reeks meritocratische poorten heeft gepasseerd en de passende lof en prijzen heeft ontvangen, en voor wie binnenkomen bij Meta was als toegelaten worden tot hun tweede keuze van een elite-universiteit. Deze persoon is nu bij Meta en verwacht dat de reeks goede complimenten en beloningen door de nieuwe instelling die zij zijn gestapt, zal worden voortgezet.

Dit voelde als de gemiddelde engineer en productmanager bij Meta. Het bedrijf rekruteerde en filterde op dit soort mensen en plaatste hen in een Skinneriaans conditioneringsexperiment waarin slechte prestaties betekenden dat je eruit werd gewerkt (managed out), en goede prestaties werden beloond met geld dat de vorm van je leven kon veranderen, of in ieder geval een huis en een financieel kussen in San Jose of Fremont kon kopen. Iedereen bij Meta rent, achter vriendelijke collegiale pokerfaces, wanhopig weg van het eerste en jaagt manisch op het tweede.

Het voordeel hiervan is dat je van bijna iedereen met wie je daar interactie had, veel meer competentie kon verwachten dan op andere plekken waar ik heb gewerkt. Je voelde een soort onderliggende urgentie en een 'vecht-of-vlucht'-traumagevoel dat alles animeerde wat ze deden, ook wanneer ze met jou samenwerkten.

Ik trad in de zomer van 2022 in dienst, aan het einde van de pandemische aannamegolf, waarbij ik vermoed dat ze de lat voor aanname genoeg hadden verlaagd zodat ik erdoorheen kwam. Van de tien of zo'n vrienden die ik tijdens mijn tijd daar aanbeval (toen het bedrijf het ontslagproces was gestart en de lat weer had verhoogd), is niemand aangenomen.

Ik voelde me altijd een vreemde eend in de bijt; ik ben autodidact, heb een masterdiploma in de geesteswetenschappen, woon en werk op afstand vanuit Kansas, en heb me somehow een weg gebaand naar de werkplek en omhoog in de impliciete hiërarchie zonder ooit het gevoel kwijt te raken dat ik doorzien zou worden. Dit was bijzonder acuut omdat ik een ML-engineer was in een zee van PhD's van Tsinghua en Stanford. Om duidelijk te zijn: deze mensen waren ongelooflijk vriendelijk (en gaven vaak toe dat ze dezelfde neuroses deelden als ik hen beter leerde kennen).

Horizontaliteit

Het nettovermogen van Meta-medewerkers varieert van miljarden tot niets en is wild ongelijk, maar het bedrijf is cultureel gezien egalitair. VP's dragen shorts en T-shirts en gedragen zich als engineers. Men gebruikt bij Meta niet het werkwoord 'managen'; men spreekt over 'ondersteunen'. In de meeste bedrijven managen engineeringmanagers de engineers, maar bij Meta bepalen de engineers de koers en worstelen de managers om bij te blijven en respect te behouden.

Dit voelde daadwerkelijk betekenisvol en goed, net als het feit dat de titel van elke engineer simpelweg "software engineer" was, en niet "senior principal architect of X". Er is waarschijnlijk ergens een IC9 bij Meta die alle miljarden-datacenters en onderzeese netwerkkabels van Meta beheert, miljarden aan wereldwijd kapitaal beheerst, acht cijfers verdient, en wiens titel simpelweg "software engineer" is.

Er was een pretentieloosheid en een soort Israëlische directheid en vlakheid over de plek die ik erg waardeerde; elke engineer kon alles voorstellen en kon directe, beleefde feedback geven over alles aan iedereen, hoewel hoe ver het voorstel of de kritiek kwam, enigszins afhankelijk was van prestige, sociaal netwerk en niveau.

Daarnaast zat de plek vol nerds die Magic: The Gathering speelden en deel uitmaakten van de Linux-, schaak- of wiskundeclub op de universiteit; afgezien van de competitie was er een oprechte band over het vakmanschap.

Workplace

Het interne communicatiesysteem, Workplace, is een fork van de Facebook-app. Waar mensen op Facebook pronken met hun vakanties, pronken mensen op Workplace zowel met hun vakanties als met hoe productief en impactvol ze zijn.

Waar mensen op Facebook zich zorgen maken over hoeveel likes ze kregen op hun trouwfoto's, maken mensen op Workplace zich daar ook zorgen over, maar ook over de vraag of hun directeur een 'hart'-emoji heeft geplaatst bij hun biechtelijke pronkstuk over de stress die ze hadden ervaren bij het opleveren van dat prioriteitsproject van de directeur.

Een typische gang van zaken binnen een team is dat de tech-lead een Google Doc start met een concept Workplace-post waar mensen aan bijdragen, die vervolgens de volgende ochtend op Workplace wordt geplaatst voor maximale interactie, terwijl de getagde teamleden de love- en like-emoji's tellen die binnenstromen en nadenken over hun prestatiebeoordelingen.

Het goede deel hiervan is dat Workplace een collectieve geest (hive mind) is; vol met 'nerd sniping' over nieuwe optimalisatiemethoden voor post-training LLM's, nieuwe ideeën in low-dimensional embeddings, en ook, in de leukere groepen, foto's van dieren die mensen op de campus zagen, het blikvoedsel dat ze eten terwijl ze thuiswerken, of domme, grensgevende NSFW-grappen.

De manier waarop ik betrokken raakte bij de Llama-inspanningen was door te loeren in de Workplace-groep van het Llama-team, hun posts te lezen en mensen berichten te sturen dat ik een security-werkstroom wilde starten; ze lieten me toe. Mijn team en ik deden hetzelfde om AI-beschermingen in smart glasses te krijgen, AI-agents in Facebook Groups, WhatsApp, en alles wat er verder interessant uitzag.

De plek was vele dingen, maar het was ook wonderwel levendig. Mensen gaven om ideeën; je kon mensen vinden die met je zouden debatteren over AI xrisk en de fijnmazige details van hoe we fuzzers zouden moeten evalueren, en die gaven om politiek en sociale theorie en de wereld. Mensen argumenteerden vanuit eerste principes. Je kon iemand berichten die werkte aan een van de belangrijkste AI-systemen ter wereld en, als je idee goed genoeg was, bevond je je een week later in de werkstroom.

Gebrek aan missie

Er was echt geen gevoel van een overkoepelende missie voor het hele bedrijf onder het personeel. Mensen die er al lang werkten, waren vaak lauwwarm of privé bitter over de maatschappelijke waarde van onze producten, hoewel men kon voelen dat ze in de jaren 2010 gepassioneerder waren geweest over de missie, wat te zien was aan hun oude Workplace-posts uit die tijd.

Het bedrijf had tientallen miljarden verbrand aan AR/VR-hardware in een catastrofale poging om te pivoteren van legacy social media, en probeerde vervolgens bij te blijven in de AI-race doorelsels van cash op het probleem te gooien, maar slaagde er niet in om daar de leiding te nemen. Er was een warboel van narratieven waar een bedrijfsbrede zin van doelgerichtheid had moeten zijn, waarvan geen enkele echt landde.

In het vacuüm waar de missie van het bedrijf enige onbaatzuchtigheid en uitlijning op bedrijfsniveau had moeten induceren, stond eigenlijk de individuele ambitie van iedereen centraal. Soms, wanneer goede mensen samenkwamen in een team, was er een teammissie die door een dozijn mensen werd gedeeld die zich bonden. Omdat ontslagen zo frequent voorkwamen, hadden dergelijke eenheden een beetje de dynamiek van een neo-stam in een zombiapocalyps-film die probeerde te zorgen dat we allemaal het overleefden.

Ik had het geluk met enkele van deze teams te werken. Maar in totaal betekende deze dynamiek dat het bedrijf bij grote inspanningen, zoals virtual reality of geschaalde AI, vaak worstelde om coherente producten te leveren die honderden mensen zouden vereisen die gepassioneerd achter één banier aanliepen.

De wet van Conway in een bedrijf van individualisten

Ik weet niet of jij, beste lezer, ooit Horizon Worlds heeft geprobeerd, de VR-app van Meta, maar het voelt als een stortplaats van individuele ambities van engineers, productmanagers en misschien kleine teams zonder coherentie; het voelt simpelweg onafgewerkt, net als de smart glasses en VR-headsets van Meta.

Hoe dit op patroonniveau gebeurt is als volgt: eerst heeft Zuck een nieuw idee over hoe hij het probleem kan oplossen dat Meta in feite een social media-bedrijf uit de jaren 2010 is waar weين nauwelijks nog echt in geloven. Vervolgens kondigt hij aan het bedrijf (en de wereld) dat dit het volgende grote ding is. Mensen hebben verschillende gradaties van geloof in het nieuwe ding, maar er is een uniform verlangen om iemands carrière binnen het bedrijf te groeien, waardoor instappen op de boot van het 'nieuwe ding' een slimme zet lijkt.

Vervolgens stroomden mensen naar de nieuwe organisaties die Zuck creëerde voor het nieuwe project, allemaal met zeer verschillende posities op het spectrum van gerçekten geloven dat het een goed idee is. Ongeacht dit alles worstelt iedereen om zichzelf te positioneren met de meest glamoureuze scope binnen dit nieuwe project zodat ze gepromoveerd kunnen worden naar het volgende niveau, in een loop voor carrière-optimalisatie die hun eigen doelen dient, maar niet een groter doel. Het resultaat is een enorme puinhoop van een product of productfamilie.

Hetzelfde gebeurde met AI. Productleiders uit volwassen social products uit de jaren 2010 stroomden binnen; sommigen hadden ervaring met oudere AI-modellen, velen hadden weinig ervaring met huidige AI, en de pivot naar AI was overduidelijk een carrièekans en een kans voor individuele vooruitgang of ten minste overleving. Wist je dat iemand die een messaging-app beheerde, een LLM-data-organisatie kon runnen? Wist je dat het gedrag van een groot LLM de wet van Conway kan reflecteren?

Dit alles stond in contrast met meer gefocuste culturen zoals OpenAI, Anthropic en DeepMind. Die hebben niet noodzakelijkerwijs slimmere mensen, maar wel een sterker gedeeld zwaartepunt en zijn organisch gegroeid als sociale organismen die inheems zijn aan moderne geschaalde ML.

Het panopticum van prestatiemetingen

Data scientists waren de prestatiebewakers voor het hele bedrijf; de manier waarop beloning en straf bij Meta worden verdeeld, loopt via wat de data science-organisatie over je zegt. Downstream van die oordelen liggen beslissingen over ontslag, manage-out beslissingen, promoties, bonussen en equity-refreshers; levensveranderende of levensbedreigende wortels en stokken.

Ik benadruk: letterlijk alles wat je deed in het bedrijf werd gemeten. Het maakte niet uit of je laptops repareerde bij de helpdesk, de advertentie-inkomsten verhoogde door aanbevelingsalgoritmen te verbeteren, de gratis fietsen beheerde die overal op de campus stonden, of de kans verkleinde dat onze productieservers zouden crashen; er waren metingen, en deze werden gebruikt om je financiële en carrièrestatus in het bedrijf te bepalen. Ik denk dat zelfs het keukenpersoneel werd gemeten op basis van hoeveel mensen er bij elk café inklokten.

Dit betekende dat data scientists enorme macht hadden, ook al werden ze veel minder gecompenseerd dan engineers en productmanagers. Het betekende ook dat mensen constant 'metric-hacked', waarbij energie werd gestoken in slechte statistieken die het probleem dat ze daadwerkelijk oplosten niet modelleerden, puur om er goed uit te zien tijdens de promotie- en prestatiebeoordelingsperiode.

Prestatie-vagevuur

Ik had geluk met de teams waarin ik werkte en de projecten die ik koos, en kreeg altijd een A+ prestatiebeoordeling. Maar ik had één periode, ongeveer twee maanden lang, die me een voorproefje gaf van hoe het prestatie-vagevuur voelde. Ik had gepleit voor en gebootstrapt — inclusief werkweken van 60 uur — om de werkstroom te starten waarbij grote taalmodellen werden toegepast op contentmoderatie, en dat was goed gegaan; de werkstroom groeide uit tot een hele organisatie.

Ik dacht dat mijn promotie naar IC8/principal in de zak was. Maar toen we verschillende andere IC7's op het project hadden, waarvan sommigen al jaren bij het bedrijf waren en grote sociale netwerken hadden, gaf ik mijn scope aan hen weg, in de veronderstelling dat delegeren een deugd was. Wat ik eigenlijk had gedaan, was mezelf zonder scope maken binnen de organisatie die ik zelf als eerste had helpen vormen. Ik tastte een maand en een half in het duister, niet wetend waar ik aan moest werken. Ik was nog steeds erg nieuw en kon het vreemde schaakspel dat daar plaatsvond simpelweg niet doorgronden. Mijn manager werd steeds ongeruster en begon signalen te geven die je daar snel leert lezen: als ik geen rol voor mezelf vond, zou ik eruit worden gewerkt (er kwam immers een ontslagronde aan).

Het kwam op een punt dat ik in een vergadering met hem huilde terwijl hij hamerde op mijn noodzaak om meer progressie te tonen. Deze vergadering vond plaats op een zaterdag, via Zoom, terwijl ik bij mijn sta-bureau stond en mijn gezin beneden was, waarbij ik wenste dat ik naar beneden was gegaan om met hen te zijn en gestopt was met werken.

Hoe kon ik aan mijn familie in Kansas — waar het gebruik is om na 17:00 uur samen te dineren en daarna de hond uit te laten — uitleggen welke druk ik ervoer?

Ik had geluk; er kwam rond die tijd een opening vrij in de security-organisatie van Meta, en ik ben een expert op het gebied van AI-security. Ik was op dat moment eigenlijk de enige persoon met dat profiel bij Meta. Hiermee redde ik mijn prestatiebeoordeling voor dat jaar en deed ik er de jaren daarna uitstekend in.

Maar ik wil zeggen dat het gevoel dat je op weg bent om te falen bij Meta — wat elk jaar gebeurt met een groot deel van het personeel, mensen voor wie falen een nieuwe ervaring is die vaak de neuroses retraumatiseert die hen in eerste instantie succesvol maakten — verschrikkelijk is, op een specifieke, uitholende manier.

Je voelt wanneer het begint: mensen beginnen je te mijden, willen niet meer in je vergaderingen zitten, je uitnodigingen worden minder, en je zakt weg in een langzame spiraal die meestal eindigt met mensen die op eigen initiatief ontslag nemen voordat het bedrijf er echt aan toe komt om hen te ontslaan.

Als ze het uithouden, worden ze de 'walking dead' van het bedrijf. Ze gaan door met de bewegingen van een baan die eigenlijk al voorbij is, wetende dat het vonnis al gevallen is, terwijl ze anoniem met anderen commisereeren op Blind, en bijna nooit meer terug op het juiste spoor komen.

Waar ik van hield

Ik ben er bijna vier jaar gebleven, wat mijn carrière heeft getransformeerd. Samen met mensen die veel slimmer waren dan ik, heb ik kunnen helpen bij het zaaien van de moderne praktijk van AI voor security, en security voor AI. Ik mocht Meta vertegenwoordigen in een werkgroep van de NAVO, bij grote cross-industrieel overleggen, in private strategievergaderingen met mijn peers bij OpenAI, Anthropic en Google, en kon publiceren en publiekelijk spreken over het werk van mij en mijn teams, zodat het bredere tech-publiek ons in onze verwarring kon volgen.

Ik trad op het perfecte moment binnen; ik was geobsedeerd door neurale scaling laws en LLM's toen ik daar aankwam en heb die golf meegezeild. Het was 'Type II fun', zoals het lopen van een marathon. De enkelvoudige focus ervan, waarbij de bomen, de lucht en de weg voorbij flitsen, is opwindend, maar je kijkt constant op je horloge in de hoop dat het voorbij is, je bent voortdurend pijnlijk vermoeid en steeds onzekerder of je het uithoudingsvermogen hebt om door te gaan.

De belonings- en strafmachine bij Meta leidde tot geweldig AI-securitywerk, gedaan door het zweet en de tranen van de mensen met wie ik werkte. Ik vertrok vlak na mijn promotie naar IC8, en precies op het moment dat ik voelde dat ik een vaste positie had om het AI-securitywerk van het bedrijf mede te leiden. Ik heb hypothetisch gezien de financiële en carrière-windval die daarmee gepaard zou zijn gegaan verbrand door weg te gaan om een eigen bedrijf te starten. Ik mis Meta, en ik ben ook zo blij dat ik weg ben.