Drie belangrijke stappen in mijn rijpingsproces

Mijn vader is onlangs overleden; hij was twee keer zo oud als ik. Ik ben nu ongeveer dezelfde leeftijd als hij was toen ik werd geboren, en ik behoor nu tot "de oude generatie" — er is niemand meer in de generatie boven mij.

Tegelijkertijd ben ik onlangs in dienst getreden bij een bedrijf waar de gemiddelde leeftijd lager ligt dan die van mij. Toen ik in 2011 bij Google begon, was ik net 30 geworden en paste ik binnen de mainstream demografie van Google van dat moment. Er waren een aantal senior collega's, waarvan de meest ervaren mensen in de 50 waren en tijd hadden doorgebracht bij Bell Labs. Ik had veel bewondering voor deze "greybeards" (hoewel dit een seksistische term is — wat is het juiste vrouwelijke equivalent? Er waren een paar zeer senior vrouwelijke engineers die ik hier graag zou willen meerekenen).

Het is dan ook natuurlijk dat ik reflecteer op de vraag: "Wat waren de belangrijkste inzichten die ik sinds mijn vroege twintiger jaren heb gekregen, die een diepgaande invloed hadden op de manier waarop ik naar de wereld kijk?" In zekere zin: welke inzichten hebben mij "rijper" gemaakt, uitgaande van een positieve definitie van "rijpheid"?

Dit artikel probeert deze inzichten op een rij te zetten.

1. Het belang van het begrijpen van je eigen prikkelstructuur, en niet alles geloven wat je denkt

Ik schreef onlangs een Twitter-thread over dit onderwerp. Oppenheimer was publiekelijk erg schuldig over de creatie van de atoombom, waarop von Neumann op een gegeven moment grapte: "sommige mensen uiten schuldgevoelens om de eer voor de zonde op te strijken". In mijn jonge jaren, vooral in situaties waarin ik een 0day had die niemand anders had, worstelde ik met de verantwoordelijkheid die gepaard gaat met het bezitten van een 0day. Moest ik ze repareren? Moest ik ze voor het goede gebruiken? Zou de wereld hierdoor geschaad worden? Op deze of die manier?

Uiteindelijk blijkt dat — hoewel individuen ertoe doen — veel ideeën een "moment hebben waarop ze rijp zijn", en de acties van het individu minder impact hebben dan het individu op dat moment denkt. Er is bovendien bijna geen manier om te voorspellen hoe datgene wat je doet de bredere wereld beïnvloedt.

Stel dat je gevraagd wordt: "Zou het goed zijn als deze 0day werd gebruikt om een terrorist op te pakken?" Dan zou je waarschijnlijk zeggen: "dat is goed". Als je gevraagd zou worden: "zou het goed zijn als deze 0day wordt gebruikt om iemand te arresteren om hem vervolgens 183 keer te martelen en te waterboarden?", dan zou je waarschijnlijk zeggen: "dat is slecht". Dus als jouw 0day werd gebruikt om KSM te vangen, is dat dan goed? Of slecht? Dingen worden heel snel erg ingewikkeld.

Is het sluiten van 0days goed voor de samenleving, omdat het alles veiliger maakt? Of faciliteert het juist onderdrukking, omdat systemen met bugs gemakkelijker te omzeilen zijn?

Er zijn geen goede antwoorden, en je eigen prikkelstructuur zal een grote invloed hebben op hoe je je overtuigingen kiest. Uiteindelijk willen mensen de held zijn van hun eigen verhaal, terwijl ze tegelijkertijd basale behoeften hebben aan erkenning, materiële goederen, etc. Ze zullen dus proberen een narratief te construeren dat hen in staat stelt hun basale behoeften te bevredigen, terwijl ze tegelijkertijd de held van hun eigen saga blijven.

Angst over de impact van je werk is zelfvleitterend; je moet dit herkennen en in toom houden. Het is suiker voor je ego, maar de geschiedenis zal grotendeels om je heen vloeien. Hoewel individuele beslissingen in specifieke situaties uitmaken, is de algemene stroom van de geschiedenis minder gevoelig voor het individu dan het individu denkt.

De bredere les is: geloof niet alles wat je denkt. Onderzoek je eigen prikkelstructuren zorgvuldig. Vraag jezelf af wat alternatieve narratieven voor je gedrag en overtuigingen zouden kunnen zijn, vooral als deze in strijd zijn met het narratief van de heroïsche saga die je voor jezelf construeert. Het zorgvuldig afwegen van de vraag "hoe zou ik de schurk in dit verhaal kunnen zijn?" is een belangrijke en waardevolle vaardigheid.

Hetzelfde geldt voor metacognitie — het simpelweg observeren van je eigen gedachten op een onthechte manier, om ze vervolgens te kunnen interpreteren, analyseren en contextualiseren in relatie tot je eigen prikkelstructuren. Dit is een uitstekende vaardigheid om te cultiveren.

2. Monocausaal determinisme is een illusie en bestaat grotendeels niet buiten het debuggen van computers

Het monocausale determinisme waar jonge computerliefhebbers aan gewend raken, is een illusie die generaties elektrotechnici en procesingenieurs hun hele leven hebben geperfectioneerd en in stand gehouden. Dankzij deze ingenieurs konden computerwetenschappers er grotendeels mee wegkomen om zonder waarschijnlijkheden of enige empirische basis in het verleden te werken. Er is een argument dat er zoveel natuurwetenschappers naar AI zijn overgestapt omdat het computerwetenschappelijk onderwijs lange tijd te veel gefocust was op redeneren binnen de deterministische monocausale illusie.

De realiteit is: computermachines zijn fysieke apparaten. Dit omvat slijtage, kwaliteitsverschillen tussen componenten en "probabilistisch deterministisch gedrag". Bijvoorbeeld: het zal het grootste deel van de tijd deterministisch lijken, zolang het apparaat maar niet te veel geschud wordt. Maar als je het een beetje pushed — of dat nu door temperatuur, voltage, elektromagnetische velden is, of zelfs snelle geheugentoegang tot aangrenzende DRAM-rijen — heeft het determinisme de neiging om uit het raam te vliegen, stort de illusie in, en hebben we te maken met een heel ander beest.

Overigens doet dit mij nadenken over model alignment. Zelfs een perfect uitgelijnd model zal onderhevig zijn aan willekeurige bit-flips tijdens de inferentie, en het is voor mij moeilijk voor te stellen dat je redelijke garanties kunt handhaven in het bijzijn van bit-flips naar ongunstige waarden op ongunstige momenten.

De echte wereld is een wereld waarin zeer weinig dingen die gebeuren één enkele reden hebben, en waarin er zeer weinig echt deterministische transmissiemechanismen zijn. Alles is probabilistisch en alles is multicausaal.

Meetruis is echt; experimentontwerp is moeilijk.

Interessant is dat als je hier zorgvuldig over nadenkt, je beseft dat de wetenschappelijke methode een classifier is die bewust bevooroordeeld is tegen het accepteren van iets als waar — zodat we alleen dingen als waar accepteren die buiten elke redelijke twijfel waar zijn.

Een fascinerend corollary hiervan is dat er een grote klasse van ware dingen bestaat die nooit wetenschappelijk als waar bewezen zullen worden.

3. De dichotomie tussen rede en emotie is een cultureel construct en is noch gebaseerd op neurowetenschap, noch op logica

Uit onderzoek blijkt dat de westerse overtuiging dat rede en emotie twee uiteinden van een spectrum zijn, een puur cultureel construct is. Dit geldt ook voor de overtuiging dat "hogere-orde" rede de "basale" emoties in toom moet houden, of dat "emoties" de "rationaliteit" verstoren.

In de meeste niet-westerse culturen is het bereiken van integratie tussen rationele beraadslaging en impulsen en emoties gebruikelijker, en het blijkt dat dit veel dichter bij de biologische realiteit ligt.

Vanuit een neurowetenschappelijk perspectief is het duidelijk dat emotionele waardering deel uitmaakt van een groter besluitvormingsmechanisme dat vaak niet goed functioneert als het component voor emotionele waardering beschadigd is of is verwijderd. Er is ook een groot component waarbij zaken die je brein moeite heeft om verbaal te articuleren, via emoties worden overgebracht, evenals feitelijke feedback van je zintuigen in je lichaam.

Leuk feitje: het enterische zenuwstelsel van je darmen bevat evenveel neuronen als de volledige cerebrale cortex van een hond. Je lichaam plaatst ook neuronen in je spieren en extremiteiten als een vorm van latentie-optimalisatie. Je lichaam voorziet je van extra informatie, en het grootste deel hiervan manifesteert zich in de vorm van emoties.

Dit brengt ons bij het logische argument waarom het proberen te "verwijderen" van emoties uit de besluitvorming een slecht idee is: het vermogen om meer informatie te benutten voor besluitvorming zal de kwaliteit van die beslissingen onmiskenbaar verbeteren. Pogingen om een specifieke informatiebron te elimineren, maakt de kwaliteit van je beslissingen bijna zeker slechter.

Dit is niet om te zeggen dat men alleen op impulsen moet handelen, maar het is zeker dat het integreren van het volledige spectrum aan informatie — inclusief emoties — in je beslissingen een verstandig idee is.

Ik weet zeker dat ik meer inzichten zou vinden als ik er dieper over nadenk, maar deze drie zijn belangrijk genoeg dat ze met verbazingwekkende regelmaat in mijn leven terugkomen.

Ik hoop dat dit voor iemand nuttig is.