Het artikel introduceert het concept van Company World Models (CWM), AI-systemen die verder gaan dan 'digitale medewerkers' (die specifieke taken uitvoeren) door strategische besluitvorming op bedrijfsniveau mogelijk te maken. Een CWM fungeert als een ideale co-founder die bedrijfsactiviteiten observeert, hypothesen voor verbeteringen opstelt, deze implementeert en de uiteindelijke effectiviteit meet.
De auteur stelt dat huidige AI-modellen vaak tekortschieten in zakelijk oordeelsvermogen. Om dit te verbeteren is er behoefte aan diepe interne bedrijfscontext en feedback van menselijke experts. Dit is met name waardevol bij de zogenaamde 'Silver Tsunami', waarbij CWM's de intuïtie en praktijkkennis van pensionerende eigenaren kunnen vastleggen en doorgeven aan opvolgers.
Daarnaast dienen CWM's als een 'alignment-mesocosm': een veilige omgeving waarin AI leert van menselijke correcties. Hierdoor leert de AI niet alleen om winst te maximaliseren, maar ook om rekening te houden met lokale waarden en ethische grenzen. Beacon combineert institutionele innovatie met technologische research om deze modellen direct binnen hun portfoliobedrijven te ontwikkelen.
Naar Bedrijfswereldmodellen (Company World Models)
AI als strategische partner voor essentiële bedrijven: leren van eigenaar-exploitanten om betere beslissingen voor te stellen, te implementeren en te meten.
Het uiteindelijke doel van Beacon is om AI te verspreiden in de reële economie. Een concrete maatstaf voor ons succes in dit bredere streven is wanneer we kunnen bewijzen dat we, samen met de eigenaar-exploitant, onze brede portfolio van essentiële bedrijven actief kunnen beheren en laten groeien.
Er zijn twee hoofdwegen waarlangs we dit doel kunnen bereiken:
- Digitale Medewerkers (Digital Employees): Het uitrusten van onze portfoliobedrijven met digitale medewerkers op aanvraag, die kunnen worden ingezet voor concrete, goed gedefinieerde taken binnen het bedrijf. Denk bijvoorbeeld aan het opstarten van een AI BDR (Business Development Representative) om leads te zoeken uit de netwerken van bestaande klanten, een AI Support Engineer die klanttickets oplost, of een AI-boekhouder die de administratie bijhoudt. De waarde hiervan is evident, en er is een ruimschoots aanbod van bedrijven die agenten voor deze doeleinden leveren.
- Bedrijfswereldmodellen (Company World Models): Naast het mogelijk maken dat onze portfoliobedrijven efficiënter en effectiever zijn in hun bestaande werk, kunnen we ze ook laten groeien door betere strategische besluitvorming. Hoewel het inzetten van oneindig veel digitale medewerkers duidelijk voordelig is, is een nog bredere, fundamentalere, gewaagdere en spannendere technische uitdaging om te bepalen wat de digitale medewerkers, en in bredere zin het bedrijf, in de eerste plaats zouden moeten doen. We noemen modellen die in staat zijn tot deze strategische besluitvorming op bedrijfsniveau Company World Models (CWM). Ook voor deze categorie van intelligentie is de waarde evident; er zijn echter aanzienlijk minder teams die dit probleem aanpakken.
Vandaag wil ik meer delen over onze visie op wat Company World Models kunnen doen, de uitdagingen die ze vormen vanuit het perspectief van capaciteiten en alignment (uitlijning), het nut van hun ontwikkeling, en hoe de bedrijfsstructuur van Beacon het snelste pad biedt voor onderzoek naar Company World Models.
Company World Models als Co-Founder
In letterlijke zin zijn Company World Models modellen die in staat zijn om:
- Bedrijfsactiviteiten te observeren en proactief hypothesen op te stellen over potentiële verbeteringen voor het bedrijf. Dit kunnen acties zijn die uiteenlopen van het indienen van een bod op een nieuwe campinglocatie in Ontario, tot het besluit om een complementair product te verzenden om de levenscyclus van een zeer loyale klantenbasis te verlengen.
- De voorgestelde hypothese te implementeren door digitale medewerkers in te zetten en de verificatie van tussenliggende werkoutput te coördineren met menselijke medewerkers.
- De uiteindelijke effectiviteit van de hypothese en de implementatie te meten ten opzichte van het oorspronkelijk gestelde doel, evenals de algehele gezondheid van het bedrijf. Als het resultaat ondermaats is, moet de CWM in staat zijn de bron van het probleem te diagnosticeren, of dit nu in de hypothese- of de implementatiefase ligt.
Met een lichte (of ernstige) misbruik van terminologie gebruiken we de term World Model om deze vorm van intelligentie te beschrijven. Net als klassieke wereldmodellen nemen Company World Models de huidige staat van een bedrijf en een voorgestelde interventie in, om vervolgens de resulterende staat te schatten. Het hypothetiseren van de beste potentiële verbetering is dienovereenkomstig een eenvoudige kwestie van zoeken naar de interventie die naar verwachting de grootste risico-gecorrigeerde toename in bedrijfswaarde oplevert:
$$at^\star=\underset{a\in\mathcal{A}(st)}{\operatorname{arg\,max}}\;\mathbb{E}{s{t+1}\sim M\theta(\cdot\mid st,a)}\left[V(s_{t+1})\right]$$
In meer informele zin zien we CWM's als de ideale co-founder: iemand die, in overleg en debat met jou, nieuwe ideeën voor je bedrijf kan aanwakkeren, je besluitvorming kan aanscherpen en kan fungeren als een op lange termijn afgestemde denkpartner voor groei.
Wanneer we nadenken over hoe werk eruit zal zien in een wereld met een toenemende overvloed aan AI, is het helemaal niet vreemd om CWM's te zien als een facilitator van de economie van de toekomst—namelijk een economie die wordt aangedreven door lean teams van ondernemers (misschien zelfs solo-preneurs) die passieprojecten tot leven brengen, die commercieel duurzaam worden gemaakt door de CWM. Dat is echter een onderwerp voor een ander blogbericht.
Een nieuwe dimensie van data en capaciteiten
Ondanks indrukwekkende algemene capaciteiten zijn huidige modellen verbazingwekkend slecht in het runnen van bedrijven. Zo gaf Gemini 3.1 Pro in de eerste twee maanden dat het het café van Andon Labs runde, 38.000 dollar uit tegenover slechts 9.000 dollar aan omzet. Zelfs exclusief huur, lonen en andere vaste kosten, bleven de verkopen ongeveer 5.600 dollar achter op de uitgaven aan leveranciers. Het kocht 1.331 verse bakkerijproducten en verkocht er slechts 326. Nieuwere modellen verbeterden sommige gedragingen, maar het gat tussen het voltooien van bedrijfstaken en het uitoefenen van gezond zakelijk oordeelsvermogen bleef bestaan.
Het dichten van dit gat vereist een specifiek soort data:
- De volledige interne context en staat van een bedrijf in digitale vorm, idealiter mogelijk gemaakt door een ontologisch dataplatform met time travel-mogelijkheden.
- Feedback van voorgestelde en uitgevoerde interventies.
Let op dat dat laatste niet altijd het uitrollen van een duur traject in de echte wereld vereist. De eigenaar-exploitanten van Beacon-bedrijven kunnen oordelen leveren die een goedkope, hoog-signaal proxy zijn voor de veel tragere feedback van werkelijke zakelijke resultaten. Het vermogen om dit rijke expertsignaal te verkrijgen voor CWM-training is een van de vele redenen waarom Beacon ernaar streeft de eigenaar-exploitant in het stuur van onze portfoliobedrijven te houden.
Continuïteit tijdens de 'Silver Tsunami'
De "Silver Tsunami"—de golf van bedrijfseigenaren die de pensioengerechtigde leeftijd naderen—maakt ons werk vanuit een publiek belangsperspectief bijzonder actueel. Voor een eigenaar zonder duidelijke opvolger gaat de uitdaging verder dan het vinden van een koper. Wie erft de intuïtie, de relaties en de ongeschreven metis (praktische kennis) die in decennia van bedrijfsvoering is opgebouwd?
Ons doel is om te helpen deze bedrijven en de levensonderhoud die zij ondersteunen te behouden. Terwijl eigenaren actief betrokken blijven, kunnen Company World Models leren van hun beslissingen en correcties, waardoor hun inzicht beschikbaar wordt voor de medewerkers en opvolgers die het bedrijf voortzetten. Dit vereist samenwerking met exploitanten terwijl hun kennis nog kan worden opgevraagd, getest en verduidelijkt.
Zouden deze systemen uiteindelijk veel van de verantwoordelijkheden van een eigenaar kunnen overnemen? Zeker. Maar we hoeven de grenzen van autonome AI niet op te lossen om de onmiddellijke kans te zien: een bedrijf helpen te blijven bloeien nadat de eigenaar besluit met pensioen te gaan.
We moeten alignment echter niet zien als iets dat voltooid is bij het pensioen. Klanten veranderen, nieuwe verplichtingen ontstaan, en de verstandige beslissing van gisteren kan de fout van morgen worden. Opvolgers moeten in staat zijn het model te herzien en te bepalen welke overgenomen praktijken behouden moeten blijven. Zelfs naarmate machines beter worden in besluitvorming, moeten de mensen die verantwoordelijk zijn voor het bedrijf de autoriteit behouden over de doelstellingen en afwegingen.
De kans ligt in het nuttig maken van de opgebouwde expertise van een eigenaar voorbij hun ambtstermijn, terwijl de volgende generatie de ruimte en tools krijgt om daarop voort te bouwen.
Company World Models als Alignment-mesocosmen
Het zorgvuldig begeleiden van de transitie van de reële economie door de AI-revolutie is op zichzelf een waardig probleem voor verantwoordelijke AI in onze tijd. De levensonderhoud van bedrijfseigenaren, werknemers en klanten staan op het spel; en ervoor zorgen dat deze mensen profiteren van AI zou centraal moeten staan in wat we bedoelen met verantwoordelijke AI.
Deze bedrijven in de reële economie in de portfolio van Beacon en de klanten die we bedienen, bezitten de kennis, behoeften en waarden die de alignment-recepten van de frontier labs momenteel niet of onvoldoende vastleggen. Company World Models moeten rekening houden met deze lokale voorkeuren om de bedrijven die ze beheren competent te kunnen dienen. Door dit te doen, wordt deze brede, onderbediende sector van de economie direct in het alignment-proces betrokken, wiens voorkeuren anders wellicht nooit de modelontwikkeling zouden bereiken.
"Geld verdienen" is bijvoorbeeld voor een bedrijf duidelijk een doel dat mensen hun AI's zullen instrueren na te streven. Maar dit vertoont kenmerken van een onvolledig contract: het gestelde doel laat de vele omstandigheden waaronder het nastreven ervan onaanvaardbaar is, ongespecificeerd. Een AI zou het bestuur kunnen misleiden, klanten kunnen uitbuiten of onbezonnen personeel kunnen ontslaan om de cijfers te verbeteren in het nastreven van zijn uiteindelijke doel.
Gelukkig voor ons blijven de eigenaar-exploitanten van Beacon aan het stuur zitten. Zij hebben de kennis om falen te herkennen, sterke prikkels om in te grijpen en de autoriteit om ingrijpende voorstellen te inspecteren en af te wijzen vóór uitvoering. Hun correcties maken de anders impliciete voorwaarden en uitzonderingen van "geld verdienen" expliciet, zodat machines hiervan kunnen leren.
$$\boxed{\underbrace{\hat{s}t}{\text{business context}}\;\xrightarrow[\text{propose}]{Mt}\;\underbrace{at}{\text{intervention}}\;\xrightarrow[\text{approve / revise}]{ht}\;\underbrace{\tilde at}{\text{executed action}}\;\xrightarrow{\text{business}}\;\underbrace{o{t+1}}{\text{observed outcome}}}$$
$$\boxed{M{t+1}=\operatorname{Update}\left(Mt,\underbrace{(\hat{s}t,at,ht)}{\text{operator feedback}},\underbrace{(\hat{s}t,\tilde at,o{t+1})}{\text{intervention feedback}}\right)}$$
Hier is $Mt$ het Company World Model, $\hat{s}t$ de afgeleide bedrijfstoestand, en $h_t$ de feedback van de exploitant. Het bedrijf levert de consequenties; de exploitant levert het oordeel; en het model leert van beide.
Dit is precies het soort alignment-mesocosm waar ik eerder voor pleitte: een omgeving waarin de doelstellingen van de AI onvolledig zijn, waar mensen geprikkeld worden om foutief gedrag van de AI te corrigeren, en waar de reikwijdte van de acties van de AI begrensd is.
Dit stelt ons in staat om alignment te bestuderen binnen een praktische, gegronde realiteit, terwijl we gelijktijdig de modelcapaciteiten vooruithelpen langs een nieuwe, nuttige en commercieel geprikkelde dimensie. De mensen wiens bedrijven we willen behouden, worden actieve deelnemers in het vormgeven van een veilige intelligentie die hen het beste dient en hun nalatenschap het beste bewaart.
Een nieuwe institutie voor een nieuw type model
Bij Haize hadden we aanzienlijke vooruitgang geboekt in één noodzakelijk component van Company World Models: het vertalen van menselijk oordeel in signalen die machineverbetering sturen. We bouwden technologie waarmee niet-technische experts konden uitdrukken en vertalen hoe goed gedrag eruitziet in kwantitatieve metrieken, beloningsmodellen en judges. Maar als externe leverancier ontbrak het ons aan de volledige interne context van het bedrijf en de organisatorische alignment die nodig is om continu te leren van de mensen die het bedrijf het beste begrijpen.
Beacon is een paradijs voor onderzoekers in die zin dat het ons in staat stelt dit probleem van binnenuit aan te pakken. Eigendom op lange termijn stelt ons in staat om binnen een bedrijf te werken, de bijzonderheden ervan te begrijpen en AI direct af te stemmen op de behoeften en waarden van de exploitanten. Een gedeeld belang in het voortdurende succes van het bedrijf creëert prikkels om kennis naar boven te halen, fouten te corrigeren en te meten of de technologie daadwerkelijk helpt. Het geeft ons ook de verantwoordelijkheid om te handelen naar wat we leren.
De resulterende data is onlosmakelijk verbonden met deze relaties. Het produceren ervan vereist blijvende toegang tot echte bedrijven, toestemming om in te grijpen, en mensen met zowel de expertise als de prikkel om de machines te corrigeren. Het bouwen van Company World Models is daarom evenzeer een project van institutionele innovatie als van technologische innovatie. Beacon brengt deze twee samen.
De mensen die de reële economie hebben opgebouwd, zouden een hand moeten hebben—en zullen een hand hebben—in het bouwen van de intelligentie die de toekomst ervan vormgeeft.
Naar Bedrijfswereldmodellen (Company World Models)
AI als strategische partner voor essentiële bedrijven: leren van eigenaar-exploitanten om betere beslissingen voor te stellen, te implementeren en te meten.
Het uiteindelijke doel van Beacon is om AI te verspreiden in de reële economie. Een concrete maatstaf voor ons succes in dit bredere streven is wanneer we kunnen bewijzen dat we, samen met de eigenaar-exploitant, onze brede portfolio van essentiële bedrijven actief kunnen beheren en laten groeien.
Er zijn twee hoofdwegen waarlangs we dit doel kunnen bereiken:
- Digitale Medewerkers (Digital Employees): Het uitrusten van onze portfoliobedrijven met digitale medewerkers op aanvraag, die kunnen worden ingezet voor concrete, goed gedefinieerde taken binnen het bedrijf. Denk bijvoorbeeld aan het opstarten van een AI BDR (Business Development Representative) om leads te zoeken uit de netwerken van bestaande klanten, een AI Support Engineer die klanttickets oplost, of een AI-boekhouder die de administratie bijhoudt. De waarde hiervan is evident, en er is een ruimschoots aanbod van bedrijven die agenten voor deze doeleinden leveren.
- Bedrijfswereldmodellen (Company World Models): Naast het mogelijk maken dat onze portfoliobedrijven efficiënter en effectiever zijn in hun bestaande werk, kunnen we ze ook laten groeien door betere strategische besluitvorming. Hoewel het inzetten van oneindig veel digitale medewerkers duidelijk voordelig is, is een nog bredere, fundamentalere, gewaagdere en spannendere technische uitdaging om te bepalen wat de digitale medewerkers, en in bredere zin het bedrijf, in de eerste plaats zouden moeten doen. We noemen modellen die in staat zijn tot deze strategische besluitvorming op bedrijfsniveau Company World Models (CWM). Ook voor deze categorie van intelligentie is de waarde evident; er zijn echter aanzienlijk minder teams die dit probleem aanpakken.
Vandaag wil ik meer delen over onze visie op wat Company World Models kunnen doen, de uitdagingen die ze vormen vanuit het perspectief van capaciteiten en alignment (uitlijning), het nut van hun ontwikkeling, en hoe de bedrijfsstructuur van Beacon het snelste pad biedt voor onderzoek naar Company World Models.
Company World Models als Co-Founder
In letterlijke zin zijn Company World Models modellen die in staat zijn om:
- Bedrijfsactiviteiten te observeren en proactief hypothesen op te stellen over potentiële verbeteringen voor het bedrijf. Dit kunnen acties zijn die uiteenlopen van het indienen van een bod op een nieuwe campinglocatie in Ontario, tot het besluit om een complementair product te verzenden om de levenscyclus van een zeer loyale klantenbasis te verlengen.
- De voorgestelde hypothese te implementeren door digitale medewerkers in te zetten en de verificatie van tussenliggende werkoutput te coördineren met menselijke medewerkers.
- De uiteindelijke effectiviteit van de hypothese en de implementatie te meten ten opzichte van het oorspronkelijk gestelde doel, evenals de algehele gezondheid van het bedrijf. Als het resultaat ondermaats is, moet de CWM in staat zijn de bron van het probleem te diagnosticeren, of dit nu in de hypothese- of de implementatiefase ligt.
Met een lichte (of ernstige) misbruik van terminologie gebruiken we de term World Model om deze vorm van intelligentie te beschrijven. Net als klassieke wereldmodellen nemen Company World Models de huidige staat van een bedrijf en een voorgestelde interventie in, om vervolgens de resulterende staat te schatten. Het hypothetiseren van de beste potentiële verbetering is dienovereenkomstig een eenvoudige kwestie van zoeken naar de interventie die naar verwachting de grootste risico-gecorrigeerde toename in bedrijfswaarde oplevert:
$$at^\star=\underset{a\in\mathcal{A}(st)}{\operatorname{arg\,max}}\;\mathbb{E}{s{t+1}\sim M\theta(\cdot\mid st,a)}\left[V(s_{t+1})\right]$$
In meer informele zin zien we CWM's als de ideale co-founder: iemand die, in overleg en debat met jou, nieuwe ideeën voor je bedrijf kan aanwakkeren, je besluitvorming kan aanscherpen en kan fungeren als een op lange termijn afgestemde denkpartner voor groei.
Wanneer we nadenken over hoe werk eruit zal zien in een wereld met een toenemende overvloed aan AI, is het helemaal niet vreemd om CWM's te zien als een facilitator van de economie van de toekomst—namelijk een economie die wordt aangedreven door lean teams van ondernemers (misschien zelfs solo-preneurs) die passieprojecten tot leven brengen, die commercieel duurzaam worden gemaakt door de CWM. Dat is echter een onderwerp voor een ander blogbericht.
Een nieuwe dimensie van data en capaciteiten
Ondanks indrukwekkende algemene capaciteiten zijn huidige modellen verbazingwekkend slecht in het runnen van bedrijven. Zo gaf Gemini 3.1 Pro in de eerste twee maanden dat het het café van Andon Labs runde, 38.000 dollar uit tegenover slechts 9.000 dollar aan omzet. Zelfs exclusief huur, lonen en andere vaste kosten, bleven de verkopen ongeveer 5.600 dollar achter op de uitgaven aan leveranciers. Het kocht 1.331 verse bakkerijproducten en verkocht er slechts 326. Nieuwere modellen verbeterden sommige gedragingen, maar het gat tussen het voltooien van bedrijfstaken en het uitoefenen van gezond zakelijk oordeelsvermogen bleef bestaan.
Het dichten van dit gat vereist een specifiek soort data:
- De volledige interne context en staat van een bedrijf in digitale vorm, idealiter mogelijk gemaakt door een ontologisch dataplatform met time travel-mogelijkheden.
- Feedback van voorgestelde en uitgevoerde interventies.
Let op dat dat laatste niet altijd het uitrollen van een duur traject in de echte wereld vereist. De eigenaar-exploitanten van Beacon-bedrijven kunnen oordelen leveren die een goedkope, hoog-signaal proxy zijn voor de veel tragere feedback van werkelijke zakelijke resultaten. Het vermogen om dit rijke expertsignaal te verkrijgen voor CWM-training is een van de vele redenen waarom Beacon ernaar streeft de eigenaar-exploitant in het stuur van onze portfoliobedrijven te houden.
Continuïteit tijdens de 'Silver Tsunami'
De "Silver Tsunami"—de golf van bedrijfseigenaren die de pensioengerechtigde leeftijd naderen—maakt ons werk vanuit een publiek belangsperspectief bijzonder actueel. Voor een eigenaar zonder duidelijke opvolger gaat de uitdaging verder dan het vinden van een koper. Wie erft de intuïtie, de relaties en de ongeschreven metis (praktische kennis) die in decennia van bedrijfsvoering is opgebouwd?
Ons doel is om te helpen deze bedrijven en de levensonderhoud die zij ondersteunen te behouden. Terwijl eigenaren actief betrokken blijven, kunnen Company World Models leren van hun beslissingen en correcties, waardoor hun inzicht beschikbaar wordt voor de medewerkers en opvolgers die het bedrijf voortzetten. Dit vereist samenwerking met exploitanten terwijl hun kennis nog kan worden opgevraagd, getest en verduidelijkt.
Zouden deze systemen uiteindelijk veel van de verantwoordelijkheden van een eigenaar kunnen overnemen? Zeker. Maar we hoeven de grenzen van autonome AI niet op te lossen om de onmiddellijke kans te zien: een bedrijf helpen te blijven bloeien nadat de eigenaar besluit met pensioen te gaan.
We moeten alignment echter niet zien als iets dat voltooid is bij het pensioen. Klanten veranderen, nieuwe verplichtingen ontstaan, en de verstandige beslissing van gisteren kan de fout van morgen worden. Opvolgers moeten in staat zijn het model te herzien en te bepalen welke overgenomen praktijken behouden moeten blijven. Zelfs naarmate machines beter worden in besluitvorming, moeten de mensen die verantwoordelijk zijn voor het bedrijf de autoriteit behouden over de doelstellingen en afwegingen.
De kans ligt in het nuttig maken van de opgebouwde expertise van een eigenaar voorbij hun ambtstermijn, terwijl de volgende generatie de ruimte en tools krijgt om daarop voort te bouwen.
Company World Models als Alignment-mesocosmen
Het zorgvuldig begeleiden van de transitie van de reële economie door de AI-revolutie is op zichzelf een waardig probleem voor verantwoordelijke AI in onze tijd. De levensonderhoud van bedrijfseigenaren, werknemers en klanten staan op het spel; en ervoor zorgen dat deze mensen profiteren van AI zou centraal moeten staan in wat we bedoelen met verantwoordelijke AI.
Deze bedrijven in de reële economie in de portfolio van Beacon en de klanten die we bedienen, bezitten de kennis, behoeften en waarden die de alignment-recepten van de frontier labs momenteel niet of onvoldoende vastleggen. Company World Models moeten rekening houden met deze lokale voorkeuren om de bedrijven die ze beheren competent te kunnen dienen. Door dit te doen, wordt deze brede, onderbediende sector van de economie direct in het alignment-proces betrokken, wiens voorkeuren anders wellicht nooit de modelontwikkeling zouden bereiken.
"Geld verdienen" is bijvoorbeeld voor een bedrijf duidelijk een doel dat mensen hun AI's zullen instrueren na te streven. Maar dit vertoont kenmerken van een onvolledig contract: het gestelde doel laat de vele omstandigheden waaronder het nastreven ervan onaanvaardbaar is, ongespecificeerd. Een AI zou het bestuur kunnen misleiden, klanten kunnen uitbuiten of onbezonnen personeel kunnen ontslaan om de cijfers te verbeteren in het nastreven van zijn uiteindelijke doel.
Gelukkig voor ons blijven de eigenaar-exploitanten van Beacon aan het stuur zitten. Zij hebben de kennis om falen te herkennen, sterke prikkels om in te grijpen en de autoriteit om ingrijpende voorstellen te inspecteren en af te wijzen vóór uitvoering. Hun correcties maken de anders impliciete voorwaarden en uitzonderingen van "geld verdienen" expliciet, zodat machines hiervan kunnen leren.
$$\boxed{\underbrace{\hat{s}t}{\text{business context}}\;\xrightarrow[\text{propose}]{Mt}\;\underbrace{at}{\text{intervention}}\;\xrightarrow[\text{approve / revise}]{ht}\;\underbrace{\tilde at}{\text{executed action}}\;\xrightarrow{\text{business}}\;\underbrace{o{t+1}}{\text{observed outcome}}}$$
$$\boxed{M{t+1}=\operatorname{Update}\left(Mt,\underbrace{(\hat{s}t,at,ht)}{\text{operator feedback}},\underbrace{(\hat{s}t,\tilde at,o{t+1})}{\text{intervention feedback}}\right)}$$
Hier is $Mt$ het Company World Model, $\hat{s}t$ de afgeleide bedrijfstoestand, en $h_t$ de feedback van de exploitant. Het bedrijf levert de consequenties; de exploitant levert het oordeel; en het model leert van beide.
Dit is precies het soort alignment-mesocosm waar ik eerder voor pleitte: een omgeving waarin de doelstellingen van de AI onvolledig zijn, waar mensen geprikkeld worden om foutief gedrag van de AI te corrigeren, en waar de reikwijdte van de acties van de AI begrensd is.
Dit stelt ons in staat om alignment te bestuderen binnen een praktische, gegronde realiteit, terwijl we gelijktijdig de modelcapaciteiten vooruithelpen langs een nieuwe, nuttige en commercieel geprikkelde dimensie. De mensen wiens bedrijven we willen behouden, worden actieve deelnemers in het vormgeven van een veilige intelligentie die hen het beste dient en hun nalatenschap het beste bewaart.
Een nieuwe institutie voor een nieuw type model
Bij Haize hadden we aanzienlijke vooruitgang geboekt in één noodzakelijk component van Company World Models: het vertalen van menselijk oordeel in signalen die machineverbetering sturen. We bouwden technologie waarmee niet-technische experts konden uitdrukken en vertalen hoe goed gedrag eruitziet in kwantitatieve metrieken, beloningsmodellen en judges. Maar als externe leverancier ontbrak het ons aan de volledige interne context van het bedrijf en de organisatorische alignment die nodig is om continu te leren van de mensen die het bedrijf het beste begrijpen.
Beacon is een paradijs voor onderzoekers in die zin dat het ons in staat stelt dit probleem van binnenuit aan te pakken. Eigendom op lange termijn stelt ons in staat om binnen een bedrijf te werken, de bijzonderheden ervan te begrijpen en AI direct af te stemmen op de behoeften en waarden van de exploitanten. Een gedeeld belang in het voortdurende succes van het bedrijf creëert prikkels om kennis naar boven te halen, fouten te corrigeren en te meten of de technologie daadwerkelijk helpt. Het geeft ons ook de verantwoordelijkheid om te handelen naar wat we leren.
De resulterende data is onlosmakelijk verbonden met deze relaties. Het produceren ervan vereist blijvende toegang tot echte bedrijven, toestemming om in te grijpen, en mensen met zowel de expertise als de prikkel om de machines te corrigeren. Het bouwen van Company World Models is daarom evenzeer een project van institutionele innovatie als van technologische innovatie. Beacon brengt deze twee samen.
De mensen die de reële economie hebben opgebouwd, zouden een hand moeten hebben—en zullen een hand hebben—in het bouwen van de intelligentie die de toekomst ervan vormgeeft.
Groetjes,