Het artikel analyseert de impact van AI op Site Reliability Engineering (SRE) aan de hand van de 'paradox van automatisering'. De kernthese is dat AI SRE's niet vervangt, maar hen stilletjes minder bekwaam maakt door routineuze taken over te nemen.
Belangrijkste punten:
- De Paradox van Automatisering: Gebaseerd op onderzoek uit 1983, stelt het artikel dat automatisering mensen juist kritieker maakt op momenten dat de techniek faalt, terwijl ze door gebrek aan praktijk minder goed in staat zijn om in te grijpen.
- Deskilling en Never-skilling: Er is een risico op deskilling (het verliezen van bestaande vaardigheden) en never-skilling (het niet ontwikkelen van basisvaardigheden bij junior engineers) omdat intuïtie wordt opgebouwd door hands-on ervaring met incidenten.
- Concrete risico's: SRE's stoppen met het lezen van ruwe logs, het vormen van eigen hypothesen en het bouwen van mentale systeemmodellen.
- Oplossingen: De auteur pleit voor 'opzettelijke inefficiëntie' (bewust handmatig incidenten oplossen om vaardigheden te behouden) en het ontwerpen van systemen waar de mens actief betrokken blijft (human-in-the-loop).
AI vervangt SRE's niet. Het ontdoet ze van hun vaardigheden.
Er circuleren momenteel twee populaire voorspellingen in tech-kringen. De eerste stelt dat SRE (Site Reliability Engineering) de toekomst is van alle software engineering: naarmate AI meer code schrijft, zullen de overgebleven mensen degene zijn die de systemen in de lucht houden. De tweede voorspelling stelt dat AI elke tech-baan zal verslinden, inclusief die van de SRE. Geen van beide is bijzonder nuttig voor een SRE die probeert in te schatten hoe een gemiddelde dinsdag er in 2027 uitziet.
Laten we een meer pragmatische vraag stellen door te kijken naar wat er al gebeurt: Wanneer AI 95% van je incidentrespons afhandelt, word je dan slechter in het afhandelen van de 5% die er echt toe doet?
De meeste van ons gebruiken AI al in ons dagelijks werk, en SRE's zijn daarop geen uitzondering. De discussie gaat vandaag niet over de vraag óf AI SRE's vervangt, maar of AI SRE's stilletjes minder bekwaam maakt, en of iemand dit überhaupt merkt voordat de volgende unieke outage plaatsvindt. Het theoretische kader voor dit debat komt uit een onderzoekspaper uit 1983 dat angstaanjagend actueel is.
De paradoxen van automatisering
In 1983 publiceerde cognitief psycholoog Lisanne Bainbridge een paper genaamd Ironies of Automation. Dit werd een van de meest geciteerde papers in het onderzoek naar menselijke factoren.
Bainbridge bestudeerde wat er gebeurde wanneer fabrieken en industriële systemen het werk van operators automatiseerden. De bevindingen waren paradoxaal: hoe meer je een proces automatiseert, hoe kritischer de menselijke operator wordt op de zeldzame momenten dat de automatisering faalt. Tegelijkertijd krijgen deze operators minder oefening, waardoor ze juist slechter worden in die cruciale interventies. Automatisering, die inherent bedoeld was om mensen uit het proces te halen, liet hen achter met de slechtst mogelijke taak: lange perioden van passief monitoren, afgewisseld met zeldzame, risicovolle crises waarvoor ze steeds minder voorbereid waren.
Er is een parallel te trekken tussen de AI-revolutie en industriële automatisering. Industriële automatisering vormde het werk van fabrieksmedewerkers door routineuze fysieke taken over te nemen; de overgebleven werkers moesten uitzonderingen afhandelen waarvoor ze hun 'muscle memory' waren verloren. AI doet hetzelfde voor kenniswerkers door routineuze cognitieve taken over te nemen: patroonherkenning, triage en het oplossen van bekende problemen. Hierdoor blijven alleen de zeldzame, complexe en ambigue problemen over voor de mens.
Dit zijn precies de problemen die diepgaande expertise vereisen—expertise die verschraalt wanneer je stopt met oefenen. Nu herhalen we dit patroon met AI-agents, terwijl de belangen in softwaresystemen alleen maar groeien.
De huidige staat van AI in SRE
Laten we kijken naar de huidige stand van zaken binnen Site Reliability Engineering.
Wat is al geautomatiseerd of sterk ondersteund door AI?
- Reductie van alert-ruis en intelligente groepering.
- Uitvoering van runbooks voor bekende problemen.
- Detectie van log-patronen en het markeren van anomalieën.
- Basisvoorstellen voor de bronoorzaak (root-cause) op basis van historische incidentdata.
- Automatische remediëring voor bekende foutmodi, zoals het herstarten van een gecrashte pod of het opschalen van een service die overbelast is.
Wat is er in zicht?
- Multi-signaal correlatie tussen metrieken, logs en traces.
- Autonome root-cause analyse voor gedeeltelijk begrepen storingen.
- Predictieve incidentdetectie voordat gebruikers worden beïnvloed.
- AI-gestuurde risicobeoordeling van wijzigingen en automatische rollbacks.
PagerDuty hanteert hiervoor een gelaagd model:
- Niveau 1 incidenten: Bekende problemen met bekende oplossingen worden volledig geautomatiseerd.
- Niveau 2 incidenten: Gedeeltelijk begrepen problemen krijgen AI-aanbevelingen met menselijke validatie.
- Niveau 3 incidenten: Nieuwe, complexe, cascaderende storingen blijven mensgestuurd, waarbij AI ondersteunende context biedt.
Hier zit echter de crux. Als menselijke SRE's alleen nog maar betrokken raken bij Niveau 3 incidenten—de unieke, nooit eerder geziene outages—waar ontwikkelen ze dan de intuïtie om deze op te lossen? Intuïtie wordt doorgaans opgebouwd door jaren van hands-on incidentrespons, patroonherkenning door herhaling, en het soort instinctief begrip van een systeem dat alleen ontstaat door pijnlijk vaak op vreemde uren wakker te worden om de bug op te lossen die het systeem platlegde.
De crisis van deskilling
Er is een groeiende hoeveelheid onderzoek naar AI-geïnduceerde deskilling (het verlies van vaardigheden) in verschillende vakgebieden:
- Geneeskunde: Een recente studie wees uit dat endoscopisten die AI gebruikten voor het detecteren van poliepen, een daling zagen in hun eigen detectievermogen (zonder AI) van 28% naar 22% na een periode van AI-gebruik. Ze werden slechter in het vak waarin ze expert zouden moeten zijn, niet omdat ze de theorie vergaten, maar omdat ze de vaardigheid niet meer oefenden.
- Luchtvaart: Onderzoek toont aan dat langeafstandspiloten die zwaar leunen op autopilots, een meetbare achteruitgang ervaren in hun situationele bewustzijn en handmatige vliegvaardigheden. Dit probleem is zo ernstig dat de FAA nu meer handmatig vliegtijd verplicht stelt om dit effect tegen te gaan.
Het gevaar is dat dit proces wordt gemaskeerd als 'hyperproductiviteit'. Omdat AI-tools taken makkelijker maken en de zichtbare prestaties verbeteren, kunnen gebruikers vaak niet accuraat inschatten wat de werkelijke status van hun eigen vaardigheden is. Je voelt je competent, de dashboards zijn groen, en dan overkomt je op een woensdag een uniek incident dat niet overeenkomt met enig patroon dat de AI heeft gezien. Op dat moment merk je dat je mentale spieren zijn geatrofieerd.
Voor SRE's uit zich dit op specifieke manieren:
- We stoppen met het lezen van ruwe log-streams omdat de AI ze samenvat.
- We stoppen met het vormen van hypothesen tijdens incidenten omdat de AI bronoorzaken suggereert.
- We stoppen met het bouwen van mentale modellen van de systeemarchitectuur omdat de AI de afhankelijkheden voor ons in kaart brengt.
Individueel lijken dit productiviteitswinsten. Collectief hollen ze precies die expertise uit die een SRE effectief maakt wanneer zaken op onverwachte wijze misgaan.
Er is echter iets nog zorgwekkender dan deskilling: never-skilling. Waar deskilling betekent dat je een vaardigheid had maar bent verloren, betekent never-skilling dat je de vaardigheid nooit hebt ontwikkeld. Voor junior SRE's die vandaag het vak in gaan in een omgeving waar AI het grootste deel van de workflow afhandelt, verdwijnen de mogelijkheden om fundamentele intuïtie en ervaring op te bouwen via hands-on praktijk. De opleidingspijplijn is kapot en herstelt zichzelf niet.
Wat kunnen we eraan doen?
Dit is geen pleidooi tegen AI-tooling; adoptie en integratie zijn onvermijdelijk. Er zijn echter benaderingen om de vaardigheidserosie tegen te gaan:
- Opzettelijke inefficiëntie: Net zoals de FAA handmatig vliegen verplicht stelt, kunnen SRE-teams bepaalde incidenten aanwijzen als 'menselijke oefenmomenten', zelfs als de AI ze zou kunnen oplossen. Dit is een investering op lange termijn om vaardigheden vers lezen, ook als dat ten koste gaat van de snelheid van de oplossing.
- Bouwen voor 'human-in-the-loop' in plaats van 'human-on-the-side': Er is een wezenlijk verschil tussen een systeem waarbij een mens een AI-aanbeveling goedkeurt (supervisie), en een systeem waarbij een mens actief samenwerkt met de AI om het probleem op te lossen. De eerste rol leidt tot vigilance decay (afname van waakzaamheid), terwijl de tweede rol de mens cognitief betrokken houdt.
Het grotere plaatje
De risico's van automatisering, deskilling en never-skilling gelden voor de gehele software engineering. Naarmate AI meer code schrijft, PR's reviewt en debugging afhandelt, gelden dezelfde vragen.
Bij SigNoz, waar een open-source observability-platform wordt gebouwd, beïnvloedt dit direct hoe AI in het product wordt geïntegreerd. De benadering is om te starten met een AI-assistent die SRE's helpt de kracht van LLM's te benutten, terwijl de mens stevig in controle blijft. Autonomie wordt pas later mogelijk, binnen duidelijke kaders en zodra het vertrouwen is verdiend.
Het doel is geen AI die SRE's vervangt, maar AI die SRE's versterkt (supercharges). Mensen blijven essentieel voor de beslissingen die er het meest toe doen, vooral die met impact op de productie-infrastructuur. De toekomst van SRE is een mens, ondersteund door AI die bewust is ontworpen om de mens scherp, betrokken en klaar te houden voor die 5% die er echt toe doet.
AI vervangt SRE's niet. Het ontdoet ze van hun vaardigheden.
Er circuleren momenteel twee populaire voorspellingen in tech-kringen. De eerste stelt dat SRE (Site Reliability Engineering) de toekomst is van alle software engineering: naarmate AI meer code schrijft, zullen de overgebleven mensen degene zijn die de systemen in de lucht houden. De tweede voorspelling stelt dat AI elke tech-baan zal verslinden, inclusief die van de SRE. Geen van beide is bijzonder nuttig voor een SRE die probeert in te schatten hoe een gemiddelde dinsdag er in 2027 uitziet.
Laten we een meer pragmatische vraag stellen door te kijken naar wat er al gebeurt: Wanneer AI 95% van je incidentrespons afhandelt, word je dan slechter in het afhandelen van de 5% die er echt toe doet?
De meeste van ons gebruiken AI al in ons dagelijks werk, en SRE's zijn daarop geen uitzondering. De discussie gaat vandaag niet over de vraag óf AI SRE's vervangt, maar of AI SRE's stilletjes minder bekwaam maakt, en of iemand dit überhaupt merkt voordat de volgende unieke outage plaatsvindt. Het theoretische kader voor dit debat komt uit een onderzoekspaper uit 1983 dat angstaanjagend actueel is.
De paradoxen van automatisering
In 1983 publiceerde cognitief psycholoog Lisanne Bainbridge een paper genaamd Ironies of Automation. Dit werd een van de meest geciteerde papers in het onderzoek naar menselijke factoren.
Bainbridge bestudeerde wat er gebeurde wanneer fabrieken en industriële systemen het werk van operators automatiseerden. De bevindingen waren paradoxaal: hoe meer je een proces automatiseert, hoe kritischer de menselijke operator wordt op de zeldzame momenten dat de automatisering faalt. Tegelijkertijd krijgen deze operators minder oefening, waardoor ze juist slechter worden in die cruciale interventies. Automatisering, die inherent bedoeld was om mensen uit het proces te halen, liet hen achter met de slechtst mogelijke taak: lange perioden van passief monitoren, afgewisseld met zeldzame, risicovolle crises waarvoor ze steeds minder voorbereid waren.
Er is een parallel te trekken tussen de AI-revolutie en industriële automatisering. Industriële automatisering vormde het werk van fabrieksmedewerkers door routineuze fysieke taken over te nemen; de overgebleven werkers moesten uitzonderingen afhandelen waarvoor ze hun 'muscle memory' waren verloren. AI doet hetzelfde voor kenniswerkers door routineuze cognitieve taken over te nemen: patroonherkenning, triage en het oplossen van bekende problemen. Hierdoor blijven alleen de zeldzame, complexe en ambigue problemen over voor de mens.
Dit zijn precies de problemen die diepgaande expertise vereisen—expertise die verschraalt wanneer je stopt met oefenen. Nu herhalen we dit patroon met AI-agents, terwijl de belangen in softwaresystemen alleen maar groeien.
De huidige staat van AI in SRE
Laten we kijken naar de huidige stand van zaken binnen Site Reliability Engineering.
Wat is al geautomatiseerd of sterk ondersteund door AI?
- Reductie van alert-ruis en intelligente groepering.
- Uitvoering van runbooks voor bekende problemen.
- Detectie van log-patronen en het markeren van anomalieën.
- Basisvoorstellen voor de bronoorzaak (root-cause) op basis van historische incidentdata.
- Automatische remediëring voor bekende foutmodi, zoals het herstarten van een gecrashte pod of het opschalen van een service die overbelast is.
Wat is er in zicht?
- Multi-signaal correlatie tussen metrieken, logs en traces.
- Autonome root-cause analyse voor gedeeltelijk begrepen storingen.
- Predictieve incidentdetectie voordat gebruikers worden beïnvloed.
- AI-gestuurde risicobeoordeling van wijzigingen en automatische rollbacks.
PagerDuty hanteert hiervoor een gelaagd model:
- Niveau 1 incidenten: Bekende problemen met bekende oplossingen worden volledig geautomatiseerd.
- Niveau 2 incidenten: Gedeeltelijk begrepen problemen krijgen AI-aanbevelingen met menselijke validatie.
- Niveau 3 incidenten: Nieuwe, complexe, cascaderende storingen blijven mensgestuurd, waarbij AI ondersteunende context biedt.
Hier zit echter de crux. Als menselijke SRE's alleen nog maar betrokken raken bij Niveau 3 incidenten—de unieke, nooit eerder geziene outages—waar ontwikkelen ze dan de intuïtie om deze op te lossen? Intuïtie wordt doorgaans opgebouwd door jaren van hands-on incidentrespons, patroonherkenning door herhaling, en het soort instinctief begrip van een systeem dat alleen ontstaat door pijnlijk vaak op vreemde uren wakker te worden om de bug op te lossen die het systeem platlegde.
De crisis van deskilling
Er is een groeiende hoeveelheid onderzoek naar AI-geïnduceerde deskilling (het verlies van vaardigheden) in verschillende vakgebieden:
- Geneeskunde: Een recente studie wees uit dat endoscopisten die AI gebruikten voor het detecteren van poliepen, een daling zagen in hun eigen detectievermogen (zonder AI) van 28% naar 22% na een periode van AI-gebruik. Ze werden slechter in het vak waarin ze expert zouden moeten zijn, niet omdat ze de theorie vergaten, maar omdat ze de vaardigheid niet meer oefenden.
- Luchtvaart: Onderzoek toont aan dat langeafstandspiloten die zwaar leunen op autopilots, een meetbare achteruitgang ervaren in hun situationele bewustzijn en handmatige vliegvaardigheden. Dit probleem is zo ernstig dat de FAA nu meer handmatig vliegtijd verplicht stelt om dit effect tegen te gaan.
Het gevaar is dat dit proces wordt gemaskeerd als 'hyperproductiviteit'. Omdat AI-tools taken makkelijker maken en de zichtbare prestaties verbeteren, kunnen gebruikers vaak niet accuraat inschatten wat de werkelijke status van hun eigen vaardigheden is. Je voelt je competent, de dashboards zijn groen, en dan overkomt je op een woensdag een uniek incident dat niet overeenkomt met enig patroon dat de AI heeft gezien. Op dat moment merk je dat je mentale spieren zijn geatrofieerd.
Voor SRE's uit zich dit op specifieke manieren:
- We stoppen met het lezen van ruwe log-streams omdat de AI ze samenvat.
- We stoppen met het vormen van hypothesen tijdens incidenten omdat de AI bronoorzaken suggereert.
- We stoppen met het bouwen van mentale modellen van de systeemarchitectuur omdat de AI de afhankelijkheden voor ons in kaart brengt.
Individueel lijken dit productiviteitswinsten. Collectief hollen ze precies die expertise uit die een SRE effectief maakt wanneer zaken op onverwachte wijze misgaan.
Er is echter iets nog zorgwekkender dan deskilling: never-skilling. Waar deskilling betekent dat je een vaardigheid had maar bent verloren, betekent never-skilling dat je de vaardigheid nooit hebt ontwikkeld. Voor junior SRE's die vandaag het vak in gaan in een omgeving waar AI het grootste deel van de workflow afhandelt, verdwijnen de mogelijkheden om fundamentele intuïtie en ervaring op te bouwen via hands-on praktijk. De opleidingspijplijn is kapot en herstelt zichzelf niet.
Wat kunnen we eraan doen?
Dit is geen pleidooi tegen AI-tooling; adoptie en integratie zijn onvermijdelijk. Er zijn echter benaderingen om de vaardigheidserosie tegen te gaan:
- Opzettelijke inefficiëntie: Net zoals de FAA handmatig vliegen verplicht stelt, kunnen SRE-teams bepaalde incidenten aanwijzen als 'menselijke oefenmomenten', zelfs als de AI ze zou kunnen oplossen. Dit is een investering op lange termijn om vaardigheden vers lezen, ook als dat ten koste gaat van de snelheid van de oplossing.
- Bouwen voor 'human-in-the-loop' in plaats van 'human-on-the-side': Er is een wezenlijk verschil tussen een systeem waarbij een mens een AI-aanbeveling goedkeurt (supervisie), en een systeem waarbij een mens actief samenwerkt met de AI om het probleem op te lossen. De eerste rol leidt tot vigilance decay (afname van waakzaamheid), terwijl de tweede rol de mens cognitief betrokken houdt.
Het grotere plaatje
De risico's van automatisering, deskilling en never-skilling gelden voor de gehele software engineering. Naarmate AI meer code schrijft, PR's reviewt en debugging afhandelt, gelden dezelfde vragen.
Bij SigNoz, waar een open-source observability-platform wordt gebouwd, beïnvloedt dit direct hoe AI in het product wordt geïntegreerd. De benadering is om te starten met een AI-assistent die SRE's helpt de kracht van LLM's te benutten, terwijl de mens stevig in controle blijft. Autonomie wordt pas later mogelijk, binnen duidelijke kaders en zodra het vertrouwen is verdiend.
Het doel is geen AI die SRE's vervangt, maar AI die SRE's versterkt (supercharges). Mensen blijven essentieel voor de beslissingen die er het meest toe doen, vooral die met impact op de productie-infrastructuur. De toekomst van SRE is een mens, ondersteund door AI die bewust is ontworpen om de mens scherp, betrokken en klaar te houden voor die 5% die er echt toe doet.
Groetjes,