Het artikel analyseert de groeiende dreiging van alomtegenwoordige surveillance door AI-gestuurde wearables, zoals slimme pins en brillen, die discreet gesprekken kunnen opnemen. Er is sprake van een technologische wapenwedloop: terwijl nieuwe tools (zoals Spectre I) proberen microfoons te blokkeren met ultrasone jammers, ontwikkelen techbedrijven geavanceerde speech-recovery algoritmen die ruis wegfilteren en verloren gegane spraak kunnen reconstrueren.
Om deze AI-systemen te verslaan, wordt de strategie van obfuscatie (misleiding) besproken. Hierbij wordt geprobeerd systemen te voeden met waardeloze data of 'anti-spraak' om algoritmen in verwarring te brengen. De auteur concludeert echter dat er een gevaarlijke asymmetrie in macht bestaat: de miljardeninvesteringen van techgiganten in audioverwerking maken het voor privacy-verdedigers uiterst moeilijk om effectief tegenmaatregelen te behouden.
Alles wat je doet wordt opgenomen: is er een manier om terug te vechten?
Anthony “Bingy” Arillotta wachtte jarenlang om een made man te worden in de Genovese misdaadfamilie. Toen de oproep in augustus 2003 eindelijk kwam, volgde hij de instructies tot op de letter. Volgens beëdigde getuigenis werd Arillotta geroepen naar een steakhouse in de Bronx, waar hij zijn mobiele telefoon, pager en sieraden moest inleveren voordat hij naar een appartementencomplex werd gereden. Eenmaal daar werd hij meegenomen naar een kleine badkamer en gefouilleerd op elektronische apparaten. Voor zijn belangrijke ontmoeting met de baas kreeg hij een badjas aan.
Tot voor kort hoefden alleen spionnen en criminelen zich zo obsessief zorgen te maken over het feit dat hun privégesprekken door elektronische apparatuur zouden worden opgevangen. Maar binnenkort moet misschien ook de gemiddelde persoon surveillance-tegenmaatregelen inzetten. De volgende keer dat u delicate kantoordiplomatie voert of een romantisch of financieel geheim met een vriend deelt tijdens een drankje, kan een sensor in iemands bril, ketting of reversspeld u in de gaten houden en beluisteren.
In maart kondigde de tech-startup Deveillance de ontwikkeling aan van Spectre I, een apparaat in de vorm van een hockeypuck dat pretendeert te voorkomen dat anderen u opnemen (zonder dat daarvoor een fouillering nodig is). Het bedrijf werd opgericht door Aida Baradari, een pas afgestudeerde student die zich zorgen maakte over de enorme toename van mensen die AI-gestuurde recorders dragen. Deze wearables kunnen worden gebruikt als stille notitiehouder, persoonlijke assistent of zelfs een soort therapeut. Die technologie is nog niet mainstream, maar dat kan snel gebeuren. Er gaan geruchten dat Apple — het bedrijf met het grootste persoonlijke tech-ecosysteem ter wereld — een AI-pin of hanger ontwikkelt die zou dienen als de constante ogen en oren van een iPhone; veel andere producten van dit type zijn onderweg. AI-accessoires zouden op een dag net zo wijdverspreid kunnen zijn als AirPods.
De wapenwedloop van surveillance en tegenmaatregelen
Nieuwe surveillancetechnologieën leiden vaak tot nieuwe tegenmaatregelen, die op hun beurt weer leiden tot geavanceerdere surveillance. Tijdens de Tweede Wereldoorlog, nadat Duitsland radar had geïmplementeerd, begon de Royal Air Force dunne stroken gemetalliseerd papier te droppen. Deze waren precies zo gesneden dat ze resoneerden met de radar, waardoor Duitse schermen werden overspoeld met spookecho's die niet te onderscheiden waren van echte vliegtuigen. Sommige historici betogen dat deze daaropvolgende radar-wapenwedloop consequenter was voor de afloop van de oorlog dan het Manhattan Project.
Al decennia worden primitieve jammers verkocht aan mensen die willen voorkomen dat ze worden opgenomen. Vroege versies zonden luid, onaangenaam wit ruis uit om stemmen te maskeren. Recentelijk hebben bedrijven modellen gemaakt die een constante stroom ultrasoon geluid uitzenden op onhoorbare frequenties; zij maken gebruik van een eigenschap van microfoonhardware die deze hoge frequenties omzet in ruis. In 2020 rapporteerde een team aan de Universiteit van Chicago, onder leiding van Yuxin Chen, dat ze 23 ultrasone transducers op één armband hadden gemonteerd, zodat jam-signalen in alle richtingen konden worden gestuurd in plaats van gefocust op één enkel doel.
De strijd tegen AI-algoritmen
Zelfs hightech jammers hebben het moeilijk om de huidige AI-wearables af te weren. De meest geavanceerde pins, hangers en brillen maken gebruik van speech-recovery algoritmen om ongewenst geluid weg te filteren, of dit nu afkomstig is van alledaagse bronnen — zoals het klinken van glazen in een drukke bar — of van een ultrasone jammer.
De taak die deze algoritmen uitvoeren is zeer complex. In een drukke bar vangt een microfoon op de revers van iemand geluidstrillingen van veel verschillende bronnen tegelijk op: een bartender die een bestelling roept, muziek uit een luidspreker en uitbarstingen van gelach van nabijgelegen tafels. Al deze geluiden kaatsen af tegen muren en andere objecten, wat nog meer ruis creëert. Het menselijk lichaam lost dit “cocktailparty-probleem” op zonder dat we het merken: onze oren dienen als dubbele microfoons en ons brein kan de timing- en intensiteitsverschillen tussen hen gebruiken, samen met gelaagde verwerking in de auditieve cortex, om de stem te isoleren van iemand die tegenover ons zit.
DeLiang Wang, een computerwetenschapper aan de Ohio State University, heeft decennia besteed aan het trainen van neurale netwerken om hetzelfde doel te bereiken, met als doel gehoorapparaten te verbeteren. Door de netwerken honderden uren aan opgenomen menselijke stemmen te voeren, heeft hij ze geleerd de frequenties en ritmes van spraak te herkennen. De modellen bouwen een interne representatie op van wat “spraak-achtig” is. Wanneer ze een ruisige opname tegenkomen, focussen ze zich op de delen die overeenkomen met de geleerde patronen en onderdrukken ze al het andere. De meest geavanceerde technologieën kunnen nu ontbrekende lettergrepen afleiden — vergelijkbaar met hoe een lezer een zwartgelakt woord uit de context invult — waardoor spraak kan worden gereconstrueerd die oorspronkelijk niet zuiver was vastgelegd.
Ook grote techbedrijven proberen dit te bereiken. Microsoft organiseert sinds 2020 jaarlijks de Deep Noise Suppression Challenge om het vakgebied vooruit te helpen (hun eigen team probeert Teams-vergaderingen minder hinderlijk te maken). Andere bedrijven werken aan ruisonderdrukking voor mobiele telefoongesprekken en podcastsoftware. Dit soort onderzoek is bedoeld om het leven van normale gebruikers te verbeteren, maar elke vooruitgang in de-noising kan ook worden gebruikt om een AI-assistent te helpen spraak te herstellen uit een gestoorde opname.
Obfuscatie: de strategie van de misleiding
Het verslaan van deze algoritmen vereist wellicht een geheel andere benadering van countersurveillance. Finn Brunton, historicus aan UC Davis en co-auteur van Obfuscation: A User’s Guide for Privacy and Protest, stelde dat een van de beste manieren is om te identificeren welke data een apparaat probeert te verzamelen, en dit vervolgens te voorzien van een waardeloze versie ("junk version").
Voorbeelden hiervan zijn:
- Visueel: De in Berlijn gevestigde kunstenaar Adam Harvey ontwikkelde make-up en kleding die gezichtsherkenningsalgoritmen dwarsbomen.
- Digitaal: Daniel Howe en Helen Nissenbaum deden iets soortgelijks met een browser-plug-in genaamd TrackMeNot. In plaats van de Google-zoekopdrachten van een gebruiker te verbergen, voert de extensie constant willekeurige afleidingsvragen uit op de achtergrond, waardoor de werkelijke zoekopdracht verloren gaat in een zee van valse sporen.
Mensen hebben deze techniek ook toegepast op audio. Woodrow Hartzog, professor in de rechten aan Boston University die onderzoek doet naar privacy en surveillance, vertelde dat hij aan het begin van zijn juridische carrière werkte met verdedigingsadvocaten die vreesden dat hun gesprekken met cliënten in de gevangenis werden opgenomen. Om dit tegen te gaan, speelden ze “babble tapes” af op de achtergrond: audiobestanden bestaande uit 40 lagen stemmen met verschillende accenten.
In 2023 gebruikte een team onder leiding van Ming Gao (nu onderzoeker aan de Nanjing University) menselijke stemmen om speech-recovery algoritmen op een andere manier te verslaan. Hun jammer, genaamd MicFrozen, wordt gedragen door de spreker die niet opgenomen wil worden. Het apparaat luistert naar de spreker en genereert in realtime een stroom van ultrasone “anti-spraak” die is afgestemd op de stem van de gebruiker, vergelijkbaar met de noise-cancelling technologie in koptelefoons. Vervolgens zendt het apparaat een andere laag van nagemaakt spraakgeluid uit om elk algoritme dat probeert te reconstrueren wat er verloren is gegaan, te misleiden.
Baradari, wiens bedrijf werkt aan het Spectre I-apparaat, wilde niet precies vertellen hoe de signalen van haar jammer werken, maar gaf aan dat deze ook lijken op spraak. De promotievideo voor Spectre I claimt bovendien dat het apparaat in staat zal zijn om de aanwezigheid van nabijgelegen microfoons te detecteren. Toen Baradari werd gevraagd hoe dit zou werken, verduidelijkte zij dat haar team “op dit moment nog aan dat deel werkt.”
De toekomst en de asymmetrie van macht
Hoe effectief Spectre I ook blijkt te zijn, het zal niet het einde zijn van de wapenwedloop op het gebied van opnames. Krachtigere AI-modellen zullen uiteindelijk nieuwe luistertrucs inzetten. Ze zouden audio-opnames volledig kunnen omzeilen. In Stanley Kubricks 2001: A Space Odyssey lezen de computer HAL 9000 de lippen van twee astronauten simpelweg door het raam terwijl zij in een geluidsdichte capsule zitten. Een wearable, aangedreven door een model dat getraind is op voldoende beelden van gesprekken, zou in principe hetzelfde kunnen doen. In theorie zou zo'n apparaat zelfs naar een glas water tussen twee mensen kunnen kijken en hun spraak kunnen herstellen uit de trillingen op het wateroppervlak.
AI-wearables zullen waarschijnlijk altijd een voorsprong hebben op tegenmaatregelen. Ze maken immers gebruik van technologie die het product is van de gehele spraakverwerkingsindustrie, waarin miljarden dollars worden geïnvesteerd — niet alleen voor AI-assistenten, maar ook voor gehoorapparaten, smart speakers en teleconferentie-tools. Ondertussen verdedigen slechts een paar academici en kleine bedrijven ons tegen deze technologieën. “Het ding met kat-en-muisspellen is dat we weten hoe ze meestal aflopen voor de muis,” zei Hartzog. “En in dit geval omvat de kat enkele van de machtigste corporaties die ooit hebben bestaan.”
De maffia weet hoe het is om de muis te zijn. Tegen de tijd dat Arillotta, de aspirant-made man, werd verteld een badjas aan te trekken, waren misdaadorganisaties al decennia verwikkeld in hun eigen surveillance-wapenwedloop. Toen opsporingsdiensten hun telefoons begonnen aftevenen, voerden bazen zaken persoonlijk uit. Soms gebruikten ze een safehouse of een voertuig, maar die konden ook worden afgeluisterd, waardoor gevoelige informatie soms alleen tijdens een “walk-and-talk” werd gecommuniceerd. Uiteindelijk stapten misdaadfamilies over op burner phones en later op apparaten met encryptie. Maar ook hier vielen ze ten prooi aan de kat.
In 2018 begon de FBI in het geheim Anom te exploiteren, hun eigen bedrijf voor versleutelde telefoons. Via informanten verkochten ze 12.000 toestellen met een speciale Anom-berichtenapp. Leden van maffiafamilies, motorbendes en andere criminele organisaties beschouwden de telefoons als een statussymbool en gebruikten ze om drugdeals te onderhandelen, geld wit te wassen en deel te nemen aan allerlei andere illegale activiteiten. Maar de beveiliging die ze boden was een ruse: elk bericht dat ze verstuurden werd onderschept door de federale agenten.
Alles wat je doet wordt opgenomen: is er een manier om terug te vechten?
Anthony “Bingy” Arillotta wachtte jarenlang om een made man te worden in de Genovese misdaadfamilie. Toen de oproep in augustus 2003 eindelijk kwam, volgde hij de instructies tot op de letter. Volgens beëdigde getuigenis werd Arillotta geroepen naar een steakhouse in de Bronx, waar hij zijn mobiele telefoon, pager en sieraden moest inleveren voordat hij naar een appartementencomplex werd gereden. Eenmaal daar werd hij meegenomen naar een kleine badkamer en gefouilleerd op elektronische apparaten. Voor zijn belangrijke ontmoeting met de baas kreeg hij een badjas aan.
Tot voor kort hoefden alleen spionnen en criminelen zich zo obsessief zorgen te maken over het feit dat hun privégesprekken door elektronische apparatuur zouden worden opgevangen. Maar binnenkort moet misschien ook de gemiddelde persoon surveillance-tegenmaatregelen inzetten. De volgende keer dat u delicate kantoordiplomatie voert of een romantisch of financieel geheim met een vriend deelt tijdens een drankje, kan een sensor in iemands bril, ketting of reversspeld u in de gaten houden en beluisteren.
In maart kondigde de tech-startup Deveillance de ontwikkeling aan van Spectre I, een apparaat in de vorm van een hockeypuck dat pretendeert te voorkomen dat anderen u opnemen (zonder dat daarvoor een fouillering nodig is). Het bedrijf werd opgericht door Aida Baradari, een pas afgestudeerde student die zich zorgen maakte over de enorme toename van mensen die AI-gestuurde recorders dragen. Deze wearables kunnen worden gebruikt als stille notitiehouder, persoonlijke assistent of zelfs een soort therapeut. Die technologie is nog niet mainstream, maar dat kan snel gebeuren. Er gaan geruchten dat Apple — het bedrijf met het grootste persoonlijke tech-ecosysteem ter wereld — een AI-pin of hanger ontwikkelt die zou dienen als de constante ogen en oren van een iPhone; veel andere producten van dit type zijn onderweg. AI-accessoires zouden op een dag net zo wijdverspreid kunnen zijn als AirPods.
De wapenwedloop van surveillance en tegenmaatregelen
Nieuwe surveillancetechnologieën leiden vaak tot nieuwe tegenmaatregelen, die op hun beurt weer leiden tot geavanceerdere surveillance. Tijdens de Tweede Wereldoorlog, nadat Duitsland radar had geïmplementeerd, begon de Royal Air Force dunne stroken gemetalliseerd papier te droppen. Deze waren precies zo gesneden dat ze resoneerden met de radar, waardoor Duitse schermen werden overspoeld met spookecho's die niet te onderscheiden waren van echte vliegtuigen. Sommige historici betogen dat deze daaropvolgende radar-wapenwedloop consequenter was voor de afloop van de oorlog dan het Manhattan Project.
Al decennia worden primitieve jammers verkocht aan mensen die willen voorkomen dat ze worden opgenomen. Vroege versies zonden luid, onaangenaam wit ruis uit om stemmen te maskeren. Recentelijk hebben bedrijven modellen gemaakt die een constante stroom ultrasoon geluid uitzenden op onhoorbare frequenties; zij maken gebruik van een eigenschap van microfoonhardware die deze hoge frequenties omzet in ruis. In 2020 rapporteerde een team aan de Universiteit van Chicago, onder leiding van Yuxin Chen, dat ze 23 ultrasone transducers op één armband hadden gemonteerd, zodat jam-signalen in alle richtingen konden worden gestuurd in plaats van gefocust op één enkel doel.
De strijd tegen AI-algoritmen
Zelfs hightech jammers hebben het moeilijk om de huidige AI-wearables af te weren. De meest geavanceerde pins, hangers en brillen maken gebruik van speech-recovery algoritmen om ongewenst geluid weg te filteren, of dit nu afkomstig is van alledaagse bronnen — zoals het klinken van glazen in een drukke bar — of van een ultrasone jammer.
De taak die deze algoritmen uitvoeren is zeer complex. In een drukke bar vangt een microfoon op de revers van iemand geluidstrillingen van veel verschillende bronnen tegelijk op: een bartender die een bestelling roept, muziek uit een luidspreker en uitbarstingen van gelach van nabijgelegen tafels. Al deze geluiden kaatsen af tegen muren en andere objecten, wat nog meer ruis creëert. Het menselijk lichaam lost dit “cocktailparty-probleem” op zonder dat we het merken: onze oren dienen als dubbele microfoons en ons brein kan de timing- en intensiteitsverschillen tussen hen gebruiken, samen met gelaagde verwerking in de auditieve cortex, om de stem te isoleren van iemand die tegenover ons zit.
DeLiang Wang, een computerwetenschapper aan de Ohio State University, heeft decennia besteed aan het trainen van neurale netwerken om hetzelfde doel te bereiken, met als doel gehoorapparaten te verbeteren. Door de netwerken honderden uren aan opgenomen menselijke stemmen te voeren, heeft hij ze geleerd de frequenties en ritmes van spraak te herkennen. De modellen bouwen een interne representatie op van wat “spraak-achtig” is. Wanneer ze een ruisige opname tegenkomen, focussen ze zich op de delen die overeenkomen met de geleerde patronen en onderdrukken ze al het andere. De meest geavanceerde technologieën kunnen nu ontbrekende lettergrepen afleiden — vergelijkbaar met hoe een lezer een zwartgelakt woord uit de context invult — waardoor spraak kan worden gereconstrueerd die oorspronkelijk niet zuiver was vastgelegd.
Ook grote techbedrijven proberen dit te bereiken. Microsoft organiseert sinds 2020 jaarlijks de Deep Noise Suppression Challenge om het vakgebied vooruit te helpen (hun eigen team probeert Teams-vergaderingen minder hinderlijk te maken). Andere bedrijven werken aan ruisonderdrukking voor mobiele telefoongesprekken en podcastsoftware. Dit soort onderzoek is bedoeld om het leven van normale gebruikers te verbeteren, maar elke vooruitgang in de-noising kan ook worden gebruikt om een AI-assistent te helpen spraak te herstellen uit een gestoorde opname.
Obfuscatie: de strategie van de misleiding
Het verslaan van deze algoritmen vereist wellicht een geheel andere benadering van countersurveillance. Finn Brunton, historicus aan UC Davis en co-auteur van Obfuscation: A User’s Guide for Privacy and Protest, stelde dat een van de beste manieren is om te identificeren welke data een apparaat probeert te verzamelen, en dit vervolgens te voorzien van een waardeloze versie ("junk version").
Voorbeelden hiervan zijn:
- Visueel: De in Berlijn gevestigde kunstenaar Adam Harvey ontwikkelde make-up en kleding die gezichtsherkenningsalgoritmen dwarsbomen.
- Digitaal: Daniel Howe en Helen Nissenbaum deden iets soortgelijks met een browser-plug-in genaamd TrackMeNot. In plaats van de Google-zoekopdrachten van een gebruiker te verbergen, voert de extensie constant willekeurige afleidingsvragen uit op de achtergrond, waardoor de werkelijke zoekopdracht verloren gaat in een zee van valse sporen.
Mensen hebben deze techniek ook toegepast op audio. Woodrow Hartzog, professor in de rechten aan Boston University die onderzoek doet naar privacy en surveillance, vertelde dat hij aan het begin van zijn juridische carrière werkte met verdedigingsadvocaten die vreesden dat hun gesprekken met cliënten in de gevangenis werden opgenomen. Om dit tegen te gaan, speelden ze “babble tapes” af op de achtergrond: audiobestanden bestaande uit 40 lagen stemmen met verschillende accenten.
In 2023 gebruikte een team onder leiding van Ming Gao (nu onderzoeker aan de Nanjing University) menselijke stemmen om speech-recovery algoritmen op een andere manier te verslaan. Hun jammer, genaamd MicFrozen, wordt gedragen door de spreker die niet opgenomen wil worden. Het apparaat luistert naar de spreker en genereert in realtime een stroom van ultrasone “anti-spraak” die is afgestemd op de stem van de gebruiker, vergelijkbaar met de noise-cancelling technologie in koptelefoons. Vervolgens zendt het apparaat een andere laag van nagemaakt spraakgeluid uit om elk algoritme dat probeert te reconstrueren wat er verloren is gegaan, te misleiden.
Baradari, wiens bedrijf werkt aan het Spectre I-apparaat, wilde niet precies vertellen hoe de signalen van haar jammer werken, maar gaf aan dat deze ook lijken op spraak. De promotievideo voor Spectre I claimt bovendien dat het apparaat in staat zal zijn om de aanwezigheid van nabijgelegen microfoons te detecteren. Toen Baradari werd gevraagd hoe dit zou werken, verduidelijkte zij dat haar team “op dit moment nog aan dat deel werkt.”
De toekomst en de asymmetrie van macht
Hoe effectief Spectre I ook blijkt te zijn, het zal niet het einde zijn van de wapenwedloop op het gebied van opnames. Krachtigere AI-modellen zullen uiteindelijk nieuwe luistertrucs inzetten. Ze zouden audio-opnames volledig kunnen omzeilen. In Stanley Kubricks 2001: A Space Odyssey lezen de computer HAL 9000 de lippen van twee astronauten simpelweg door het raam terwijl zij in een geluidsdichte capsule zitten. Een wearable, aangedreven door een model dat getraind is op voldoende beelden van gesprekken, zou in principe hetzelfde kunnen doen. In theorie zou zo'n apparaat zelfs naar een glas water tussen twee mensen kunnen kijken en hun spraak kunnen herstellen uit de trillingen op het wateroppervlak.
AI-wearables zullen waarschijnlijk altijd een voorsprong hebben op tegenmaatregelen. Ze maken immers gebruik van technologie die het product is van de gehele spraakverwerkingsindustrie, waarin miljarden dollars worden geïnvesteerd — niet alleen voor AI-assistenten, maar ook voor gehoorapparaten, smart speakers en teleconferentie-tools. Ondertussen verdedigen slechts een paar academici en kleine bedrijven ons tegen deze technologieën. “Het ding met kat-en-muisspellen is dat we weten hoe ze meestal aflopen voor de muis,” zei Hartzog. “En in dit geval omvat de kat enkele van de machtigste corporaties die ooit hebben bestaan.”
De maffia weet hoe het is om de muis te zijn. Tegen de tijd dat Arillotta, de aspirant-made man, werd verteld een badjas aan te trekken, waren misdaadorganisaties al decennia verwikkeld in hun eigen surveillance-wapenwedloop. Toen opsporingsdiensten hun telefoons begonnen aftevenen, voerden bazen zaken persoonlijk uit. Soms gebruikten ze een safehouse of een voertuig, maar die konden ook worden afgeluisterd, waardoor gevoelige informatie soms alleen tijdens een “walk-and-talk” werd gecommuniceerd. Uiteindelijk stapten misdaadfamilies over op burner phones en later op apparaten met encryptie. Maar ook hier vielen ze ten prooi aan de kat.
In 2018 begon de FBI in het geheim Anom te exploiteren, hun eigen bedrijf voor versleutelde telefoons. Via informanten verkochten ze 12.000 toestellen met een speciale Anom-berichtenapp. Leden van maffiafamilies, motorbendes en andere criminele organisaties beschouwden de telefoons als een statussymbool en gebruikten ze om drugdeals te onderhandelen, geld wit te wassen en deel te nemen aan allerlei andere illegale activiteiten. Maar de beveiliging die ze boden was een ruse: elk bericht dat ze verstuurden werd onderschept door de federale agenten.
Groetjes,