In dit artikel reflecteert Pete Millspaugh op de ethiek van AI-gestuurde acquisitie. Naar aanleiding van een misleidende, synthetische videopitch van een startup ('Chase'), betoogt de auteur dat het simuleren van menselijke interactie via AI fundamenteel oneerlijk is.
De belangrijkste punten zijn:
- AI-slop en digitale vervuiling: Het gebruik van AI om mensen te misleiden draagt bij aan 'AI-slop', wat leidt tot een digitale-ecologische crisis waarin communicatiekanalen onbetrouwbaar worden door constante epistemische waakzaamheid.
- Ethische automatisering: Er is een duidelijk onderscheid tussen het gebruik van AI voor efficiëntie (zoals lead-verrijking) en het gebruik ervan om een menselijke identiteit te veinzen.
- Oproep tot authenticiteit: De auteur pleit ervoor om communicatie óf oprecht persoonlijk, óf openlijk geautomatiseerd te maken. Door te doen alsof AI een mens is, wordt de drempel voor oprechte makers verhoogd omdat de algemene 'ruisvloer' van het internet toeneemt.
Ethische cold outreach
Een paar weken geleden kreeg mijn collega Charlie een cold email van een startup met een link naar hun “gepersonaliseerde” videopitch. Ik zet "gepersonaliseerd" tussen aanhalingstekens, zowel omdat ze de video in de e-mail letterlijk zo beschreven, als omdat het bleek te gaan om pure, onpersoonlijke misleiding: de man in de video was helemaal geen echt persoon. Hij was synthetisch, ofwel volledig gefabriceerd, of wellicht een kloon van de mens die hem had gemaakt.
De video bestaat uit 90 seconden waarin deze man, “Chase”, door onze landingspagina scrolt en hun product pitcht: een tool die launch-video's voor startups genereert.
“Hoi Charlie, ik ben Chase van Represent Studio. Ik was net op jullie website en wat jullie aan het bouwen zijn is super spannend.”
Waren we geïnteresseerd? Wilde Charlie een kort gesprek plannen met “Chase”? De fake is indrukwekkend, zelfs een beetje eng, maar er zijn een paar weggevers. Er is iets aan zijn glazen ogen die heen en weer schieten dat niet helemaal menselijk is. En de pitch voelde net iets te geforceerd informeel. Daarnaast zei hij: “We hebben enkele van de grootste lanceringen in the Silicon Valley gehad.” The Silicon Valley?
Ik had onlangs gebinge-listened naar Shell Game, de podcast van Evan Ratliff waarin hij zijn experimentele startup documenteert die volledig door AI-werknemers wordt gerund. Hierdoor was ik extra alert op dit soort synthetische menselijke misleiding. Charlie merkte het ook op.
Om onze nieuwsgierigheid te bevredigen, antwoordde Charlie: “Hoi. Was dit een AI-video?”
Zonder verder aandringen kregen we antwoord: “Ja, dit is een video gegenereerd door een AI-systeem dat we intern hebben gebouwd. Benieuwd, sprak het je aan?”
Nou, “Chase”, het heeft zeker onze aandacht getrokken!
Zich voordoen als mens is onethisch
Gelukkig hebben we Robin Sloan om de dingen bij hun naam te noemen. Uit zijn pop-up nieuwsbrief van vorige maand:
Het is overduidelijk onethisch om robots te gebruiken voor gesimuleerde menselijke marketingoutreach. Ik weet dat mensen dat al deden lang voor de komst van LLM's; het was toen ook al onethisch. Als je een robot wilt gebruiken om mij een aangepaste pitch te sturen, schrijf dan: “Hallo, dit is een automatisch bericht van Robot Corporation. We denken dat u een potentiële klant bent, dus willen we u graag wat informatie geven” — enzovoorts. Naar mijn mening is die aanpak nog steeds irritant, maar ethisch gezien oké.
Inmiddels is "AI-slop" een bekend begrip. Het is nuttig om er een naam voor te hebben zodat we het kunnen benoemen (zie bijvoorbeeld Stop Sloppypasta). Slop is een echt probleem, mede omdat we nu constant de bron en de waarheid van alles wat we lezen — en in toenemende mate zien en horen via schermen en luidsprekers — in twijfel moeten trekken. Het is een belasting op onze dagelijkse hoeveelheid mentale energie. Zoals Jane Friedman schrijft, hebben we verlichting nodig van deze constante epistemische waakzaamheid.
Sloan waarschuwt ons voor een scenario waarin AI-systemen de menselijke communicatiekanalen zo vervuilen dat ze niet langer betrouwbaar of zelfs bruikbaar zijn. Hij noemt dit "een diepe digitaal-ecologische crisis".
Het is een internetcrisis die me enorm frustreert, maar er is tenminste één ding dat we kunnen doen: stop met doen alsof!
Ethisch naar de markt gaan
Dit jaar heb ik Steve en Charlie ons product zien verkopen, op een inspannende en ethische manier. Ze praten met veel klanten, soms om te verkopen en andere keren voor feedback over het product. Wanneer je Steve en Charlie over Val Town horen praten, merk je dat zezelf het product daadwerkelijk gebruiken en ernaarstig liefhebben, wat het natuurlijk makkelijker maakt om het oprecht te verkopen.
Bijna vier jaar later kan Val Town als een startup-succes worden beschouwd in die zin dat we betalende klanten hebben die bij bedrijven werken die we respecteren en die mooie dingen bouwen. We zijn trots op het product en vinden het zelf leuk om te gebruiken. Maar het is niet het soort onvermijdelijk startup-succes waarbij ik nu al een aanbetaling voor een hypotheek inplan vanuit een beursgang over een paar jaar. We werken aan de product-market fit, zoals Steve schrijft in zijn maandelijkse openbare investeerdersupdates, en we denken dat go-to-market engineering die fit zou kunnen zijn. Dat is waarom het nu extra actueel voelt om onze afkeer van oneerlijke slop uit te spreken.
Om duidelijk te zijn: we hebben geen probleem met het gebruik van AI om go-to-market tools te bouwen. We hebben templates die precies dat doen, zoals het kwalificeren van leads of het verrijken van aanmeldingen. Het is het doen alsof dat fout is. Wanneer onze go-to-market beweging te geautomatiseerd en onoprecht begon te voelen, hebben we een stap terug gedaan. We willen mensen vinden voor wie Val Town de juiste tool is, maar we willen hun tijd niet verspillen of hen misleiden.
Het spijt me dat ik “Chase” als voorbeeld gebruik, en ik denk niet dat hij een slecht mens is omdat hij nieuwe technologie probeert te gebruiken om zijn startup te laten groeien. Het is echt heel moeilijk om mensen je product te laten proberen.
Ik blijf Sloan citeren, omdat hij simpelweg de spijker op de kop slaat. Hij schrijft dat het versturen van aangepaste, door AI gegenereerde cold emails “subtieler is dan een standaard promotie-blast, maar veel erger is, omdat het fundamenteel oneerlijk is.” En overtreffers zoals “Chase” verpesten het voor iedereen:
Naast dat deze berichten ronduit onbeleefd en oneerlijk zijn, "plassen ze in het zwembad" van de internetcommunicatie. Hierdoor wordt het voor oprechte makers moeilijker om authentieke e-mails over hun projecten te versturen, simpelweg door de “ruisvloer” van simulatie en onzin te verhogen. Cold emails zijn prima — maak ze óf oprecht persoonlijk, óf oprecht onpersoonlijk. Niemand wil horen van je AI-bot, en zeker niet wanneer deze doet alsof hij jou is en het dik aanzet.
Dus alsjeblieft, stop met doen alsof.
Ethische cold outreach
Een paar weken geleden kreeg mijn collega Charlie een cold email van een startup met een link naar hun “gepersonaliseerde” videopitch. Ik zet "gepersonaliseerd" tussen aanhalingstekens, zowel omdat ze de video in de e-mail letterlijk zo beschreven, als omdat het bleek te gaan om pure, onpersoonlijke misleiding: de man in de video was helemaal geen echt persoon. Hij was synthetisch, ofwel volledig gefabriceerd, of wellicht een kloon van de mens die hem had gemaakt.
De video bestaat uit 90 seconden waarin deze man, “Chase”, door onze landingspagina scrolt en hun product pitcht: een tool die launch-video's voor startups genereert.
“Hoi Charlie, ik ben Chase van Represent Studio. Ik was net op jullie website en wat jullie aan het bouwen zijn is super spannend.”
Waren we geïnteresseerd? Wilde Charlie een kort gesprek plannen met “Chase”? De fake is indrukwekkend, zelfs een beetje eng, maar er zijn een paar weggevers. Er is iets aan zijn glazen ogen die heen en weer schieten dat niet helemaal menselijk is. En de pitch voelde net iets te geforceerd informeel. Daarnaast zei hij: “We hebben enkele van de grootste lanceringen in the Silicon Valley gehad.” The Silicon Valley?
Ik had onlangs gebinge-listened naar Shell Game, de podcast van Evan Ratliff waarin hij zijn experimentele startup documenteert die volledig door AI-werknemers wordt gerund. Hierdoor was ik extra alert op dit soort synthetische menselijke misleiding. Charlie merkte het ook op.
Om onze nieuwsgierigheid te bevredigen, antwoordde Charlie: “Hoi. Was dit een AI-video?”
Zonder verder aandringen kregen we antwoord: “Ja, dit is een video gegenereerd door een AI-systeem dat we intern hebben gebouwd. Benieuwd, sprak het je aan?”
Nou, “Chase”, het heeft zeker onze aandacht getrokken!
Zich voordoen als mens is onethisch
Gelukkig hebben we Robin Sloan om de dingen bij hun naam te noemen. Uit zijn pop-up nieuwsbrief van vorige maand:
Het is overduidelijk onethisch om robots te gebruiken voor gesimuleerde menselijke marketingoutreach. Ik weet dat mensen dat al deden lang voor de komst van LLM's; het was toen ook al onethisch. Als je een robot wilt gebruiken om mij een aangepaste pitch te sturen, schrijf dan: “Hallo, dit is een automatisch bericht van Robot Corporation. We denken dat u een potentiële klant bent, dus willen we u graag wat informatie geven” — enzovoorts. Naar mijn mening is die aanpak nog steeds irritant, maar ethisch gezien oké.
Inmiddels is "AI-slop" een bekend begrip. Het is nuttig om er een naam voor te hebben zodat we het kunnen benoemen (zie bijvoorbeeld Stop Sloppypasta). Slop is een echt probleem, mede omdat we nu constant de bron en de waarheid van alles wat we lezen — en in toenemende mate zien en horen via schermen en luidsprekers — in twijfel moeten trekken. Het is een belasting op onze dagelijkse hoeveelheid mentale energie. Zoals Jane Friedman schrijft, hebben we verlichting nodig van deze constante epistemische waakzaamheid.
Sloan waarschuwt ons voor een scenario waarin AI-systemen de menselijke communicatiekanalen zo vervuilen dat ze niet langer betrouwbaar of zelfs bruikbaar zijn. Hij noemt dit "een diepe digitaal-ecologische crisis".
Het is een internetcrisis die me enorm frustreert, maar er is tenminste één ding dat we kunnen doen: stop met doen alsof!
Ethisch naar de markt gaan
Dit jaar heb ik Steve en Charlie ons product zien verkopen, op een inspannende en ethische manier. Ze praten met veel klanten, soms om te verkopen en andere keren voor feedback over het product. Wanneer je Steve en Charlie over Val Town horen praten, merk je dat zezelf het product daadwerkelijk gebruiken en ernaarstig liefhebben, wat het natuurlijk makkelijker maakt om het oprecht te verkopen.
Bijna vier jaar later kan Val Town als een startup-succes worden beschouwd in die zin dat we betalende klanten hebben die bij bedrijven werken die we respecteren en die mooie dingen bouwen. We zijn trots op het product en vinden het zelf leuk om te gebruiken. Maar het is niet het soort onvermijdelijk startup-succes waarbij ik nu al een aanbetaling voor een hypotheek inplan vanuit een beursgang over een paar jaar. We werken aan de product-market fit, zoals Steve schrijft in zijn maandelijkse openbare investeerdersupdates, en we denken dat go-to-market engineering die fit zou kunnen zijn. Dat is waarom het nu extra actueel voelt om onze afkeer van oneerlijke slop uit te spreken.
Om duidelijk te zijn: we hebben geen probleem met het gebruik van AI om go-to-market tools te bouwen. We hebben templates die precies dat doen, zoals het kwalificeren van leads of het verrijken van aanmeldingen. Het is het doen alsof dat fout is. Wanneer onze go-to-market beweging te geautomatiseerd en onoprecht begon te voelen, hebben we een stap terug gedaan. We willen mensen vinden voor wie Val Town de juiste tool is, maar we willen hun tijd niet verspillen of hen misleiden.
Het spijt me dat ik “Chase” als voorbeeld gebruik, en ik denk niet dat hij een slecht mens is omdat hij nieuwe technologie probeert te gebruiken om zijn startup te laten groeien. Het is echt heel moeilijk om mensen je product te laten proberen.
Ik blijf Sloan citeren, omdat hij simpelweg de spijker op de kop slaat. Hij schrijft dat het versturen van aangepaste, door AI gegenereerde cold emails “subtieler is dan een standaard promotie-blast, maar veel erger is, omdat het fundamenteel oneerlijk is.” En overtreffers zoals “Chase” verpesten het voor iedereen:
Naast dat deze berichten ronduit onbeleefd en oneerlijk zijn, "plassen ze in het zwembad" van de internetcommunicatie. Hierdoor wordt het voor oprechte makers moeilijker om authentieke e-mails over hun projecten te versturen, simpelweg door de “ruisvloer” van simulatie en onzin te verhogen. Cold emails zijn prima — maak ze óf oprecht persoonlijk, óf oprecht onpersoonlijk. Niemand wil horen van je AI-bot, en zeker niet wanneer deze doet alsof hij jou is en het dik aanzet.
Dus alsjeblieft, stop met doen alsof.
Groetjes,