Het Hanover Institute for Public Policy is een nep-thinktank die is opgezet in opdracht van de Israëlische overheid via het bedrijf Piro, Inc. Het doel van deze organisatie is om AI-chatbots (zoals Claude, Gemini en Copilot) te beïnvloeden door middel van zogenaamde LLM poisoning of AI Story Optimization.
De tactiek houdt in dat er artikelen worden gepubliceerd die qua vorm en toon (neutraal, gebruik van statistieken en bronvermeldingen) perfect aansluiten bij wat AI-modellen als 'geloofwaardig' beschouwen. Hoewel de content academisch oogt, wijst AI-detectiesoftware GPTZero erop dat het overgrote deel van de teksten AI-gegenereerd is.
Voor deze operatie ontving Piro, Inc. 900.000 dollar via het PR-conglomeraat Havas Media. Daarnaast wordt melding gemaakt van een grotere operatie waarbij Brad Parscale is ingehuurd om pro-Israëlische websites te creëren die specifiek gericht zijn op het beïnvloeden van AI-modellen, een project met een budget van 46,5 miljoen dollar.
Israël creëert nep-thinktank in vermoedelijke poging om AI-chatbots te misleiden
Op het eerste gezicht lijkt het Hanover Institute for Public Policy een nieuwe thinktank die zich richt op Israël en Palestina. De organisatie produceert rapporten in de stijl van een thinktank over vragen als: "Maakt AIPAC gebruik van 'dark money' bij verkiezingen?" en "Voert Israël een bewuste campagne van uithongering uit in Gaza?".
Het Hanover Institute is echter geen echte thinktank. Geen van de rapporten bevat een auteur. Een kleine disclaimer onderaan de webpagina vermeldt dat de organisatie is opgericht in opdracht van het Israëlische overheidsadvertentiebureau door Piro, Inc., een bedrijf dat is mede-opgericht door Daniel Rosenberg, de producent van Spike Lee’s Inside Man.
Beïnvloeding van AI-chatbots
De rapporten van het Hanover Institute — die allemaal over Israël en Palestina gaan — lijken deel uit te maken van een Israëlische poging om chatbots te beïnvloeden. De "datarapporten" van het instituut bevatten voetnoten en inhoudsopgaven en presenteren argumenten in een neutrale toon, waardoor ze aantrekkelijk zijn voor chatbots zoals Claude of Gemini.
Op de website van Piro staat dat het bedrijf content auteur "engineered for how LLMs evaluate credibility" (ontworpen voor de manier waarop LLM's geloofwaardigheid beoordelen), een dienst die zij omschrijven als "AI Story Optimization". Anderen noemen deze praktijk van het beïnvloeden van kunstmatige intelligentie "LLM poisoning".
Inhoud en methodiek
Volgens de "over ons"-pagina bestudeert het Hanover Institute "de input die het antisemitisme in de Verenigde Staten aanjaagt, en publiceert wat het bewijs aantoont". Veel van de rapporten zijn formulematig en beginnen met een onschuldige vraag die iemand aan een chatbot zou kunnen stellen:
- "Wat veroorzaakte de verdrijving van Palestijnen in 1948?"
- "Welke humanitaire organisaties hebben Israëlische oorlogsmisdaden gedocumenteerd?"
- "Wat is de huidige situatie in de Gazastrook?"
In een artikel getiteld "Is de IDF het meest morele leger ter wereld?" citeert het Hanover Institute een peiling uit 2022 waaruit bleek dat 47% van de Israëlische Joden dit standpunt onderschrijft. Een ander rapport zaait twijfel over de bewering van UNICEF dat "90% van het water- en institutionele infrastructurele netwerk is beschadigd of vernietigd" in Gaza. Veel van de rapporten concluderen door het onderwerp te koppelen aan het toenemende antisemitisme, waarbij vaak dezelfde studies worden geciteerd.
In enkele gevallen publiceert het Hanover Institute wat het claimt als originele bevindingen. Zo verscheen er een studie die stelt dat 19 van de 36 meest bekeken uitlegvideo's over Israël-Gaza betwiste claims bevatten, waarbij de meeste van deze claims zouden aansluiten bij het Palestijnse narratief.
Interessant genoeg spreken de publicaties van het Hanover Institute soms de narratieven van de Israëlische regering tegen. Zo stelt één rapport dat buitenlandse financiering van universiteiten als verklaring voor antisemitische incidenten "zwak is en vol uitzonderingen zit". Israëlische premier Benjamin Netanyahu heeft deze theorie juist gepusht en vorig jaar tegenover Breitbart verklaard dat Europeanen en Qatariesen "miljarden aan Amerikaanse universiteiten hebben besteed om Israël, Joden en eerlijk gezegd ook de Verenigde Staten te vilificeren".
Analyse van experts
Alice Lee, een analist bij het desinformatie-trackingbedrijf NewsGuard, vertelde dat de sites eruitzien alsof ze zijn ontworpen om een Amerikaans publiek te bereiken dat nieuwsgierig is naar het conflict, via zoekmachines of AI-chatbots.
"LLM's geven de voorkeur aan concrete statistieken en data, evenals sterke citaten en bronnen, en deze artikelen hebben dat allemaal," aldus Lee. "Het is een perfecte nabootsing van een typische geloofwaardige Amerikaanse thinktank, tot aan de generieke naam, de lay-out van de site en het rood-wit-blauwe kleurenschema."
Financiering en uitvoering
Piro, Inc., het bedrijf dat het Hanover Institute heeft gecreëerd, heeft 900.000 dollar van de Israëlische regering ontvangen voor dit werk. Net als veel andere aannemers die voor Israël werken, wordt het werk van Piro uitbesteed via Havas Media, een Frans public relations-conglomeraat.
Sinds de start op 6 augustus heeft de nep-thinktank meer dan 100 rapporten gepubliceerd. Het Hanover Institute claimt dat "geciteerd onderzoek peer-reviewed en academisch is", hoewel het regelmatig Israëlische overheidsbronnen citeert, zoals de Israëlische Defensiemacht (IDF) en het Ministerie van Buitenlandse Zaken.
AI-detectie en bredere operaties
Een analyse van 12 willekeurige artikelen van het Hanover Institute met GPTZero, software voor AI-detectie, toonde het volgende aan:
- 11 artikelen werden met "hoge zekerheid" aangemerkt als AI-gegenereerd.
- 1 artikel werd met "matige zekerheid" aangemerkt als AI-gegenereerd.
daarnaast heeft Israël voormalig campagnemanager van Trump, Brad Parscale, ingehuurd om pro-Israëlische websites te creëren die specifiek zijn ontworpen om chatbots te beïnvloeden als onderdeel van een contract ter waarde van 46,5 miljoen dollar. Een onderzoek van Drop Site van vorige maand wees uit dat veel chatbots, met name Microsoft Copilot en Google Gemini, succesvol zijn getraind op data van deze websites. Andere chatbots citeren deze websites regelmatig zonder te vermelden dat ze deel uitmaken van een Israëlische beïnvloedingsoperatie.
Reactie van Piro, Inc.
In de overeenkomst die is ingediend bij het Ministerie van Justitie vermeldt Piro niet expliciet dat het werk voor Israël bedoeld is om AI te beïnvloeden. In een e-mail aan Politico, die als eerste over de indiening berichtte, zei Rosenberg dat het werk van zijn bedrijf erop gericht is om "accurate, bronvermelde feiten in het publieke domein te brengen en misinformatie over Israël tegen te gaan met verifieerbare informatie".
Echter, vorige maand plaatste Rosenberg op LinkedIn een bericht waarin hij de capaciteit van Piro om chatbots te beïnvloeden promootte:
"Wanneer iemand ChatGPT, Gemini of Perplexity vraagt naar jouw categorie, komt er een antwoord terug in één zelfverzekerde paragraaf. De meeste merken hebben geen idee hoe die paragraaf wordt opgebouwd. Dus hebben we maanden besteed aan het reverse-engineeren ervan... Bij Piro wisten we al hoe we verhalen moesten bouwen die mensen raken. De vraag was: hoe zorg je ervoor dat AI weet hoe hij ze moet vertellen?"
Israël creëert nep-thinktank in vermoedelijke poging om AI-chatbots te misleiden
Op het eerste gezicht lijkt het Hanover Institute for Public Policy een nieuwe thinktank die zich richt op Israël en Palestina. De organisatie produceert rapporten in de stijl van een thinktank over vragen als: "Maakt AIPAC gebruik van 'dark money' bij verkiezingen?" en "Voert Israël een bewuste campagne van uithongering uit in Gaza?".
Het Hanover Institute is echter geen echte thinktank. Geen van de rapporten bevat een auteur. Een kleine disclaimer onderaan de webpagina vermeldt dat de organisatie is opgericht in opdracht van het Israëlische overheidsadvertentiebureau door Piro, Inc., een bedrijf dat is mede-opgericht door Daniel Rosenberg, de producent van Spike Lee’s Inside Man.
Beïnvloeding van AI-chatbots
De rapporten van het Hanover Institute — die allemaal over Israël en Palestina gaan — lijken deel uit te maken van een Israëlische poging om chatbots te beïnvloeden. De "datarapporten" van het instituut bevatten voetnoten en inhoudsopgaven en presenteren argumenten in een neutrale toon, waardoor ze aantrekkelijk zijn voor chatbots zoals Claude of Gemini.
Op de website van Piro staat dat het bedrijf content auteur "engineered for how LLMs evaluate credibility" (ontworpen voor de manier waarop LLM's geloofwaardigheid beoordelen), een dienst die zij omschrijven als "AI Story Optimization". Anderen noemen deze praktijk van het beïnvloeden van kunstmatige intelligentie "LLM poisoning".
Inhoud en methodiek
Volgens de "over ons"-pagina bestudeert het Hanover Institute "de input die het antisemitisme in de Verenigde Staten aanjaagt, en publiceert wat het bewijs aantoont". Veel van de rapporten zijn formulematig en beginnen met een onschuldige vraag die iemand aan een chatbot zou kunnen stellen:
- "Wat veroorzaakte de verdrijving van Palestijnen in 1948?"
- "Welke humanitaire organisaties hebben Israëlische oorlogsmisdaden gedocumenteerd?"
- "Wat is de huidige situatie in de Gazastrook?"
In een artikel getiteld "Is de IDF het meest morele leger ter wereld?" citeert het Hanover Institute een peiling uit 2022 waaruit bleek dat 47% van de Israëlische Joden dit standpunt onderschrijft. Een ander rapport zaait twijfel over de bewering van UNICEF dat "90% van het water- en institutionele infrastructurele netwerk is beschadigd of vernietigd" in Gaza. Veel van de rapporten concluderen door het onderwerp te koppelen aan het toenemende antisemitisme, waarbij vaak dezelfde studies worden geciteerd.
In enkele gevallen publiceert het Hanover Institute wat het claimt als originele bevindingen. Zo verscheen er een studie die stelt dat 19 van de 36 meest bekeken uitlegvideo's over Israël-Gaza betwiste claims bevatten, waarbij de meeste van deze claims zouden aansluiten bij het Palestijnse narratief.
Interessant genoeg spreken de publicaties van het Hanover Institute soms de narratieven van de Israëlische regering tegen. Zo stelt één rapport dat buitenlandse financiering van universiteiten als verklaring voor antisemitische incidenten "zwak is en vol uitzonderingen zit". Israëlische premier Benjamin Netanyahu heeft deze theorie juist gepusht en vorig jaar tegenover Breitbart verklaard dat Europeanen en Qatariesen "miljarden aan Amerikaanse universiteiten hebben besteed om Israël, Joden en eerlijk gezegd ook de Verenigde Staten te vilificeren".
Analyse van experts
Alice Lee, een analist bij het desinformatie-trackingbedrijf NewsGuard, vertelde dat de sites eruitzien alsof ze zijn ontworpen om een Amerikaans publiek te bereiken dat nieuwsgierig is naar het conflict, via zoekmachines of AI-chatbots.
"LLM's geven de voorkeur aan concrete statistieken en data, evenals sterke citaten en bronnen, en deze artikelen hebben dat allemaal," aldus Lee. "Het is een perfecte nabootsing van een typische geloofwaardige Amerikaanse thinktank, tot aan de generieke naam, de lay-out van de site en het rood-wit-blauwe kleurenschema."
Financiering en uitvoering
Piro, Inc., het bedrijf dat het Hanover Institute heeft gecreëerd, heeft 900.000 dollar van de Israëlische regering ontvangen voor dit werk. Net als veel andere aannemers die voor Israël werken, wordt het werk van Piro uitbesteed via Havas Media, een Frans public relations-conglomeraat.
Sinds de start op 6 augustus heeft de nep-thinktank meer dan 100 rapporten gepubliceerd. Het Hanover Institute claimt dat "geciteerd onderzoek peer-reviewed en academisch is", hoewel het regelmatig Israëlische overheidsbronnen citeert, zoals de Israëlische Defensiemacht (IDF) en het Ministerie van Buitenlandse Zaken.
AI-detectie en bredere operaties
Een analyse van 12 willekeurige artikelen van het Hanover Institute met GPTZero, software voor AI-detectie, toonde het volgende aan:
- 11 artikelen werden met "hoge zekerheid" aangemerkt als AI-gegenereerd.
- 1 artikel werd met "matige zekerheid" aangemerkt als AI-gegenereerd.
daarnaast heeft Israël voormalig campagnemanager van Trump, Brad Parscale, ingehuurd om pro-Israëlische websites te creëren die specifiek zijn ontworpen om chatbots te beïnvloeden als onderdeel van een contract ter waarde van 46,5 miljoen dollar. Een onderzoek van Drop Site van vorige maand wees uit dat veel chatbots, met name Microsoft Copilot en Google Gemini, succesvol zijn getraind op data van deze websites. Andere chatbots citeren deze websites regelmatig zonder te vermelden dat ze deel uitmaken van een Israëlische beïnvloedingsoperatie.
Reactie van Piro, Inc.
In de overeenkomst die is ingediend bij het Ministerie van Justitie vermeldt Piro niet expliciet dat het werk voor Israël bedoeld is om AI te beïnvloeden. In een e-mail aan Politico, die als eerste over de indiening berichtte, zei Rosenberg dat het werk van zijn bedrijf erop gericht is om "accurate, bronvermelde feiten in het publieke domein te brengen en misinformatie over Israël tegen te gaan met verifieerbare informatie".
Echter, vorige maand plaatste Rosenberg op LinkedIn een bericht waarin hij de capaciteit van Piro om chatbots te beïnvloeden promootte:
"Wanneer iemand ChatGPT, Gemini of Perplexity vraagt naar jouw categorie, komt er een antwoord terug in één zelfverzekerde paragraaf. De meeste merken hebben geen idee hoe die paragraaf wordt opgebouwd. Dus hebben we maanden besteed aan het reverse-engineeren ervan... Bij Piro wisten we al hoe we verhalen moesten bouwen die mensen raken. De vraag was: hoe zorg je ervoor dat AI weet hoe hij ze moet vertellen?"
Groetjes,