Google heeft HEIR (Homomorphic Encryption Intermediate Representation) ontwikkeld, een open-source compiler-toolchain die cryptografisch veilige private AI-inferentie mogelijk maakt. Het project is gebaseerd op homomorfe versleuteling, een technologie waarbij berekeningen direct op versleutelde gegevens kunnen worden uitgevoerd zonder dat deze eerst ontsleuteld hoeven te worden. Dit lost het conflict op tussen het bieden van geavanceerde AI-diensten en het waarborgen van strikte privacy, wat vooral essentieel is in de zorg en financiële sector.
HEIR stelt ontwikkelaars in staat om vooraf getrainde AI-modellen te converteren zodat ze met versleutelde inputs kunnen werken, waardoor complexe cryptografie toegankelijk wordt voor niet-experts. Om de rekenkundige kosten te verlagen, werkt Google samen met hardwareversnellingspartners en academische instellingen. Concrete toepassingen die reeds zijn gedemonstreerd zijn onder andere:
- Private aanbevelingen: Content-suggesties zonder gebruikersdata in te zien.
- Fraudedetectie: Het herkennen van creditcardfraude op versleutelde data.
- Netwerkbeveiliging: Detectie van anomalieën in versleuteld verkeer via het Kitsune-systeem.
- Privacy-vriendelijke audio: Hotword-detectie waarbij de privacy van audio-opnames beschermd blijft.
Hoe Google Private AI Praktisch Maakt met Homomorfe Versleuteling
Homomorfe versleuteling
Met de groei van AI ontstaan er nieuwe voordelen, maar het balanceren van privacy en beveiliging is hierbij essentieel. Standaardbeveiligingen, zoals end-to-end versleuteling, brengen een afweging met zich mee: gebruikersgegevens kunnen worden beschermd tegen datalekken, maar de serviceprovider kan dan geen functies leveren die afhankelijk zijn van die gegevens, zoals spam- of virusdetectie.
Kritieke sectoren zoals de gezondheidszorg en financiële sector zijn nog averser tegen deze risico's, en strikte regelgeving beperkt het delen van gegevens tussen instellingen. Alternatieve mechanismen om dezelfde functies te bieden, zoals lokale verwerking, worden beperkt door de capaciteiten van het lokale apparaat en de gevoeligheid van het intellectueel eigendom (IP) van de serviceprovider. Het installeren van propriëtaire AI op een apparaat brengt het risico met zich mee dat het model lekt.
Een oplossing voor deze problemen is homomorfe versleuteling, een snel volwassen wordende technologie die deze afweging fundamenteel verandert door berekeningen direct op versleutelde gegevens mogelijk te maken. Servers kunnen cijferteksten verwerken en versleutelde resultaten teruggeven zonder enige onderliggende informatie bloot te leggen. Zo kan een clouddienst contentaanbevelingen geven zonder de kenmerken van de gebruiker te kunnen zien.
Hoewel homomorfe versleuteling een aanzienlijke overhead aan kosten met zich meebrengt, verschuift het de balans tussen functionaliteit en privacy naar een kwestie van kosten. En de kosten van homomorfe versleuteling dalen snel.
Google's geschiedenis van innovaties in privacytechnologie — van differential privacy en private set membership tot private information retrieval en veilige enclaves op Google Cloud — heeft zich altijd gericht op het beveiligen van gebruikersgegevens. Homomorfe versleuteling is een ander krachtig instrument dat we aan onze toolkit toevoegen. Net als bij private information retrieval, en in tegenstelling tot hardwarematige oplossingen, zijn de sterke beveiligings- en privacygaranties van homomorfe versleuteling puur cryptografisch. Echter, het handmatig converteren van een bestaand programma om homomorfe versleuteling efficiënt te gebruiken, vereist normaal gesproken een team van cryptografen.
Over HEIR
Om de bruikbaarheidsuitdagingen te overwinnen en de kansen die homomorfe versleuteling biedt te benutten, hebben onderzoekers en ingenieurs bij Google het compilerproject HEIR gebouwd.
HEIR (Homomorphic Encryption Intermediate Representation) is een open-source compiler-toolchain en ontwikkelingsplatform voor homomorfe versleuteling. In het bijzonder kan HEIR vooraf getrainde AI-modellen die werken op onversleutelde gegevens, converteren zodat ze kunnen werken op versleutelde inputs. Onze visie is om van HEIR een 'one-click'-oplossing te maken, waardoor niet-experts versleutelde inferentie in productieapplicaties kunnen integreren.
Sinds de aankondiging van onze intenties in 2023 heeft de gemeenschap rond homomorfe versleuteling HEIR omarmd. We zijn partnerschappen aangegaan met bedrijven die hardwareversnellers voor homomorfe versleuteling ontwikkelen, waaronder Belfort, Niobium, Cornami en Optalysys. De resultaten van deze inspanningen worden getoond in onze demo's, en we zijn van plan de latentievoordelen van deze versnellers in de nabije toekomst te demonstreren.
HEIR is daarnaast een productief onderzoeksplatform geworden. Door voort te bouwen op HEIR kunnen cryptografen zich concentreren op hun specifieke optimalisaties en de bestaande infrastructuur gebruiken voor testen, benchmarken en vergelijkingen. Dit heeft geleid tot samenwerkingen met onder andere Georgia Tech, Carnegie Mellon, UC Santa Barbara, Illinois Institute of Technology, Purdue, de University of Edinburgh en Tsinghua University. Tot nu toe zijn er vier peer-reviewed publicaties gebaseerd op HEIR geschreven, met meer in voorbereiding, en HEIR heeft talloze citaties verzameld.
Toepassingen van HEIR
Om te demonstreren hoe ver homomorfe versleuteling is gevorderd, delen we vier private inferentie-applicaties. Elke applicatie is gecompileerd met HEIR; de latentiecijfers zijn gebaseerd op een single-threaded CPU. De broncode voor alle voorbeelden is beschikbaar in ons GitHub-repository.
- Aanbevelingsmodel voor Deep Learning: Maakt het mogelijk om private contentaanbevelingen te doen (gezamenlijk werk met Belfort Labs, LG en New York University).
- Detectie van creditcardfraude: In samenwerking met Niobium en hardshell.ai hebben we een detector voor creditcardfraude gecompileerd.
- Dreigingsdetectie (Threat Intrusion): Samen met Niobium hebben we het Kitsune-systeem gecompileerd voor anomaliedetectie van versleuteld netwerkverkeer. Hiermee kan een serviceprovider anomalieën detecteren zonder de inhoud van netwerkpakketten in te zien.
- Hotword Detector: Samen met Belfort Labs hebben we een model voor hotword-detectie gecompileerd. Dit zou een audio-gestuurde AI-agent in staat stellen om trefwoorden te herkennen terwijl de privacy van de audio-opnamen wordt beschermd.
Terwijl de software-industrie zich aanpast aan veranderingen in beveiliging en privacy in het tijdperk van AI, werkt ons onderzoeksteam eraan om homomorfe versleuteling eenvoudig te ontwikkelen, snel uit te voeren en alomtegenwoordig te maken binnen de industrie.
Hoe Google Private AI Praktisch Maakt met Homomorfe Versleuteling
Homomorfe versleuteling
Met de groei van AI ontstaan er nieuwe voordelen, maar het balanceren van privacy en beveiliging is hierbij essentieel. Standaardbeveiligingen, zoals end-to-end versleuteling, brengen een afweging met zich mee: gebruikersgegevens kunnen worden beschermd tegen datalekken, maar de serviceprovider kan dan geen functies leveren die afhankelijk zijn van die gegevens, zoals spam- of virusdetectie.
Kritieke sectoren zoals de gezondheidszorg en financiële sector zijn nog averser tegen deze risico's, en strikte regelgeving beperkt het delen van gegevens tussen instellingen. Alternatieve mechanismen om dezelfde functies te bieden, zoals lokale verwerking, worden beperkt door de capaciteiten van het lokale apparaat en de gevoeligheid van het intellectueel eigendom (IP) van de serviceprovider. Het installeren van propriëtaire AI op een apparaat brengt het risico met zich mee dat het model lekt.
Een oplossing voor deze problemen is homomorfe versleuteling, een snel volwassen wordende technologie die deze afweging fundamenteel verandert door berekeningen direct op versleutelde gegevens mogelijk te maken. Servers kunnen cijferteksten verwerken en versleutelde resultaten teruggeven zonder enige onderliggende informatie bloot te leggen. Zo kan een clouddienst contentaanbevelingen geven zonder de kenmerken van de gebruiker te kunnen zien.
Hoewel homomorfe versleuteling een aanzienlijke overhead aan kosten met zich meebrengt, verschuift het de balans tussen functionaliteit en privacy naar een kwestie van kosten. En de kosten van homomorfe versleuteling dalen snel.
Google's geschiedenis van innovaties in privacytechnologie — van differential privacy en private set membership tot private information retrieval en veilige enclaves op Google Cloud — heeft zich altijd gericht op het beveiligen van gebruikersgegevens. Homomorfe versleuteling is een ander krachtig instrument dat we aan onze toolkit toevoegen. Net als bij private information retrieval, en in tegenstelling tot hardwarematige oplossingen, zijn de sterke beveiligings- en privacygaranties van homomorfe versleuteling puur cryptografisch. Echter, het handmatig converteren van een bestaand programma om homomorfe versleuteling efficiënt te gebruiken, vereist normaal gesproken een team van cryptografen.
Over HEIR
Om de bruikbaarheidsuitdagingen te overwinnen en de kansen die homomorfe versleuteling biedt te benutten, hebben onderzoekers en ingenieurs bij Google het compilerproject HEIR gebouwd.
HEIR (Homomorphic Encryption Intermediate Representation) is een open-source compiler-toolchain en ontwikkelingsplatform voor homomorfe versleuteling. In het bijzonder kan HEIR vooraf getrainde AI-modellen die werken op onversleutelde gegevens, converteren zodat ze kunnen werken op versleutelde inputs. Onze visie is om van HEIR een 'one-click'-oplossing te maken, waardoor niet-experts versleutelde inferentie in productieapplicaties kunnen integreren.
Sinds de aankondiging van onze intenties in 2023 heeft de gemeenschap rond homomorfe versleuteling HEIR omarmd. We zijn partnerschappen aangegaan met bedrijven die hardwareversnellers voor homomorfe versleuteling ontwikkelen, waaronder Belfort, Niobium, Cornami en Optalysys. De resultaten van deze inspanningen worden getoond in onze demo's, en we zijn van plan de latentievoordelen van deze versnellers in de nabije toekomst te demonstreren.
HEIR is daarnaast een productief onderzoeksplatform geworden. Door voort te bouwen op HEIR kunnen cryptografen zich concentreren op hun specifieke optimalisaties en de bestaande infrastructuur gebruiken voor testen, benchmarken en vergelijkingen. Dit heeft geleid tot samenwerkingen met onder andere Georgia Tech, Carnegie Mellon, UC Santa Barbara, Illinois Institute of Technology, Purdue, de University of Edinburgh en Tsinghua University. Tot nu toe zijn er vier peer-reviewed publicaties gebaseerd op HEIR geschreven, met meer in voorbereiding, en HEIR heeft talloze citaties verzameld.
Toepassingen van HEIR
Om te demonstreren hoe ver homomorfe versleuteling is gevorderd, delen we vier private inferentie-applicaties. Elke applicatie is gecompileerd met HEIR; de latentiecijfers zijn gebaseerd op een single-threaded CPU. De broncode voor alle voorbeelden is beschikbaar in ons GitHub-repository.
- Aanbevelingsmodel voor Deep Learning: Maakt het mogelijk om private contentaanbevelingen te doen (gezamenlijk werk met Belfort Labs, LG en New York University).
- Detectie van creditcardfraude: In samenwerking met Niobium en hardshell.ai hebben we een detector voor creditcardfraude gecompileerd.
- Dreigingsdetectie (Threat Intrusion): Samen met Niobium hebben we het Kitsune-systeem gecompileerd voor anomaliedetectie van versleuteld netwerkverkeer. Hiermee kan een serviceprovider anomalieën detecteren zonder de inhoud van netwerkpakketten in te zien.
- Hotword Detector: Samen met Belfort Labs hebben we een model voor hotword-detectie gecompileerd. Dit zou een audio-gestuurde AI-agent in staat stellen om trefwoorden te herkennen terwijl de privacy van de audio-opnamen wordt beschermd.
Terwijl de software-industrie zich aanpast aan veranderingen in beveiliging en privacy in het tijdperk van AI, werkt ons onderzoeksteam eraan om homomorfe versleuteling eenvoudig te ontwikkelen, snel uit te voeren en alomtegenwoordig te maken binnen de industrie.
Groetjes,