Introductie van Portable Computer voor local-first AI

Portable Computer draait Perplexity Computer volledig op het apparaat met NVIDIA, waardoor privégegevens lokaal blijven en er alleen naar de cloud wordt geëscaleerd wanneer een taak dit vereist.

Een deel van het meest waardevolle werk dat mensen met AI-agenten uitvoeren, omvat gegevens die zij liever op hun eigen machines houden. Of het nu gaat om private codebases of vertrouwelijke materialen, lokale modellen worden nu krachtig genoeg om hiermee te werken op de plek waar de data zich bevindt.

Vandaag lanceren we Portable Computer, een versie van Perplexity Computer die volledig op een lokale machine draait. We hebben dit gebouwd samen met NVIDIA, zodat gebruikers de volledige stack kunnen bezitten op de NVIDIA DGX Spark™, de desktop-formaat AI-computer van NVIDIA. Binnenkort zal het ook beschikbaar zijn op NVIDIA RTX GPU PC's.

Portable Computer stelt gebruikers in staat om Perplexity Computer volledig op het apparaat uit te voeren voor het analyseren van gegevens, het synthetiseren van bestanden en het uitvoeren van complexe workflows. Privégegevens blijven lokaal en werk op het apparaat verbruikt geen credits. Wanneer de gebruiker hiervoor toestemming geeft, kan het lokale model escaleren naar de cloud voor geavanceerder onderzoek en redenering, terwijl gevoelige informatie op het apparaat blijft.

Local-first AI-stack

Portable Computer komt uit op een moment dat gebruikers meer uit hun rekenkracht willen halen door prestaties in balans te brengen met efficiëntie. Omdat er voor het eerst kracht van 'frontier'-niveau beschikbaar is op hun eigen computers, hoeven mensen niet langer te rantsoeneren waarvoor zij intelligentie inzetten.

Portable Computer draait op de NVIDIA DGX Spark met Qwen 3.8 27B of met PPLX 27B, een post-trained versie van het Qwen-model. NVIDIA Nemotron 3.5 Lightning, een open model van 30B, komt binnenkort beschikbaar in de modelkiezer. De volgende componenten draaien volledig op het apparaat:

  • De orchestrator
  • De planner
  • De tool router
  • De scheduler
  • De durable task queue
  • De lokale zoekindex

Het Qwen-model is post-trained om zoveel mogelijk van elke taak lokaal af te ronden en pas naar de cloud te escaleren wanneer de taak daarom vraagt. Het leest lokale bestanden, zoekt in documenten en code, voert acties uit op het apparaat en houdt taken draaiende.

Het bezitten van de rekenkracht maakt AI-taken met een hoog volume praktisch uitvoerbaar, aangezien werk dat door de lokale modellen wordt afgehandeld, geen kosten per credit met zich meebrengt.

Escalatie naar de cloud

Portable Computer handelt de meeste taken die een gebruiker nodig heeft volledig lokaal af. Sommige taken profiteren echter van toegang tot het web of van geavanceerde 'frontier reasoning' in de cloud. Een gebruiker kan bijvoorbeeld willen dat de vertrouwelijke details van een term sheet lokaal blijven, maar escaleren naar de cloud om actuele marktvergelijkingen of recente precedentdeals op te halen.

De lokale orchestrator van Portable Computer kan een taak escaleren naar de cloud voor:

  • Actuele informatie
  • Gebruik van de browser
  • Gekoppelde apps
  • Een van de 15+ frontier-modellen voor geavanceerde redenering

Via app-connectoren werkt Portable Computer samen met Google Drive, Gmail, Slack en GitHub. Een gebruiker kan bijvoorbeeld nieuwe GitHub-issues op het apparaat vergelijken met bugrapporten in Gmail die gedurende de nacht zijn binnengekomen, om vervolgens voor de ochtend een Slack-bericht te sturen over de drie belangrijkste issues met suggesties voor de eigenaars.

Wanneer een taak vereist dat er inhoud van het apparaat naar een clouddienst wordt verzonden, vraagt Portable Computer de gebruiker om toestemming voordat dit proces wordt voortgezet.

Zoeken en dicteren

Een lokaal model weet alleen wat er op de machine staat. Wanneer een taak de buitenwereld nodig heeft, kan Portable Computer ook Perplexity-search of uitgebreid ('wide' of 'deep') onderzoek uitvoeren. Gebruikers krijgen geciteerde bevindingen van het web zonder de lokale uitvoering van alle andere taken op te geven.

De dicteermodus draait eveneens lokaal met het NVIDIA Nemotron 3.5 ASR-model. Gebruikers kunnen de agent instrueren terwijl ze een document lezen of schetsen op papier. De transcriptie en de acties op bestanden blijven op de machine. Een gebruiker kan zo een cliëntsituatie bespreken of dicteren over een private codebase zonder dat de audio de cloud bereikt.

De beveiliging is gelijk aan die van de cloudversie van Perplexity Computer. De uitvoering van code en tools vindt plaats in geïsoleerde sandbox-omgevingen met gecontroleerde toegang tot bestanden en gekoppelde apps.

De toekomst van lokale AI

Naarmate modellen sterker worden en chips sneller, zullen meer mensen complexe workflows op hun eigen machines draaien. Elke chipcyclus en elke modelrelease stimuleert deze ontwikkeling. Het draaien van AI op persoonlijke machines zal een veel groter onderdeel worden van hoe werk wordt verricht.

Portable Computer is beschikbaar voor Pro- en Max-abonnees op de NVIDIA DGX Spark. De eerste release is beschikbaar voor Linux; ondersteuning voor Windows volgt binnenkort.

De NVIDIA DGX Spark is gebouwd rond het Grace Blackwell GB10-platform: een 20-core Arm CPU en NVIDIA GPU met 128 GB unified memory. Portable Computer kan worden geïnstalleerd met een one-click setup via de Perplexity-app.

Meer informatie over de lancering is te vinden op de NVIDIA Local AI-blog. Onze research-blog, A Local-First Agent for Private and Cost-Effective Knowledge Work, beschrijft de ontwikkeling achter Portable Computer en de superieure prestaties in benchmarks voor nauwkeurigheid, snelheid en credit-efficiëntie.