On-device AI vs cloud-AI: wat er voor jou echt verandert

Het verschil tussen on-device AI (lokale AI) en cloud-AI is één feit: waar het model draait. Al het andere, privacy, prijs, snelheid, wat het model kan, volgt daaruit. Dit is de vergelijking vanaf jouw kant van het scherm, met de echte cijfers waar we die hebben.

De twee ontwerpen

Bij cloud-AI gaat je bericht naar een datacenter, antwoordt daar een heel groot model, en komt het antwoord terug. Bij on-device AI blijft je bericht op de telefoon en antwoordt daar een kleiner model. Orvena is van de tweede soort: hij draait Qwen 3.5 4B, een eenmalige download van 3,1 GB, op de GPU van de iPhone, en op iOS 27 kan hij ook antwoorden met Apple Intelligence, het model van Apple op het toestel, zonder iets te downloaden.

On-device AI vs cloud-AI, naast elkaar

Waar on-device goed in is

De verzoeken die mensen echt aan een telefoon doen. "Verzet mijn afspraak van 3 uur naar donderdagochtend." "Zet een wekker zodat ik morgen om 2 uur 's middags op het vliegveld ben, inclusief reistijd." "Vergelijk vanavond om 9 uur het weer van morgen met mijn eerste afspraak." "Wat zie je op deze foto?" Een model op telefoonformaat, dat van Orvena of Apple Intelligence, verwerkt de taal; de eigen tools van de telefoon regelen de agenda en de wekker, en Apple Kaarten levert de reistijd; de agenda-afspraak en de foto worden op het toestel begrepen en nergens heen gestuurd om gelezen te worden.

Waar de cloud beter is

Schaal. Een model in een datacenter weet meer, redeneert langer, schrijft beter en kan een document zo lang als een boek in zijn context houden. Voor lang onderzoek, een specialistisch vakgebied of tekst die uitstekend moet zijn in plaats van goed, merk je het verschil, en hoeveel technisch vernuft er ook in de telefoon gaat, dat gat is vandaag niet te dichten. Clouddiensten bieden ook functies die infrastructuur nodig hebben, zoals agents die minutenlang zelfstandig op het web zoeken.

Hybride, maar zorgvuldig

Je hoeft niet één keer voor altijd te kiezen. De pagina Modellen van Orvena toont elke engine die hij kan gebruiken: onder Ingebouwd Apple Intelligence op iOS 27; onder Modellen op het apparaat het eigen gedownloade model van Orvena; en onder Cloud Private Cloud Compute van Apple op iOS 27, zonder sleutel om in te stellen en met een daglimiet die Apple bepaalt, of elk OpenRouter-model met je eigen sleutel. De standaardinstelling voor de engine, Automatisch (in Instellingen, Geavanceerd), gebruikt je gedownloade model, of Apple Intelligence zolang er nog geen klaar is, en schakelt nooit uit zichzelf over naar de cloud. Met OpenRouter vraagt Orvena vóór het eerste cloudverzoek in een gesprek of dat gesprek en de toolresultaten naar de aanbieder mogen. Voor Private Cloud Compute vraagt Orvena één keer toestemming, als je het kiest. In beide gevallen wordt bij gezondheids- of financiële gegevens elke keer opnieuw gevraagd. Het spraakscherm laat zien in welke modus je zit: "op deze iPhone" in groen, "cloud" in oranje.

Hoe je kiest

Schrijf de laatste tien dingen op die je een assistent hebt gevraagd. Gingen de meeste over je eigen leven, je planning, je foto's, een bericht dat je aan het schrijven was, een plek in de buurt, dan is on-device de juiste standaard: de gegevens zijn persoonlijk en de taken liggen ruim binnen het bereik van een model op telefoonformaat. Waren het vooral onderzoek of lange teksten, dan wil je een deel van de tijd toegang tot de cloud, het liefst als een keuze die je per verzoek maakt en niet als de enige modus die er is.

Veelgestelde vragen

Is on-device AI trager dan cloud-AI?

Per token is een telefoon trager dan een GPU in een datacenter, maar je wacht niet op het netwerk en het antwoord verschijnt terwijl het wordt geschreven, dus korte antwoorden voelen direct. Wat op een telefoon langer duurt, is het lezen van een lang gesprek voordat het antwoord begint.

Is Private Cloud Compute net zo privé als on-device AI?

Niet op dezelfde manier. Het draait op de servers van Apple, dus het verzoek verlaat de telefoon en heeft een verbinding nodig. Apple zegt "De gegevens die in Private Cloud Compute worden verwerkt, worden niet opgeslagen en zijn niet toegankelijk voor Apple" en dat "onafhankelijke privacy- en beveiligingsonderzoekers deze privacybelofte op elk moment kunnen verifiëren." Op het toestel zit er geen server in het gesprek waarover die belofte gedaan hoeft te worden.

Kost AI op de telefoon veel batterij?

Een korte vraag kost heel weinig. Een lang spraakgesprek maakt de telefoon warm zoals een game dat doet en verbruikt navenant batterij. Er draait niets op de achtergrond, behalve een antwoord dat je al hebt gestart.

Kan on-device AI nog steeds op het web zoeken?

Ja. Vraag je om actuele informatie, dan gaat de zoekopdracht naar de zoekprovider, net als vanuit een browser, en het lezen en samenvatten gebeurt op de telefoon.