On-Device-KI vs. Cloud-KI: was sich für dich wirklich ändert
Der Unterschied zwischen On-Device-KI und Cloud-KI lässt sich auf eine einzige Tatsache zurückführen: wo das Modell läuft. Alles andere, Datenschutz, Preis, Tempo, was das Modell kann, folgt daraus. Hier folgt der Vergleich aus Sicht derer, die vor dem Bildschirm sitzen, mit echten Zahlen, wo wir sie haben.
Die zwei Bauweisen
Bei Cloud-KI reist deine Nachricht in ein Rechenzentrum, ein sehr großes Modell antwortet dort, und die Antwort reist zurück. Bei On-Device-KI bleibt deine Nachricht auf dem Telefon, und ein kleineres Modell antwortet dort. Orvena gehört zur zweiten Art: Es führt Qwen 3.5 4B, ein einmaliger Download von 3,1 GB, auf der GPU des iPhone aus, und unter iOS 27 kann es auch mit Apple Intelligence antworten, Apples Modell auf dem Gerät, ganz ohne Download.
On-Device-KI vs. Cloud-KI im direkten Vergleich
| Auf dem Gerät (Orvena) | Cloud (ChatGPT und ähnliche) | |
|---|---|---|
| Wohin deine Worte gehen | Nirgendwohin. Das Modell ist auf dem Telefon. | An die Server des Anbieters. |
| Account | Keiner. | Meistens, für Verlauf, Abrechnung und Limits; ChatGPT hat einen eingeschränkten Modus ohne Anmeldung. |
| Funktioniert offline | Ja, einschließlich der Werkzeuge auf dem Telefon. | Nein. |
| Latenz | Kein Umweg über das Netz. Die Antwort erscheint, während sie geschrieben wird. | Netz plus Warteschlange; schwankt mit der Auslastung. |
| Modellgröße | Etwa 4 Milliarden Parameter bei Orvenas eigenem Modell. | Hunderte Milliarden. |
| Gesprächsgedächtnis | 16.384 Tokens, etwa 12.000 Wörter, mit Orvenas eigenem Modell. Unter iOS 27 meldet Apple Intelligence 8.192, obwohl Apples Dokumentation noch 4.096 nennt. | Viel größer. |
| Preis | Der Assistent ist kostenlos, einschließlich Apple Intelligence unter iOS 27. Ein einziger Kauf für 14,99 $ für Stimme, Verbindungen, geplante Aufgaben, Private Cloud Compute unter iOS 27 und Cloud-Modelle mit deinem Schlüssel. | 0 bis 200 $ im Monat für die Tarife von ChatGPT; 20 $ für Plus. |
| Benötigtes Telefon | iPhone 15 Pro oder neuer, 8 GB Arbeitsspeicher. | Jedes Telefon. |
| Wenn sich die Richtlinie ändert | An deinen früheren Unterhaltungen ändert sich nichts. | Was immer die neue Richtlinie über gespeicherte Unterhaltungen sagt. |
Was On-Device-KI gut kann
Die Anfragen, die Menschen tatsächlich an ein Telefon stellen. "Verschieb meinen Termin um 3 Uhr nachmittags auf Donnerstagvormittag." "Stell einen Wecker, damit ich morgen um 2 Uhr nachmittags am Flughafen bin, Fahrzeit eingerechnet." "Prüf heute Abend um 9 das Wetter für morgen gegen mein erstes Meeting." "Was siehst du auf diesem Foto?" Ein Modell in Telefongröße, Orvenas eigenes oder Apple Intelligence, übernimmt die Sprache; die eigenen Werkzeuge des Telefons erledigen Kalender und Wecker, und Apple Karten liefert die Fahrzeit; Kalendereintrag und Foto werden auf dem Gerät verstanden und nicht zum Lesen irgendwohin gesendet.
Wo die Cloud besser ist
Bei der Größe. Ein Modell im Rechenzentrum weiß mehr, denkt länger nach, schreibt besser und kann ein Dokument von Buchlänge im Kontext halten. Bei langer Recherche, einem Spezialgebiet oder Texten, die hervorragend statt nur gut sein müssen, spürst du den Unterschied, und keine noch so gute Technik auf dem Telefon schließt diese Lücke heute. Cloud-Dienste bieten außerdem Funktionen, die Infrastruktur brauchen, etwa Agenten, die minutenlang im Web surfen.
Ein Hybrid, mit Sorgfalt gebaut
Du musst dich nicht ein für alle Mal entscheiden. Orvenas Seite "Modelle" listet jede Engine auf, die es nutzen kann: unter "Integriert" Apple Intelligence unter iOS 27; unter "Modelle auf dem Gerät" Orvenas eigenes geladenes Modell; und unter "Cloud" Apples Private Cloud Compute unter iOS 27, ohne einzurichtenden Schlüssel und mit einem von Apple festgelegten Tageslimit, oder jedes OpenRouter-Modell mit deinem eigenen Schlüssel. Die Standardeinstellung für die Engine, "Automatisch" (in den Einstellungen unter "Erweitert"), nutzt dein geladenes Modell oder Apple Intelligence, solange noch keines bereit ist, und wechselt nie von selbst in die Cloud. Bei OpenRouter fragt Orvena vor der ersten Cloud-Anfrage einer Unterhaltung, ob diese Unterhaltung und ihre Werkzeugergebnisse an den Anbieter gesendet werden sollen. Private Cloud Compute fragt einmal, wenn du es wählst. Bei beiden wird bei Gesundheits- oder Finanzdaten jedes Mal erneut gefragt. Der Sprachbildschirm zeigt, in welchem Modus du bist: "auf diesem iPhone" in Grün, "Cloud" in Gelb.
Wie du dich entscheidest
Schreib die letzten zehn Dinge auf, die du einen Assistenten gefragt hast. Ging es meist um dein eigenes Leben, deinen Terminplan, deine Fotos, eine Nachricht, die du gerade geschrieben hast, einen Ort in der Nähe, dann ist On-Device der richtige Standard: Die Daten sind persönlich, und die Aufgaben liegen gut in der Reichweite eines Modells in Telefongröße. Ging es meist um Recherche oder lange Texte, willst du manchmal Zugang zur Cloud, am besten als Entscheidung, die du pro Anfrage triffst, statt als einzigen Modus, den es gibt.
Häufige Fragen
Ist On-Device-KI langsamer als Cloud-KI?
Pro Token ist ein Telefon langsamer als eine GPU im Rechenzentrum, aber es gibt keine Wartezeit im Netz, und die Antwort erscheint, während sie geschrieben wird, sodass sich kurze Antworten sofort anfühlen. Länger dauert auf einem Telefon das Lesen einer langen Unterhaltung, bevor die Antwort beginnt.
Ist Private Cloud Compute so privat wie On-Device-KI?
Nicht auf dieselbe Weise. Es läuft auf Apples Servern, also verlässt die Anfrage das Telefon und braucht eine Verbindung. Apple sagt: "Die in Private Cloud Compute verarbeiteten Daten werden nicht gespeichert und sind für Apple nicht zugänglich", und "unabhängige Datenschutz- und Sicherheitsforscher können dieses Datenschutzversprechen jederzeit überprüfen." Auf dem Gerät gibt es in der Unterhaltung keinen Server, über den man so ein Versprechen geben müsste.
Leert KI auf dem Telefon den Akku?
Eine kurze Frage kostet sehr wenig. Eine lange Sprachunterhaltung erwärmt das Telefon wie ein Spiel und verbraucht entsprechend Akku. Im Hintergrund läuft nichts außer einer Antwort, die du schon gestartet hast.
Kann On-Device-KI trotzdem im Web suchen?
Ja. Wenn du nach aktuellen Informationen fragst, geht die Anfrage an den Suchanbieter, wie aus einem Browser, und das Lesen und Zusammenfassen passiert auf dem Telefon.
Orvena führt sein Modell auf dem iPhone aus und lässt dich Apples Private Cloud Compute oder ein Cloud-Modell mit deinem eigenen Schlüssel wählen, wenn eine Anfrage es verlangt.
Im App Store laden