AI v zařízení vs. cloudová AI: co se pro vás doopravdy mění
Rozdíl mezi AI v zařízení a cloudovou AI je jediný fakt: kde běží model. Všechno ostatní (soukromí, cena, rychlost i to, co model umí) z toho vyplývá. Tohle je srovnání z pohledu uživatele, se skutečnými čísly tam, kde je máme.
Dva přístupy
U cloudové AI putuje vaše zpráva do datového centra, tam odpoví velmi velký model a odpověď putuje zpět. U AI v zařízení zůstává vaše zpráva v telefonu a odpovídá menší model přímo v něm. Orvena patří k druhému druhu: spouští Qwen 3.5 4B, jednorázové stažení o velikosti 3,1 GB, na GPU telefonu iPhone a v iOS 27 může odpovídat také pomocí Apple Intelligence, modelu Apple v zařízení, bez stahování.
AI v zařízení vs. cloudová AI vedle sebe
| V zařízení (Orvena) | Cloud (ChatGPT a podobné) | |
|---|---|---|
| Kam jdou vaše slova | Nikam. Model je v telefonu. | Na servery poskytovatele. |
| Účet | Žádný. | Obvykle ano, kvůli historii, platbám a limitům; ChatGPT má omezený režim bez přihlášení. |
| Funguje offline | Ano, včetně nástrojů telefonu. | Ne. |
| Latence | Žádná cesta sítí tam a zpět. Odpověď se zobrazuje průběžně, jak vzniká. | Síť plus fronta; liší se podle zátěže. |
| Velikost modelu | Asi 4 miliardy parametrů u vlastního modelu Orveny. | Stovky miliard. |
| Paměť konverzace | 16 384 tokenů, asi 12 000 slov, s vlastním modelem Orveny. V iOS 27 hlásí Apple Intelligence 8 192, i když dokumentace Apple stále uvádí 4 096. | Mnohem větší. |
| Cena | Asistent je zdarma, včetně Apple Intelligence v iOS 27. Jeden nákup za 14,99 USD přidá hlas, připojení, naplánované úlohy, Private Cloud Compute v iOS 27 a cloudové modely s vaším klíčem. | 0 až 200 USD měsíčně za tarify ChatGPT; 20 USD za Plus. |
| Potřebný telefon | iPhone 15 Pro nebo novější, 8 GB paměti. | Jakýkoli telefon. |
| Když se změní pravidla | Na vašich minulých konverzacích se nic nezmění. | Cokoli nová pravidla řeknou o uložených konverzacích. |
V čem je AI v zařízení dobrá
V požadavcích, které lidé na telefon opravdu mají. "Přesuň mou schůzku ve 3 odpoledne na čtvrtek dopoledne." "Nastav budík tak, ať jsem zítra ve 2 odpoledne na letišti, včetně doby cesty." "Dnes v 9 večer porovnej zítřejší počasí s mou první schůzkou." "Co vidíš na této fotce?" Model velikosti pro telefon (vlastní model Orveny nebo Apple Intelligence) zvládne jazyk; kalendář a budík obstarají vlastní nástroje telefonu a dobu cesty dodají Mapy Apple; záznam v kalendáři i fotka se zpracují v zařízení a nikam se k přečtení neposílají.
Kde je lepší cloud
Měřítko. Model v datovém centru ví víc, uvažuje déle, píše lépe a do kontextu pojme dokument o délce knihy. U dlouhého výzkumu, specializovaného oboru nebo psaní, které musí být vynikající, a ne jen dobré, rozdíl poznáte a žádné inženýrské úsilí na straně telefonu ho dnes nesmaže. Cloudové služby navíc přidávají funkce, které potřebují infrastrukturu, třeba agenty, kteří procházejí web celé minuty.
Hybridní přístup, s rozmyslem
Nemusíte se rozhodnout jednou provždy. Stránka Modely v aplikaci Orvena uvádí všechny modely, které může použít: v části Vestavěný Apple Intelligence v iOS 27; v části Modely v zařízení vlastní stažený model Orveny; a v části Cloud Private Cloud Compute od společnosti Apple v iOS 27, bez nastavování klíče a s denním limitem stanoveným společností Apple, nebo jakýkoli model z OpenRouteru s vaším vlastním klíčem. Výchozí nastavení modelu, Automaticky (v Nastavení v části Pokročilé), používá váš stažený model, nebo Apple Intelligence, dokud žádný není připravený, a do cloudu nikdy samo nepřepne. U OpenRouteru se Orvena před prvním cloudovým požadavkem v konverzaci zeptá, zda má tuto konverzaci a její výsledky nástrojů poslat poskytovateli. Private Cloud Compute se zeptá jednou, když ho zvolíte. U obou se Orvena u zdravotních nebo finančních dat pokaždé zeptá znovu. Hlasová obrazovka ukazuje, ve kterém režimu jste: "na tomto iPhonu" zeleně, "cloud" jantarově.
Jak se rozhodnout
Zapište si posledních deset věcí, na které jste se asistenta ptali. Pokud se většina týkala vašeho vlastního života (rozvrhu, fotek, zprávy, kterou jste psali, místa v okolí), je AI v zařízení správná výchozí volba: data jsou osobní a úlohy jsou pro model velikosti telefonu dobře zvládnutelné. Pokud šlo většinou o výzkum nebo dlouhé psaní, chcete přístup ke cloudu aspoň občas, ideálně jako volbu, kterou uděláte u každého požadavku zvlášť, a ne jako jediný dostupný režim.
Časté otázky
Je AI v zařízení pomalejší než cloudová AI?
Na jeden token je telefon pomalejší než GPU v datovém centru, ale nečeká se na síť a odpověď se zobrazuje průběžně, jak vzniká, takže krátké odpovědi působí okamžitě. V telefonu déle trvá přečtení dlouhé konverzace, než odpověď začne.
Je Private Cloud Compute stejně soukromý jako AI v zařízení?
Ne stejným způsobem. Běží na serverech Apple, takže požadavek opouští telefon a potřebuje připojení. Apple uvádí, že "data zpracovávaná v Private Cloud Compute se neukládají ani nejsou zpřístupněna společnosti Apple" a že "nezávislí výzkumníci v oblasti soukromí a bezpečnosti mohou tento příslib ochrany soukromí kdykoli ověřit." V zařízení v konverzaci žádný server není, takže není o čem takový příslib dávat.
Vybíjí spouštění AI v telefonu baterii?
Krátká otázka stojí velmi málo. Dlouhá hlasová konverzace telefon zahřeje jako hra a baterii spotřebuje podobně. Na pozadí neběží nic kromě odpovědi, kterou jste už začali.
Umí AI v zařízení i tak vyhledávat na webu?
Ano. Když se ptáte na aktuální informace, dotaz jde k poskytovateli vyhledávání, stejně jako z prohlížeče, a čtení i shrnutí probíhá v telefonu.
Orvena spouští svůj model přímo v telefonu iPhone, a když to požadavek vyžaduje, můžete zvolit Private Cloud Compute od společnosti Apple nebo cloudový model s vlastním klíčem.
Stáhnout v App Store