AI v zariadení vs. cloudová AI: čo sa pre vás naozaj mení
Rozdiel medzi AI v zariadení a cloudovou AI spočíva v jedinej veci: kde beží model. Všetko ostatné (súkromie, cena, rýchlosť, to, čo model dokáže) z neho vyplýva. Toto je porovnanie z pohľadu používateľa, so skutočnými číslami všade, kde ich máme.
Dva prístupy
Pri cloudovej AI putuje vaša správa do dátového centra, odpovie na ňu veľmi veľký model a odpoveď putuje späť. Pri AI v zariadení zostáva vaša správa v telefóne a odpovie na ňu menší model priamo tam. Orvena patrí do druhej skupiny: spúšťa Qwen 3.5 4B, jednorazové stiahnutie s veľkosťou 3,1 GB, na GPU v iPhone a v iOS 27 dokáže odpovedať aj cez Apple Intelligence, model Apple v zariadení, bez akéhokoľvek sťahovania.
AI v zariadení vs. cloudová AI, vedľa seba
| V zariadení (Orvena) | Cloud (ChatGPT a podobné) | |
|---|---|---|
| Kam idú vaše slová | Nikam. Model je v telefóne. | Na servery poskytovateľa. |
| Účet | Žiadny. | Zvyčajne áno, kvôli histórii, platbám a limitom; ChatGPT má obmedzený režim bez prihlásenia. |
| Funguje offline | Áno, vrátane nástrojov telefónu. | Nie. |
| Latencia | Žiadna cesta po sieti tam a späť. Odpoveď sa zobrazuje priebežne, ako vzniká. | Sieť plus čakanie vo fronte; líši sa podľa vyťaženia. |
| Veľkosť modelu | Asi 4 miliardy parametrov pri vlastnom modeli Orveny. | Stovky miliárd. |
| Pamäť konverzácie | 16 384 tokenov, asi 12 000 slov, s vlastným modelom Orveny. V iOS 27 hlási Apple Intelligence 8 192, hoci dokumentácia Apple stále uvádza 4 096. | Oveľa väčšia. |
| Cena | Asistent je zadarmo vrátane Apple Intelligence v iOS 27. Jeden nákup za 14,99 USD za hlas, pripojenia, naplánované úlohy, Private Cloud Compute v iOS 27 a cloudové modely s vaším kľúčom. | 0 až 200 USD mesačne za úrovne ChatGPT; 20 USD za Plus. |
| Potrebný telefón | iPhone 15 Pro alebo novší, 8 GB pamäte. | Akýkoľvek telefón. |
| Keď sa zmenia zásady | Na vašich minulých konverzáciách sa nič nezmení. | To, čo nové zásady povedia o uložených konverzáciách. |
V čom je AI v zariadení dobrá
V požiadavkách, ktoré ľudia na telefón naozaj majú. "Presuň mi stretnutie o 3 poobede na štvrtok ráno." "Nastav budík, nech som zajtra o 2 poobede na letisku, aj s časom cesty." "Dnes o 9 večer porovnaj zajtrajšie počasie s mojím prvým stretnutím." "Čo vidíš na tejto fotke?" Jazyk zvládne model veľkosti telefónu, vlastný model Orveny alebo Apple Intelligence; kalendár a budík obstarajú nástroje samotného telefónu a čas cesty dodajú Mapy od Apple; záznam v kalendári aj fotka sa spracujú priamo v zariadení a nikam sa na prečítanie neposielajú.
Kde je lepší cloud
Vo veľkosti. Model v dátovom centre vie viac, uvažuje dlhšie, píše lepšie a udrží v kontexte dokument s dĺžkou knihy. Pri dlhom výskume, špecializovanom odbore alebo texte, ktorý musí byť vynikajúci, nielen dobrý, ten rozdiel pocítite a žiadne inžinierstvo v telefóne ho dnes nedorovná. Cloudové služby tiež pridávajú funkcie, ktoré potrebujú infraštruktúru, napríklad agentov, ktorí celé minúty prehliadajú web.
Hybrid, ale s rozvahou
Nemusíte sa rozhodnúť raz a navždy. Stránka Modely v aplikácii Orvena uvádza všetky enginy, ktoré môže používať: v časti Vstavané Apple Intelligence v iOS 27; v časti Modely v zariadení vlastný stiahnutý model Orveny; a v časti Cloud Private Cloud Compute od Apple v iOS 27, bez nastavovania kľúča a s denným limitom stanoveným spoločnosťou Apple, alebo ľubovoľný model OpenRouter s vaším vlastným kľúčom. Predvolené nastavenie enginu, Automaticky (v Nastaveniach v časti Rozšírené), používa váš stiahnutý model, alebo Apple Intelligence, kým žiadny nie je pripravený, a nikdy sa samo neprepne do cloudu. Pri OpenRouter sa Orvena pred prvou cloudovou požiadavkou v konverzácii opýta, či má túto konverzáciu a jej výsledky nástrojov odoslať poskytovateľovi. Private Cloud Compute sa opýta raz, keď si ho zvolíte. Pri oboch sa Orvena pred odoslaním zdravotných alebo finančných údajov opýta znova, zakaždým. Hlasová obrazovka ukazuje, v akom režime ste: "na tomto iPhone" nazeleno, "cloud" naoranžovo.
Ako sa rozhodnúť
Zapíšte si posledných desať vecí, na ktoré ste sa pýtali asistenta. Ak sa väčšina týkala vášho vlastného života (rozvrhu, fotiek, správy, ktorú ste písali, miesta v okolí), správnou predvolenou voľbou je AI v zariadení: údaje sú osobné a úlohy sú pre model veľkosti telefónu ľahko zvládnuteľné. Ak išlo väčšinou o výskum alebo dlhé písanie, občas budete chcieť prístup ku cloudu, ideálne ako voľbu pri každej požiadavke, nie ako jediný dostupný režim.
Časté otázky
Je AI v zariadení pomalšia ako cloudová AI?
V prepočte na token je telefón pomalší ako GPU v dátovom centre, no nečaká sa na sieť a odpoveď sa zobrazuje priebežne, ako vzniká, takže krátke odpovede pôsobia okamžite. V telefóne trvá dlhšie prečítať dlhú konverzáciu predtým, než sa odpoveď začne.
Je Private Cloud Compute rovnako súkromný ako AI v zariadení?
Nie rovnakým spôsobom. Beží na serveroch Apple, takže požiadavka opustí telefón a potrebuje pripojenie. Apple uvádza, že "údaje spracúvané v Private Cloud Compute sa neukladajú ani nesprístupňujú spoločnosti Apple" a že "nezávislí výskumníci v oblasti súkromia a bezpečnosti môžu tento prísľub súkromia kedykoľvek overiť." V zariadení nie je v konverzácii žiadny server, o ktorom by bolo treba taký prísľub dávať.
Vybíja spúšťanie AI v telefóne batériu?
Krátka otázka stojí veľmi málo. Dlhá hlasová konverzácia zahreje telefón podobne ako hra a zodpovedajúco spotrebúva batériu. Na pozadí nebeží nič okrem odpovede, ktorú ste už začali.
Dokáže AI v zariadení aj vyhľadávať na webe?
Áno. Keď požiadate o aktuálne informácie, dopyt ide k poskytovateľovi vyhľadávania, rovnako ako z prehliadača, a čítanie aj zhrnutie prebiehajú v telefóne.
Orvena spúšťa svoj model v iPhone a keď to požiadavka vyžaduje, umožní vám zvoliť Private Cloud Compute od Apple alebo cloudový model s vaším vlastným kľúčom.
Stiahnuť v App Store