Umetna inteligenca v napravi ali v oblaku: kaj se za vas res spremeni

Razlika med umetno inteligenco v napravi in umetno inteligenco v oblaku je eno samo dejstvo: kje teče model. Vse drugo izhaja iz tega: zasebnost, cena, hitrost in to, kar model zmore. To je primerjava z uporabnikove strani zaslona, z dejanskimi številkami, kjer jih imamo.

Dve zasnovi

Pri umetni inteligenci v oblaku vaše sporočilo potuje v podatkovni center, tam odgovori zelo velik model, odgovor pa potuje nazaj. Pri umetni inteligenci v napravi sporočilo ostane v telefonu in tam odgovori manjši model. Orvena je druge vrste: poganja Qwen 3.5 4B, enkraten prenos velikosti 3,1 GB, na grafičnem procesorju telefona iPhone, v iOS 27 pa lahko odgovarja tudi z Apple Intelligence, Applovim modelom v napravi, brez prenosa.

Umetna inteligenca v napravi in v oblaku: primerjava

Kaj umetna inteligenca v napravi dela dobro

Prošnje, s katerimi se ljudje v resnici obračajo na telefon. "Prestavi moj sestanek ob 3 popoldne na četrtek zjutraj." "Nastavi alarm, da bom jutri do 2 popoldne na letališču, skupaj s časom potovanja." "Nocoj ob 9 zvečer primerjaj jutrišnje vreme z mojim prvim sestankom." "Kaj vidiš na tej fotografiji?" Model, ki je dovolj majhen za telefon, lastni model aplikacije Orvena ali Apple Intelligence, poskrbi za jezik; za koledar in alarm poskrbijo orodja telefona, čas potovanja priskrbi Apple Maps; vnos v koledarju in fotografija se razumeta v napravi in se nikamor ne pošiljata v branje.

Kje je boljši oblak

Pri velikosti. Model v podatkovnem centru ve več, dlje sklepa, bolje piše in v kontekstu lahko drži dokument dolžine knjige. Pri dolgih raziskavah, specializiranem področju ali pisanju, ki mora biti odlično in ne le dobro, boste razliko občutili, in te vrzeli danes ne zapre še tako dobro inženirstvo v telefonu. Storitve v oblaku dodajajo tudi funkcije, ki potrebujejo infrastrukturo, na primer agente, ki po spletu brskajo več minut zapored.

Hibrid, previdno izveden

Ni vam treba izbrati enkrat za vselej. Stran Modeli v aplikaciji Orvena navaja vse pogone, ki jih lahko uporablja: pod Vgrajeno Apple Intelligence v iOS 27; pod Modeli v napravi lastni preneseni model aplikacije Orvena; pod Oblak pa Applov Private Cloud Compute v iOS 27, brez nastavljanja ključa in z dnevno omejitvijo, ki jo določi Apple, ali kateri koli model OpenRouter z vašim lastnim ključem. Privzeta nastavitev pogona, Samodejno (v Nastavitvah v razdelku Napredno), uporablja vaš preneseni model ali Apple Intelligence, dokler noben model ni pripravljen, in nikoli sama ne preklopi v oblak. Pri OpenRouterju Orvena pred prvo zahtevo v oblak v pogovoru vpraša, ali naj ta pogovor in njegove rezultate orodij pošlje ponudniku. Private Cloud Compute vpraša enkrat, ko ga izberete. Pri obeh Orvena za zdravstvene ali finančne podatke vsakič znova vpraša. Glasovni zaslon pokaže, v katerem načinu ste: "na tem iPhonu" v zeleni, "oblak" v jantarni barvi.

Kako se odločiti

Zapišite zadnjih deset stvari, ki ste jih vprašali asistenta. Če se je večina nanašala na vaše življenje (vaš urnik, vaše fotografije, sporočilo, ki ste ga pisali, kam iti v bližini), je umetna inteligenca v napravi prava privzeta izbira: podatki so osebni, naloge pa so zlahka v dosegu modela, ki teče v telefonu. Če je šlo večinoma za raziskovanje ali daljše pisanje, boste dostop do oblaka občasno potrebovali, najbolje kot izbiro, ki jo naredite za vsako zahtevo posebej, in ne kot edini način, ki obstaja.

Pogosta vprašanja

Ali je umetna inteligenca v napravi počasnejša od tiste v oblaku?

Pri posameznem žetonu je telefon počasnejši od grafičnega procesorja v podatkovnem centru, vendar ni čakanja na omrežje in odgovor se prikazuje sproti, med pisanjem, zato se kratki odgovori zdijo takojšnji. V telefonu dlje traja branje dolgega pogovora, preden se odgovor začne.

Ali je Private Cloud Compute enako zaseben kot umetna inteligenca v napravi?

Ne na enak način. Teče na Applovih strežnikih, zato zahteva zapusti telefon in potrebuje povezavo. Apple pravi, da se "podatki, ki se obdelujejo v Private Cloud Compute, ne shranjujejo in Applu niso dostopni" in da "lahko neodvisni raziskovalci zasebnosti in varnosti to obljubo o zasebnosti kadar koli preverijo." V napravi v pogovoru ni strežnika, za katerega bi bilo treba dati tako obljubo.

Ali poganjanje umetne inteligence v telefonu prazni baterijo?

Kratko vprašanje porabi zelo malo. Dolg glasovni pogovor telefon segreje tako kot igra in temu primerno porablja baterijo. V ozadju ne teče nič razen odgovora, ki ste ga že začeli.

Ali lahko umetna inteligenca v napravi še vedno išče po spletu?

Da. Ko zahtevate aktualne informacije, gre poizvedba k ponudniku iskanja, tako kot iz brskalnika, branje in povzemanje pa potekata v telefonu.