AI ierīcē pret mākoņa AI: kas jums patiesībā mainās
Atšķirība starp AI ierīcē un mākoņa AI ir viens fakts: kur darbojas modelis. Viss pārējais (privātums, cena, ātrums, modeļa spējas) izriet no tā. Šis ir salīdzinājums no lietotāja puses ar reāliem skaitļiem, kur tie mums ir.
Divas pieejas
Ja AI darbojas mākonī, jūsu ziņa nonāk datu centrā, tur atbild ļoti liels modelis, un atbilde atgriežas. Ja AI darbojas ierīcē, jūsu ziņa paliek tālrunī, un tur atbild mazāks modelis. Orvena ir otrā veida: tas darbina Qwen 3.5 4B, vienreizēju 3,1 GB lejupielādi, iPhone grafikas procesorā (GPU), un ar iOS 27 tas var atbildēt arī ar Apple Intelligence, Apple modeli ierīcē, neko nelejupielādējot.
AI ierīcē pret mākoņa AI: salīdzinājums
| Ierīcē (Orvena) | Mākonī (ChatGPT un līdzīgi) | |
|---|---|---|
| Kurp nonāk jūsu vārdi | Nekur. Modelis ir tālrunī. | Uz pakalpojuma sniedzēja serveriem. |
| Konts | Nav. | Parasti vajadzīgs vēsturei, rēķiniem un limitiem; ChatGPT ir ierobežots režīms bez pierakstīšanās. |
| Darbojas bezsaistē | Jā, arī tālruņa rīki. | Nē. |
| Aizture | Nav jāgaida tīkls. Atbilde parādās, tiklīdz tā tiek rakstīta. | Tīkls plus rinda; atkarīga no slodzes. |
| Modeļa izmērs | Aptuveni 4 miljardi parametru Orvena paša modelim. | Simtiem miljardu. |
| Sarunas atmiņa | 16 384 tokeni, aptuveni 12 000 vārdu, ar Orvena paša modeli. Ar iOS 27 Apple Intelligence uzrāda 8 192, lai gan Apple dokumentācijā joprojām norādīti 4 096. | Daudz lielāka. |
| Cena | Asistents ir bezmaksas, ieskaitot Apple Intelligence ar iOS 27. Viens 14,99 USD pirkums pievieno balsi, savienojumus, ieplānotos uzdevumus, Private Cloud Compute ar iOS 27 un mākoņa modeļus ar jūsu atslēgu. | ChatGPT plāni maksā no 0 līdz 200 USD mēnesī; Plus maksā 20 USD. |
| Nepieciešamais tālrunis | iPhone 15 Pro vai jaunāks, 8 GB atmiņas. | Jebkurš tālrunis. |
| Kad mainās politika | Jūsu iepriekšējās sarunas tas nekādi neskar. | Tas, ko jaunā politika nosaka par saglabātajām sarunām. |
Kas ierīcē padodas labi
Pieprasījumi, ko cilvēki patiešām izsaka tālrunim. "Pārcel manu sanāksmi plkst. 3 pēcpusdienā uz ceturtdienas rītu." "Iestati modinātāju, lai rīt plkst. 2 pēcpusdienā būtu lidostā, ieskaitot ceļā pavadāmo laiku." "Šovakar plkst. 9 pārbaudi rītdienas laika prognozi manai pirmajai sanāksmei." "Ko tu redzi šajā fotoattēlā?" Tālruņa izmēra modelis, Orvena paša vai Apple Intelligence, tiek galā ar valodu; kalendāru un modinātāju apstrādā paša tālruņa rīki, ceļa laiku nodrošina Apple Maps, un kalendāra ieraksts un fotoattēls tiek saprasti ierīcē, nevis kaut kur nosūtīti nolasīšanai.
Kur mākonis ir labāks
Mērogs. Datu centra modelis zina vairāk, spriež ilgāk, raksta labāk un var paturēt kontekstā grāmatas garuma dokumentu. Ilgai izpētei, specializētai jomai vai tekstam, kam jābūt izcilam, nevis vienkārši labam, atšķirību sajutīsiet, un šodien to nevar novērst nekāda inženierija tālrunī. Mākoņpakalpojumi piedāvā arī funkcijas, kurām vajadzīga infrastruktūra, piemēram, aģentus, kas minūtēm ilgi pārlūko tīmekli.
Rūpīgi veidots hibrīds
Jums nav jāizvēlas vienreiz uz visiem laikiem. Orvena lapā Modeļi ir uzskaitīti visi dzinēji, ko tas var izmantot: sadaļā Iebūvēts ir Apple Intelligence ar iOS 27; sadaļā Modeļi ierīcē ir Orvena paša lejupielādētais modelis; un sadaļā Mākonis ir Apple Private Cloud Compute ar iOS 27, kam nav jāiestata atslēga un kam ir Apple noteikts dienas limits, vai jebkurš OpenRouter modelis ar jūsu atslēgu. Noklusējuma dzinēja iestatījums Automātiski (Iestatījumi, Papildu) izmanto jūsu lejupielādēto modeli vai Apple Intelligence, kamēr neviens modelis nav gatavs, un nekad pats nepārslēdzas uz mākoni. Ar OpenRouter Orvena pirms pirmā mākoņa pieprasījuma sarunā pajautā, vai sūtīt šo sarunu un tās rīku rezultātus pakalpojuma sniedzējam. Private Cloud Compute pajautā vienreiz, kad to izvēlaties. Abos gadījumos par veselības vai finanšu datiem katru reizi tiek jautāts vēlreiz. Balss ekrāns rāda, kurā režīmā esat: "šajā iPhone" zaļā krāsā, "mākonis" dzeltenā.
Kā izvēlēties
Pierakstiet pēdējās desmit lietas, ko jautājāt asistentam. Ja lielākā daļa bija par jūsu pašu dzīvi (grafiku, fotoattēliem, ziņu, ko rakstījāt, kādu vietu tuvumā), AI ierīcē ir pareizā noklusējuma izvēle: dati ir personiski, un uzdevumi ir labi tālruņa izmēra modeļa spēju robežās. Ja lielākā daļa bija izpēte vai gari teksti, dažreiz jums vajadzēs piekļuvi mākonim, ideālā gadījumā kā izvēli, ko izdarāt katram pieprasījumam atsevišķi, nevis kā vienīgo pieejamo režīmu.
Biežāk uzdotie jautājumi
Vai AI ierīcē ir lēnāks par mākoņa AI?
Rēķinot uz vienu tokenu, tālrunis ir lēnāks par datu centra GPU, taču nav jāgaida tīkls, un atbilde parādās, tiklīdz tā tiek rakstīta, tāpēc īsas atbildes šķiet tūlītējas. Tālrunī ilgāk aizņem garas sarunas nolasīšana, pirms atbilde sākas.
Vai Private Cloud Compute ir tikpat privāts kā AI ierīcē?
Ne tādā pašā veidā. Tas darbojas Apple serveros, tāpēc pieprasījums atstāj tālruni un ir vajadzīgs savienojums. Apple norāda, ka "Private Cloud Compute apstrādātie dati netiek glabāti un nav pieejami Apple" un ka "neatkarīgi privātuma un drošības pētnieki var jebkurā laikā pārbaudīt šo privātuma solījumu." Ierīcē sarunā nav servera, par kuru šāds solījums būtu jādod.
Vai AI darbināšana tālrunī iztukšo akumulatoru?
Īss jautājums patērē ļoti maz. Gara balss saruna sasilda tālruni tāpat kā spēle un attiecīgi patērē akumulatoru. Fonā nekas nedarbojas, izņemot atbildi, ko jau esat sākuši.
Vai AI ierīcē joprojām var meklēt tīmeklī?
Jā. Kad prasāt aktuālu informāciju, vaicājums nonāk pie meklēšanas pakalpojuma sniedzēja, tāpat kā no pārlūkprogrammas, bet lasīšana un kopsavilkuma veidošana notiek tālrunī.
Orvena darbina savu modeli iPhone tālrunī un ļauj izvēlēties Apple Private Cloud Compute vai mākoņa modeli ar jūsu atslēgu, kad pieprasījumam tas vajadzīgs.
Lejupielādēt no App Store