DI įrenginyje ar debesyje: kas iš tikrųjų keičiasi jums
Skirtumas tarp DI įrenginyje ir DI debesyje yra vienas faktas: kur veikia modelis. Visa kita (privatumas, kaina, greitis, ką modelis gali padaryti) išplaukia iš to. Tai palyginimas iš naudotojo pusės, su tikrais skaičiais ten, kur jų turime.
Dvi architektūros
Naudojant DI debesyje, jūsų žinutė keliauja į duomenų centrą, ten atsako labai didelis modelis, ir atsakymas keliauja atgal. Naudojant DI įrenginyje, jūsų žinutė lieka telefone, o atsako mažesnis modelis pačiame telefone. Orvena yra antrosios rūšies: ji iPhone GPU vykdo Qwen 3.5 4B, kurį reikia vieną kartą atsisiųsti (3,1 GB), o su iOS 27 gali atsakyti ir naudodama Apple Intelligence, Apple modelį įrenginyje, nieko neatsisiuntus.
DI įrenginyje ir DI debesyje greta
| Įrenginyje (Orvena) | Debesyje (ChatGPT ir panašūs) | |
|---|---|---|
| Kur keliauja jūsų žodžiai | Niekur. Modelis yra telefone. | Į teikėjo serverius. |
| Paskyra | Nėra. | Paprastai reikia istorijai, atsiskaitymui ir limitams; ChatGPT turi ribotą režimą be prisijungimo. |
| Veikia neprisijungus | Taip, įskaitant telefono įrankius. | Ne. |
| Delsa | Nereikia siųsti užklausos tinklu ir laukti atsakymo. Atsakymas rodomas tuo metu, kai rašomas. | Tinklas ir eilė; priklauso nuo apkrovos. |
| Modelio dydis | Orvena modelis turi apie 4 milijardus parametrų. | Šimtai milijardų. |
| Pokalbio atmintis | Su Orvena modeliu 16 384 žetonai, apie 12 000 žodžių. Su iOS 27 Apple Intelligence nurodo 8 192, nors Apple dokumentacijoje vis dar rašoma 4 096. | Daug didesnė. |
| Kaina | Asistentas nemokamas, įskaitant Apple Intelligence su iOS 27. Vienas 14,99 $ pirkinys balsui, ryšiams, suplanuotoms užduotims, Private Cloud Compute su iOS 27 ir debesies modeliams su jūsų raktu. | Nuo 0 $ iki 200 $ per mėnesį už ChatGPT planus; Plus kainuoja 20 $. |
| Reikalingas telefonas | iPhone 15 Pro ar naujesnis, 8 GB atminties. | Bet kuris telefonas. |
| Kai keičiasi privatumo politika | Jūsų ankstesniuose pokalbiuose niekas nepasikeičia. | Tai, ką naujoji politika numato saugomiems pokalbiams. |
Ką DI įrenginyje daro gerai
Užklausas, kurias žmonės iš tikrųjų pateikia telefonui. "Perkelk mano 3 val. po pietų susitikimą į ketvirtadienio rytą." "Nustatyk žadintuvą, kad rytoj 2 val. po pietų būčiau oro uoste, įskaičiuojant kelionės laiką." "Šįvakar 9 val. palygink rytojaus orus su mano pirmu susitikimu." "Ką matai šioje nuotraukoje?" Telefono dydžio modelis, Orvena ar Apple Intelligence, tvarko kalbą; telefono įrankiai atlieka darbą su kalendoriumi ir žadintuvu, Apple Maps pateikia kelionės laiką, o kalendoriaus įrašas ir nuotrauka suprantami įrenginyje ir niekur nesiunčiami, kad būtų perskaityti.
Kur debesis pranašesnis
Mastas. Duomenų centro modelis žino daugiau, samprotauja ilgiau, rašo geriau ir savo kontekste gali laikyti knygos ilgio dokumentą. Ilgiems tyrimams, specializuotai sričiai ar tekstams, kurie turi būti puikūs, o ne tiesiog geri, skirtumą pajusite, ir šiandien jokia inžinerija telefone šios spragos neužpildo. Debesies paslaugos taip pat siūlo funkcijų, kurioms reikia infrastruktūros, pavyzdžiui, agentų, kurie po kelias minutes iš eilės naršo žiniatinklyje.
Apgalvotas hibridas
Rinktis vieną kartą visam laikui nereikia. Orvena skiltyje "Modeliai" išvardyti visi varikliai, kuriuos ji gali naudoti: dalyje "Integruota" Apple Intelligence su iOS 27; dalyje "Modeliai įrenginyje" atsisiųstas Orvena modelis; o dalyje "Debesis" Apple Private Cloud Compute su iOS 27, kuriam nereikia nustatyti jokio rakto ir kuris turi Apple nustatytą dienos limitą, arba bet kuris OpenRouter modelis su jūsų pačių raktu. Numatytasis variklio nustatymas "Automatinis" (Nustatymų skiltyje "Išplėstiniai") naudoja atsisiųstą modelį, o kol jis neparuoštas, Apple Intelligence, ir niekada pats nepersijungia į debesį. Su OpenRouter Orvena prieš pirmą debesies užklausą pokalbyje paklausia, ar siųsti tą pokalbį ir jo įrankių rezultatus teikėjui. Private Cloud Compute paklausia vieną kartą, kai jį pasirenkate. Abiem atvejais dėl sveikatos ar finansinių duomenų kiekvieną kartą klausiama iš naujo. Balso ekranas rodo, kuriuo režimu esate: "šiame iPhone" žaliai, "debesis" gintaro spalva.
Kaip apsispręsti
Užsirašykite dešimt paskutinių dalykų, kurių klausėte asistento. Jei dauguma jų buvo apie jūsų pačių gyvenimą (tvarkaraštį, nuotraukas, rašomą žinutę, kur nueiti netoliese), DI įrenginyje yra tinkamas numatytasis pasirinkimas: duomenys asmeniniai, o užduotys gerokai neviršija telefono dydžio modelio galimybių. Jei dauguma buvo tyrimai ar ilgi tekstai, kartais jums reikės prieigos prie debesies, geriausia kaip pasirinkimo, kurį darote kiekvienai užklausai atskirai, o ne kaip vienintelio galimo režimo.
Dažni klausimai
Ar DI įrenginyje lėtesnis nei DI debesyje?
Skaičiuojant vienam žetonui, telefonas lėtesnis nei duomenų centro GPU, tačiau nereikia laukti tinklo, o atsakymas rodomas tuo metu, kai rašomas, todėl trumpi atsakymai pasirodo akimirksniu. Telefone ilgiau užtrunka perskaityti ilgą pokalbį, prieš pradedant atsakyti.
Ar Private Cloud Compute toks pat privatus kaip DI įrenginyje?
Ne tokiu pačiu būdu. Jis veikia Apple serveriuose, todėl užklausa palieka telefoną, ir reikia interneto ryšio. Apple teigia, kad "Private Cloud Compute apdorojami duomenys nėra saugomi ir nėra prieinami Apple" ir kad "nepriklausomi privatumo ir saugumo tyrėjai gali bet kada patikrinti šį privatumo pažadą." Įrenginyje pokalbyje nedalyvauja joks serveris, dėl kurio reikėtų tokio pažado.
Ar DI vykdymas telefone greitai iškrauna bateriją?
Trumpas klausimas kainuoja labai mažai. Ilgas balso pokalbis telefoną įkaitina kaip žaidimas ir atitinkamai naudoja bateriją. Fone niekas neveikia, išskyrus jau pradėtą atsakymą.
Ar DI įrenginyje vis tiek gali ieškoti žiniatinklyje?
Taip. Kai prašote naujausios informacijos, užklausa keliauja paieškos teikėjui, kaip ir iš naršyklės, o skaitymas ir apibendrinimas vyksta telefone.
Orvena vykdo savo modelį iPhone telefone ir leidžia pasirinkti Apple Private Cloud Compute arba debesies modelį su jūsų pačių raktu, kai užklausai to reikia.
Atsisiųsti iš App Store