ШІ на пристрої чи хмарний ШІ: що насправді змінюється для вас
Різниця між ШІ на пристрої та хмарним ШІ зводиться до одного факту: де працює модель. Усе інше, тобто приватність, ціна, швидкість і те, що модель уміє, випливає саме з цього. Ось порівняння з боку користувача, з реальними цифрами там, де вони в нас є.
Дві архітектури
З хмарним ШІ ваше повідомлення вирушає в дата-центр, там відповідає дуже велика модель, і відповідь повертається назад. З ШІ на пристрої ваше повідомлення лишається на телефоні, і там же відповідає менша модель. Orvena належить до другого типу: вона запускає Qwen 3.5 4B, одноразове завантаження на 3,1 GB, на GPU iPhone, а в iOS 27 може також відповідати за допомогою Apple Intelligence, моделі Apple на пристрої, нічого не завантажуючи.
ШІ на пристрої і хмарний ШІ: порівняння
| На пристрої (Orvena) | Хмара (ChatGPT та подібні) | |
|---|---|---|
| Куди йдуть ваші слова | Нікуди. Модель на телефоні. | На сервери постачальника. |
| Обліковий запис | Немає. | Зазвичай потрібен для історії, оплати й лімітів; ChatGPT має обмежений режим без входу. |
| Працює офлайн | Так, разом з інструментами телефона. | Ні. |
| Затримка | Жодних мережевих запитів туди й назад. Відповідь виводиться потоком у міру написання. | Мережа плюс черга; залежить від навантаження. |
| Розмір моделі | Близько 4 мільярдів параметрів у власної моделі Orvena. | Сотні мільярдів. |
| Пам'ять розмови | 16 384 токени, близько 12 000 слів, з власною моделлю Orvena. В iOS 27 Apple Intelligence повідомляє 8 192, хоча документація Apple досі вказує 4 096. | Значно більша. |
| Ціна | Асистент безкоштовний, включно з Apple Intelligence в iOS 27. Одна покупка за 14,99 $ відкриває голос, під'єднання, заплановані завдання, Private Cloud Compute в iOS 27 і хмарні моделі з вашим ключем. | Від 0 до 200 $ на місяць за тарифи ChatGPT; 20 $ за Plus. |
| Потрібний телефон | iPhone 15 Pro або новіший, 8 GB пам'яті. | Будь-який телефон. |
| Коли змінюються правила | У ваших минулих розмовах нічого не змінюється. | Усе, що нові правила кажуть про збережені розмови. |
Що добре вдається ШІ на пристрої
Запити, з якими люди насправді звертаються до телефона. "Перенеси мою зустріч о 3-й дня на четвер зранку." "Постав будильник, щоб завтра до 2-ї дня бути в аеропорту, з урахуванням часу в дорозі." "Сьогодні о 9-й вечора звір погоду на завтра з моєю першою зустріччю." "Що ти бачиш на цьому фото?" Модель, розрахована на телефон (власна модель Orvena чи Apple Intelligence), бере на себе мову; календар і будильник виконують власні інструменти телефона, час у дорозі дають Карти Apple, а запис у календарі й фото обробляються на пристрої й нікуди не надсилаються для прочитання.
Де хмара краща
Масштаб. Модель у дата-центрі знає більше, міркує довше, пише краще й може тримати в контексті документ завдовжки з книжку. Для довгих досліджень, вузькоспеціалізованої галузі чи тексту, який має бути чудовим, а не просто добрим, ви відчуєте різницю, і сьогодні жодна інженерія на телефоні цього розриву не закриває. Хмарні сервіси також додають функції, яким потрібна інфраструктура, наприклад агентів, що переглядають вебсторінки по кілька хвилин поспіль.
Продуманий гібрид
Обирати раз і назавжди не потрібно. Сторінка «Моделі» в Orvena перелічує всі рушії, які вона може використовувати: у розділі «Вбудована» Apple Intelligence в iOS 27; у розділі «Моделі на пристрої» власну завантажену модель Orvena; а в розділі «Хмара» Private Cloud Compute від Apple в iOS 27, без жодного ключа для налаштування і з денним лімітом, який встановлює Apple, або будь-яку модель OpenRouter з вашим власним ключем. Стандартне налаштування рушія, «Автоматично» (у «Параметрах», розділ «Розширені»), використовує вашу завантажену модель, а поки жодна не готова, Apple Intelligence, і ніколи сама не перемикається на хмару. З OpenRouter Orvena перед першим хмарним запитом у розмові запитує, чи надсилати цю розмову та її результати інструментів постачальнику. Private Cloud Compute запитує один раз, коли ви його вибираєте. В обох випадках для даних про здоров'я чи фінанси запит з'являється щоразу знову. Голосовий екран показує, у якому ви режимі: "на цьому iPhone" зеленим, "хмара" бурштиновим.
Як обрати
Запишіть десять останніх запитів, з якими ви зверталися до асистента. Якщо більшість стосувалися вашого життя, розкладу, фото, повідомлення, яке ви писали, місця, куди піти поблизу, то ШІ на пристрої буде правильним вибором за умовчанням: дані особисті, а завдання цілком під силу моделі, розрахованій на телефон. Якщо більшість були дослідженнями чи довгими текстами, вам іноді потрібен доступ до хмари, в ідеалі як вибір, який ви робите для кожного запиту, а не як єдиний доступний режим.
Поширені запитання
Чи повільніший ШІ на пристрої за хмарний?
У перерахунку на токен телефон повільніший за GPU у дата-центрі, але немає очікування мережі, а відповідь виводиться потоком у міру написання, тож короткі відповіді здаються миттєвими. Довше на телефоні триває читання довгої розмови до початку відповіді.
Чи такий самий приватний Private Cloud Compute, як ШІ на пристрої?
Не в тому самому сенсі. Він працює на серверах Apple, тож запит залишає телефон і потребує з'єднання. Apple зазначає: "Дані, які обробляються в Private Cloud Compute, не зберігаються і не стають доступними для Apple", а також що "незалежні дослідники приватності й безпеки можуть будь-коли перевірити цю обіцянку приватності." На пристрої в розмові немає сервера, щодо якого треба давати таку обіцянку.
Чи розряджає батарею ШІ на телефоні?
Коротке запитання коштує дуже мало. Довга голосова розмова нагріває телефон, як гра, і відповідно витрачає заряд. У фоні нічого не працює, крім відповіді, яку ви вже почали.
Чи може ШІ на пристрої шукати в інтернеті?
Так. Коли ви просите актуальну інформацію, запит іде до постачальника пошуку, як і з браузера, а читання й підсумовування відбуваються на телефоні.
Orvena запускає свою модель на iPhone і дає змогу вибрати Private Cloud Compute від Apple або хмарну модель з вашим власним ключем, коли цього потребує запит.
Завантажити в App Store