ИИ на устройстве или облачный ИИ: что на самом деле меняется для вас
Разница между ИИ на устройстве и облачным ИИ сводится к одному факту: где работает модель. Всё остальное (приватность, цена, скорость, возможности модели) вытекает из него. Это сравнение со стороны пользователя, с реальными цифрами там, где они у нас есть.
Два подхода
В облачном ИИ ваше сообщение отправляется в дата-центр, там отвечает очень большая модель, и ответ возвращается обратно. В ИИ на устройстве сообщение остаётся на телефоне, и прямо там отвечает модель поменьше. Orvena относится ко второму типу: она запускает на GPU iPhone модель Qwen 3.5 4B (разовая загрузка 3,1 GB), а в iOS 27 может также отвечать с помощью Apple Intelligence, модели Apple на устройстве, ничего не загружая.
ИИ на устройстве и облачный ИИ: сравнение
| На устройстве (Orvena) | Облако (ChatGPT и подобные) | |
|---|---|---|
| Куда уходят ваши слова | Никуда. Модель находится на телефоне. | На серверы провайдера. |
| Аккаунт | Не нужен. | Обычно нужен: для истории, оплаты и лимитов; у ChatGPT есть ограниченный режим без входа. |
| Работает офлайн | Да, включая инструменты телефона. | Нет. |
| Задержка | Запрос не ходит по сети туда и обратно. Ответ выводится по мере генерации. | Сеть плюс очередь; зависит от нагрузки. |
| Размер модели | Около 4 миллиардов параметров у собственной модели Orvena. | Сотни миллиардов. |
| Память беседы | 16 384 токена, около 12 000 слов, у собственной модели Orvena. В iOS 27 Apple Intelligence сообщает о 8 192, хотя документация Apple по-прежнему указывает 4 096. | Намного больше. |
| Цена | Ассистент бесплатен, включая Apple Intelligence в iOS 27. Одна покупка за $14,99 открывает голос, подключения, запланированные задачи, Private Cloud Compute в iOS 27 и облачные модели с вашим ключом. | От $0 до $200 в месяц за тарифы ChatGPT; $20 за Plus. |
| Какой нужен телефон | iPhone 15 Pro или новее, 8 GB памяти. | Любой. |
| Когда меняется политика | Для ваших прошлых бесед ничего не меняется. | Действует то, что новая политика говорит о сохранённых беседах. |
Что хорошо удаётся ИИ на устройстве
Запросы, с которыми люди на самом деле обращаются к телефону. "Перенеси мою встречу в 3 часа дня на утро четверга." "Поставь будильник, чтобы завтра к 2 часам дня быть в аэропорту, с учётом времени в пути." "Сегодня в 9 вечера сверь погоду на завтра с моей первой встречей." "Что ты видишь на этом фото?" Языком занимается модель, которая помещается в телефон (собственная модель Orvena или Apple Intelligence); календарь и будильник берут на себя инструменты самого телефона, время в пути дают «Карты» Apple, а запись в календаре и фото анализируются на устройстве и никуда не отправляются для чтения.
В чём облако лучше
В масштабе. Модель в дата-центре знает больше, рассуждает дольше, пишет лучше и может удерживать в контексте документ размером с книгу. Для долгих исследований, узкоспециальной области или текста, который должен быть отличным, а не просто хорошим, вы почувствуете разницу, и никакие инженерные ухищрения на телефоне сегодня этот разрыв не закрывают. Облачные сервисы также добавляют функции, которым нужна инфраструктура, например агентов, которые по нескольку минут подряд изучают веб-страницы.
Гибрид, сделанный аккуратно
Выбирать раз и навсегда не нужно. В разделе «Модели» Orvena перечислены все движки, которые она может использовать: в группе «Встроенная» Apple Intelligence в iOS 27; в группе «Модели на устройстве» собственная загруженная модель Orvena; а в группе «Облако» Private Cloud Compute от Apple в iOS 27, без настройки ключа и с дневным лимитом, установленным Apple, или любая модель OpenRouter с вашим собственным ключом. Настройка движка по умолчанию, «Автоматически» (в Настройках в разделе «Дополнительно»), использует вашу загруженную модель или Apple Intelligence, пока загруженная модель не готова, и никогда сама не переключается на облако. С OpenRouter Orvena перед первым облачным запросом в беседе спрашивает, отправлять ли эту беседу и результаты её инструментов провайдеру. Private Cloud Compute спрашивает один раз, когда вы его выбираете. В обоих случаях для данных о здоровье или финансах разрешение запрашивается каждый раз. Голосовой экран показывает, в каком режиме вы находитесь: "на этом iPhone" зелёным, "облако" янтарным.
Как выбрать
Запишите десять последних просьб к ассистенту. Если большинство из них касалось вашей собственной жизни (расписания, фото, сообщения, которое вы писали, места поблизости), ИИ на устройстве будет правильным выбором по умолчанию: данные личные, а задачи вполне по силам модели, которая помещается в телефон. Если же большая часть приходилась на исследования или длинные тексты, вам время от времени нужен доступ к облаку, в идеале как выбор, который вы делаете для каждого запроса, а не как единственный доступный режим.
Частые вопросы
ИИ на устройстве медленнее облачного?
В пересчёте на токен телефон медленнее GPU в дата-центре, но нет ожидания сети, а ответ выводится по мере генерации, поэтому короткие ответы кажутся мгновенными. Дольше на телефоне длится чтение длинной беседы перед началом ответа.
Так же ли приватен Private Cloud Compute, как ИИ на устройстве?
Не в том же смысле. Private Cloud Compute работает на серверах Apple, поэтому запрос покидает телефон и требует подключения к сети. Apple заявляет: "Данные, обрабатываемые в Private Cloud Compute, не хранятся и не становятся доступны Apple", а также что "независимые исследователи в области конфиденциальности и безопасности могут в любой момент проверить это обещание конфиденциальности". На устройстве в беседе нет сервера, о котором нужно было бы давать такое обещание.
Разряжает ли ИИ на телефоне батарею?
Короткий вопрос почти ничего не стоит. Долгая голосовая беседа нагревает телефон так же, как игра, и расходует батарею соответственно. В фоне ничего не работает, кроме уже начатого ответа.
Может ли ИИ на устройстве искать в интернете?
Да. Когда вы просите актуальную информацию, запрос уходит поисковому провайдеру, как из браузера, а чтение и краткий пересказ происходят на телефоне.
Orvena запускает свою модель на iPhone и позволяет выбрать Private Cloud Compute от Apple или облачную модель с вашим собственным ключом, когда этого требует запрос.
Скачать в App Store