Cihaz üzerinde yapay zekâ mı, bulut yapay zekâsı mı? Sizin için gerçekte ne değişir

Cihaz üzerinde yapay zekâ ile bulut yapay zekâsı arasındaki fark tek bir olguya dayanır: modelin nerede çalıştığı. Geri kalan her şey, yani gizlilik, fiyat, hız ve modelin neler yapabildiği, bundan kaynaklanır. Bu karşılaştırma konuya ekranın kullanıcı tarafından bakıyor ve elimizde rakam olan her yerde gerçek rakamları veriyor.

İki tasarım

Bulut yapay zekâsında mesajınız bir veri merkezine gider, orada çok büyük bir model yanıt verir ve yanıt size geri gelir. Cihaz üzerinde yapay zekâda ise mesajınız telefonda kalır ve orada daha küçük bir model yanıt verir. Orvena ikinci türden: iPhone'un GPU'sunda, bir kerelik 3,1 GB'lık indirmeyle gelen Qwen 3.5 4B'yi çalıştırır; iOS 27'de ise hiçbir şey indirmeden Apple'ın cihaz üzerindeki modeli Apple Intelligence ile de yanıt verebilir.

Yan yana: cihaz üzerinde yapay zekâ ve bulut yapay zekâsı

Cihaz üzerinde yapay zekânın iyi yaptığı şeyler

İnsanların bir telefondan gerçekten istedikleri şeyler. "Öğleden sonra 3'teki toplantımı Perşembe sabahına al." "Yol süresini hesaba katarak yarın öğleden sonra 2'de havalimanında olmam için alarm kur." "Bu gece 9'da yarının hava durumunu ilk toplantımla karşılaştır." "Bu fotoğrafta ne görüyorsun?" İster Orvena'nın kendi modeli ister Apple Intelligence olsun, telefon boyutundaki bir model dili halleder; takvimi ve alarmı telefonun kendi araçları yönetir, yol süresini de Apple Haritalar sağlar. Takvim kaydı ve fotoğraf cihazda anlaşılır, okunmak üzere hiçbir yere gönderilmez.

Bulutun daha iyi olduğu yerler

Ölçek. Bir veri merkezi modeli daha çok şey bilir, daha uzun akıl yürütür, daha iyi yazar ve kitap uzunluğunda bir belgeyi bağlamında tutabilir. Uzun araştırmalarda, uzmanlık gerektiren bir alanda ya da iyi değil mükemmel olması gereken yazılarda farkı hissedersiniz ve bugün telefonda yapılacak hiçbir mühendislik bu açığı kapatmıyor. Bulut hizmetleri ayrıca altyapı gerektiren özellikler de sunar; örneğin dakikalarca web'de gezinen ajanlar.

Dikkatle kurulmuş bir hibrit

Bir kez seçip öyle kalmak zorunda değilsiniz. Orvena'nın Modeller sayfası kullanabileceği tüm motorları listeler: Yerleşik altında iOS 27'de Apple Intelligence; Cihaz üzerindeki modeller altında Orvena'nın indirdiğiniz kendi modeli; Bulut altında ise iOS 27'de anahtar kurulumu gerektirmeyen ve günlük sınırı Apple tarafından belirlenen Apple Private Cloud Compute ya da kendi anahtarınızla herhangi bir OpenRouter modeli. Varsayılan motor ayarı olan Otomatik (Ayarlar, Gelişmiş), indirdiğiniz modeli ya da henüz hazır bir model yokken Apple Intelligence'ı kullanır ve asla kendi kendine buluta geçmez. OpenRouter'da Orvena, bir sohbetteki ilk bulut isteğinden önce o sohbeti ve araç sonuçlarını sağlayıcıya gönderip göndermeyeceğini sorar. Private Cloud Compute ise bir kez, siz onu seçtiğinizde sorar. İkisinde de sağlık veya finans verileri her seferinde yeniden izin ister. Ses ekranı hangi modda olduğunuzu gösterir: yeşil renkte "bu iPhone'da", kehribar renkte "bulut".

Nasıl karar verilir

Bir asistana sorduğunuz son on şeyi yazın. Çoğu kendi hayatınızla ilgiliyse, yani programınız, fotoğraflarınız, yazdığınız bir mesaj ya da yakınlarda gidilecek bir yer, doğru varsayılan cihaz üzerinde yapay zekâdır: veriler kişiseldir ve görevler telefon boyutundaki bir modelin rahatça yapabileceği işlerdir. Çoğu araştırma veya uzun yazıysa zaman zaman bulut erişimine ihtiyacınız var; ideal olarak da tek seçenek olarak değil, istek başına verdiğiniz bir karar olarak.

Sık sorulan sorular

Cihaz üzerinde yapay zekâ, bulut yapay zekâsından daha mı yavaş?

Token başına bir telefon, veri merkezindeki bir GPU'dan daha yavaştır; ama ağ beklemesi yoktur ve yanıt yazıldıkça akar, bu yüzden kısa yanıtlar anında gelmiş gibi hissettirir. Telefonda daha uzun süren şey, yanıt başlamadan önce uzun bir sohbeti okumaktır.

Private Cloud Compute, cihaz üzerinde yapay zekâ kadar gizliliği korur mu?

Aynı şekilde değil. Apple'ın sunucularında çalışır, dolayısıyla istek telefondan çıkar ve bir bağlantı gerektirir. Apple'ın açıklamasına göre "Private Cloud Compute'ta işlenen veriler saklanmaz ve Apple'ın erişimine açılmaz" ve "bağımsız gizlilik ve güvenlik araştırmacıları bu gizlilik vaadini istedikleri zaman doğrulayabilir." Cihaz üzerinde ise sohbette, hakkında böyle bir vaatte bulunulacak bir sunucu yoktur.

Yapay zekâyı telefonda çalıştırmak pili tüketir mi?

Kısa bir soru çok az enerji harcar. Uzun bir sesli sohbet telefonu bir oyunun ısıttığı gibi ısıtır ve pili de buna göre kullanır. Zaten başlattığınız bir yanıt dışında arka planda hiçbir şey çalışmaz.

Cihaz üzerinde yapay zekâ yine de web'de arama yapabilir mi?

Evet. Güncel bilgi istediğinizde sorgu, bir tarayıcıdan olduğu gibi arama sağlayıcısına gider; okuma ve özetleme ise telefonda yapılır.