AI di perangkat vs AI cloud: apa yang sebenarnya berubah bagi Anda
Perbedaan antara AI di perangkat (on-device AI) dan AI cloud terletak pada satu fakta: di mana modelnya berjalan. Semua hal lain, yaitu privasi, harga, kecepatan, dan apa yang bisa dilakukan model, mengikuti dari fakta itu. Ini perbandingan dari sisi pengguna di depan layar, dengan angka yang sebenarnya jika kami memilikinya.
Dua desain
Dengan AI cloud, pesan Anda dikirim ke pusat data, model yang sangat besar menjawabnya di sana, lalu jawabannya dikirim kembali. Dengan AI di perangkat, pesan Anda tetap di ponsel dan model yang lebih kecil menjawabnya di sana. Orvena termasuk jenis kedua: ia menjalankan Qwen 3.5 4B, unduhan satu kali sebesar 3,1 GB, di GPU iPhone, dan di iOS 27 ia juga bisa menjawab dengan Apple Intelligence, model Apple yang berjalan di perangkat, tanpa perlu mengunduh apa pun.
AI di perangkat vs AI cloud, berdampingan
| Di perangkat (Orvena) | Cloud (ChatGPT dan sejenisnya) | |
|---|---|---|
| Ke mana kata-kata Anda pergi | Tidak ke mana-mana. Modelnya ada di ponsel. | Ke server penyedia. |
| Akun | Tidak ada. | Biasanya perlu, untuk riwayat, tagihan, dan batas penggunaan; ChatGPT punya mode terbatas tanpa login. |
| Berfungsi offline | Ya, termasuk alat-alat ponsel. | Tidak. |
| Latensi | Tanpa perjalanan bolak-balik lewat jaringan. Jawaban mengalir saat ditulis. | Jaringan ditambah antrean; bervariasi sesuai beban. |
| Ukuran model | Sekitar 4 miliar parameter untuk model milik Orvena sendiri. | Ratusan miliar. |
| Memori percakapan | 16.384 token, sekitar 12.000 kata, dengan model milik Orvena sendiri. Di iOS 27, Apple Intelligence melaporkan 8.192, meskipun dokumentasi Apple masih menyebut 4.096. | Jauh lebih besar. |
| Harga | Asistennya gratis, termasuk Apple Intelligence di iOS 27. Satu pembelian seharga US$14,99 untuk suara, koneksi, tugas terjadwal, Private Cloud Compute di iOS 27, dan model cloud dengan kunci Anda. | US$0 hingga US$200 per bulan untuk tingkatan paket ChatGPT; US$20 untuk Plus. |
| Ponsel yang dibutuhkan | iPhone 15 Pro atau yang lebih baru, memori 8 GB. | Ponsel apa saja. |
| Saat kebijakan berubah | Tidak ada yang berubah pada percakapan Anda sebelumnya. | Tergantung apa yang dikatakan kebijakan baru tentang percakapan yang tersimpan. |
Keunggulan AI di perangkat
Permintaan yang benar-benar diajukan orang ke ponselnya. "Jadwalkan ulang rapat saya pukul 3 sore ke Kamis pagi." "Setel alarm supaya saya tiba di bandara pukul 2 siang besok, hitung waktu perjalanannya." "Malam ini pukul 9, cek cuaca besok terhadap rapat pertama saya." "Apa yang kamu lihat di foto ini?" Model seukuran ponsel, baik milik Orvena sendiri maupun Apple Intelligence, menangani bahasanya; alat-alat ponsel sendiri yang mengurus kalender dan alarm, dan Peta Apple menyediakan waktu perjalanan; entri kalender dan fotonya dipahami di perangkat dan tidak dikirim ke mana pun untuk dibaca.
Di mana cloud lebih unggul
Skala. Model di pusat data tahu lebih banyak, bernalar lebih lama, menulis lebih baik, dan bisa menampung dokumen sepanjang buku di dalam konteksnya. Untuk riset panjang, bidang yang sangat khusus, atau tulisan yang harus luar biasa, bukan sekadar bagus, Anda akan merasakan perbedaannya, dan secanggih apa pun rekayasa di ponsel, kesenjangan itu belum bisa ditutup saat ini. Layanan cloud juga menambahkan fitur yang membutuhkan infrastruktur, seperti agen yang menjelajah web selama beberapa menit sekaligus.
Hibrida, dilakukan dengan hati-hati
Anda tidak harus memilih sekali untuk selamanya. Layar Model di Orvena mencantumkan setiap mesin yang bisa dipakainya: di bawah Bawaan, Apple Intelligence di iOS 27; di bawah Model di perangkat, model Orvena sendiri yang sudah diunduh; dan di bawah Cloud, Private Cloud Compute dari Apple di iOS 27, tanpa kunci yang perlu diatur dan dengan batas harian yang ditetapkan Apple, atau model OpenRouter apa pun dengan kunci Anda sendiri. Pengaturan mesin default, Otomatis (di Pengaturan, Lanjutan), memakai model yang sudah Anda unduh, atau Apple Intelligence selama belum ada yang siap, dan tidak pernah beralih ke cloud dengan sendirinya. Dengan OpenRouter, sebelum permintaan cloud pertama dalam sebuah percakapan, Orvena bertanya apakah percakapan itu beserta hasil alatnya boleh dikirim ke penyedia. Private Cloud Compute bertanya sekali, saat Anda memilihnya. Dengan keduanya, data kesehatan atau keuangan tetap meminta izin lagi setiap kali. Layar suara menunjukkan mode yang sedang Anda pakai: "di iPhone ini" berwarna hijau, "cloud" berwarna kuning.
Cara memutuskan
Tuliskan sepuluh hal terakhir yang Anda tanyakan ke asisten. Jika sebagian besar tentang hidup Anda sendiri, seperti jadwal, foto, pesan yang sedang Anda tulis, atau tempat yang ingin dikunjungi di dekat Anda, AI di perangkat adalah default yang tepat: datanya bersifat pribadi dan tugasnya masih jauh di dalam jangkauan model seukuran ponsel. Jika sebagian besar berupa riset atau tulisan panjang, Anda butuh akses cloud sesekali, idealnya sebagai pilihan yang Anda buat per permintaan, bukan satu-satunya mode yang ada.
Pertanyaan umum
Apakah AI di perangkat lebih lambat daripada AI cloud?
Per token, ponsel memang lebih lambat daripada GPU pusat data, tetapi tidak ada waktu tunggu jaringan dan jawabannya mengalir saat ditulis, jadi jawaban singkat terasa instan. Yang butuh waktu lebih lama di ponsel adalah membaca percakapan yang panjang sebelum jawabannya mulai.
Apakah Private Cloud Compute seprivat AI di perangkat?
Tidak dengan cara yang sama. Private Cloud Compute berjalan di server Apple, jadi permintaannya keluar dari ponsel dan memerlukan koneksi. Apple menyatakan "Data yang sedang diproses di Private Cloud Compute tidak disimpan maupun dapat diakses oleh Apple" dan bahwa "peneliti privasi dan keamanan independen dapat memverifikasi jaminan privasi ini setiap saat." Di perangkat, tidak ada server dalam percakapan yang memerlukan jaminan semacam itu.
Apakah menjalankan AI di ponsel menguras baterai?
Pertanyaan singkat hanya memakan sedikit daya. Percakapan suara yang panjang membuat ponsel hangat seperti saat bermain game dan memakai baterai sebanding dengan itu. Tidak ada yang berjalan di latar belakang kecuali balasan yang sudah Anda mulai.
Apakah AI di perangkat tetap bisa mencari di web?
Ya. Saat Anda meminta informasi terkini, kuerinya dikirim ke penyedia pencarian, sama seperti dari browser, sementara proses membaca dan meringkasnya terjadi di ponsel.
Orvena menjalankan modelnya di iPhone dan memungkinkan Anda memilih Private Cloud Compute dari Apple, atau model cloud dengan kunci Anda sendiri, saat permintaan membutuhkannya.
Unduh di App Store