AI trên thiết bị và AI đám mây: điều gì thực sự thay đổi với bạn

Sự khác biệt giữa AI trên thiết bị và AI đám mây nằm ở một điều: mô hình chạy ở đâu. Mọi thứ khác (quyền riêng tư, giá cả, tốc độ, những gì mô hình làm được) đều bắt nguồn từ đó. Đây là bài so sánh từ phía người dùng, với số liệu thực tế ở những chỗ chúng tôi có.

Hai cách thiết kế

Với AI đám mây, tin nhắn của bạn được gửi đến một trung tâm dữ liệu, một mô hình rất lớn trả lời ở đó, và câu trả lời được gửi về. Với AI trên thiết bị, tin nhắn của bạn ở lại trên điện thoại và một mô hình nhỏ hơn trả lời ngay tại đó. Orvena thuộc loại thứ hai: nó chạy Qwen 3.5 4B, một bản tải về 3,1 GB chỉ một lần, trên GPU của iPhone, và trên iOS 27 nó cũng có thể trả lời bằng Apple Intelligence, mô hình trên thiết bị của Apple, không cần tải gì về.

So sánh trực tiếp AI trên thiết bị và AI đám mây

AI trên thiết bị làm tốt điều gì

Những yêu cầu người ta thực sự đưa ra với điện thoại. "Dời cuộc họp lúc 3 giờ chiều của tôi sang sáng thứ Năm." "Đặt báo thức để tôi có mặt ở sân bay trước 2 giờ chiều mai, tính cả thời gian di chuyển." "Tối nay lúc 9 giờ, đối chiếu thời tiết ngày mai với cuộc họp đầu tiên của tôi." "Bạn thấy gì trong bức ảnh này?" Một mô hình cỡ điện thoại, của Orvena hay Apple Intelligence, xử lý phần ngôn ngữ; các công cụ của chính điện thoại lo phần lịch và báo thức, còn Bản đồ Apple cung cấp thời gian di chuyển; mục lịch và bức ảnh được hiểu ngay trên thiết bị và không bị gửi đi đâu để đọc.

Đám mây làm tốt hơn ở đâu

Quy mô. Một mô hình trong trung tâm dữ liệu biết nhiều hơn, suy luận lâu hơn, viết hay hơn, và có thể chứa cả một tài liệu dài như một cuốn sách trong ngữ cảnh. Với nghiên cứu dài, một lĩnh vực chuyên sâu, hay bài viết cần xuất sắc chứ không chỉ tốt, bạn sẽ cảm nhận được sự khác biệt, và hiện nay không nỗ lực kỹ thuật nào trên điện thoại thu hẹp được khoảng cách đó. Các dịch vụ đám mây cũng bổ sung những tính năng cần đến hạ tầng, chẳng hạn các agent duyệt web liên tục trong nhiều phút.

Kết hợp cả hai, một cách cẩn thận

Bạn không phải chọn một lần là xong. Trang Mô hình của Orvena liệt kê mọi mô hình mà nó có thể dùng: trong mục Tích hợp sẵn là Apple Intelligence trên iOS 27; trong mục Mô hình trên thiết bị là mô hình đã tải về của Orvena; và trong mục Đám mây là Private Cloud Compute của Apple trên iOS 27, không cần thiết lập khóa và có giới hạn hằng ngày do Apple đặt ra, hoặc bất kỳ mô hình OpenRouter nào với khóa của riêng bạn. Cài đặt Công nghệ (trong Cài đặt, Nâng cao) mặc định ở chế độ Tự động: chế độ này dùng mô hình bạn đã tải về, hoặc Apple Intelligence khi chưa có mô hình nào sẵn sàng, và không bao giờ tự chuyển sang đám mây. Với OpenRouter, trước yêu cầu đám mây đầu tiên trong một cuộc trò chuyện, Orvena hỏi có gửi cuộc trò chuyện đó và các kết quả công cụ đến nhà cung cấp hay không. Private Cloud Compute chỉ hỏi một lần, khi bạn chọn nó. Với cả hai, dữ liệu sức khỏe hoặc tài chính vẫn được hỏi lại mỗi lần. Màn hình giọng nói cho thấy bạn đang ở chế độ nào: "trên iPhone này" màu xanh lá, "đám mây" màu vàng hổ phách.

Cách quyết định

Hãy ghi lại mười điều gần nhất bạn đã hỏi một trợ lý. Nếu phần lớn là về cuộc sống của chính bạn (lịch trình, ảnh, một tin nhắn bạn đang viết, một nơi nào đó gần đây để đến), AI trên thiết bị là lựa chọn mặc định đúng: dữ liệu mang tính cá nhân và các tác vụ nằm gọn trong khả năng của một mô hình cỡ điện thoại. Nếu phần lớn là nghiên cứu hoặc viết dài, đôi khi bạn sẽ cần đến đám mây, lý tưởng nhất là như một lựa chọn bạn đưa ra cho từng yêu cầu thay vì là chế độ duy nhất.

Câu hỏi thường gặp

AI trên thiết bị có chậm hơn AI đám mây không?

Tính theo từng token, điện thoại chậm hơn GPU trong trung tâm dữ liệu, nhưng không phải chờ mạng và câu trả lời hiện ra ngay trong lúc được viết, nên các câu trả lời ngắn có cảm giác tức thì. Điều mất nhiều thời gian hơn trên điện thoại là đọc một cuộc trò chuyện dài trước khi câu trả lời bắt đầu.

Private Cloud Compute có riêng tư như AI trên thiết bị không?

Không theo cùng một cách. Nó chạy trên máy chủ của Apple, nên yêu cầu rời khỏi điện thoại và cần kết nối mạng. Apple cho biết "Dữ liệu đang được xử lý trong Private Cloud Compute sẽ không được lưu trữ hay truy cập bởi Apple" và "các nhà nghiên cứu độc lập về quyền riêng tư và bảo mật có thể xác minh cam kết quyền riêng tư này bất kỳ lúc nào." Với AI trên thiết bị, không có máy chủ nào tham gia cuộc trò chuyện để phải đưa ra lời hứa đó.

Chạy AI trên điện thoại có làm hao pin không?

Một câu hỏi ngắn tốn rất ít pin. Một cuộc trò chuyện dài bằng giọng nói làm điện thoại ấm lên như khi chơi game và tiêu hao pin tương ứng. Không có gì chạy nền ngoài một câu trả lời bạn đã bắt đầu.

AI trên thiết bị có tìm kiếm web được không?

Có. Khi bạn hỏi thông tin mới nhất, truy vấn được gửi đến nhà cung cấp tìm kiếm, như khi dùng trình duyệt, còn việc đọc và tóm tắt diễn ra trên điện thoại.