Orvena 4B: mô hình trên thiết bị được huấn luyện cho những việc bạn nhờ iPhone làm
Orvena 4B là mô hình ngôn ngữ mà Orvena chạy trên iPhone của bạn từ phiên bản 2.5. Đây là mô hình riêng của Orvena, được huấn luyện cho những việc người ta thường nhờ trợ lý trên điện thoại: dời một cuộc họp, đặt báo thức cho giờ cần xuất phát, tìm một địa điểm và thời gian đi đến đó, tìm kiếm trên web, hoặc làm việc trong Notion, Todoist hay Airtable. Mô hình chạy trên điện thoại, trả lời bằng 30 ngôn ngữ và miễn phí trong Orvena, không cần tài khoản. Hướng dẫn này trình bày mô hình được huấn luyện để làm gì, kết quả trên 547 tác vụ kiểm thử, tốc độ trên iPhone, cách chuyển sang mô hình này và nơi tải trọng số mở.
Tổng quan về Orvena 4B
| Kích thước | 4 tỷ tham số, chạy ở 4 bit trên điện thoại. |
| Tải về | 3,1 GB gồm mười tệp, mỗi tệp được đối chiếu với một mã băm đã công bố khi tải về xong. |
| Điện thoại | iPhone 15 Pro trở lên. Khi chạy, mô hình chiếm hơn 3 GB bộ nhớ một chút, nên cần 8 GB như các điện thoại này có. |
| Ngôn ngữ | 30, là các ngôn ngữ giao diện của Orvena. Mô hình được huấn luyện và kiểm thử trên tất cả các ngôn ngữ này. |
| Cửa sổ hội thoại | 16.384 token trong Orvena, khoảng 12.000 từ. |
| Suy nghĩ | Tắt theo mặc định. Mô hình trả lời trực tiếp, và bạn có thể bật suy nghĩ trong Mô hình. |
| Hình ảnh | Đọc ảnh bạn đính kèm, ngay trên điện thoại. |
| Giấy phép | Apache 2.0, trọng số mở trên Hugging Face. |
Mô hình được huấn luyện để làm gì
Orvena 4B học từ các yêu cầu được diễn lại trên một iPhone mô phỏng có các công cụ thật của Orvena: lịch, lời nhắc, báo thức và hẹn giờ, địa điểm và thời gian di chuyển, thời tiết, tìm kiếm web và đọc trang, ảnh, Sức khỏe, danh bạ, tệp, Nhạc và tác vụ theo lịch. Điện thoại mô phỏng còn có các máy chủ MCP với danh sách công cụ của Notion, Linear, GitHub, Todoist, Airtable, Atlassian, Gmail, Google Drive, Google Calendar, Granola, Home Assistant và Zapier.
Mỗi kịch bản đi kèm dữ liệu của điện thoại, như lịch, danh bạ và địa điểm, cùng các bước kiểm tra xem trợ lý phải gọi công cụ nào và câu trả lời phải có nội dung gì. Chỉ những câu trả lời vượt qua các bước kiểm tra mới được giữ lại, tổng cộng 3.397 kịch bản. Hai tập nhỏ hơn dạy mô hình biết kiềm chế: những yêu cầu mà không công cụ nào làm được, và những câu hỏi thường ngày được hỏi khi có kết nối đã cài, để mô hình trả lời hoặc nói rõ việc mình không làm được thay vì vội dùng công cụ. Tập thứ ba giúp mô hình tuân theo yêu cầu định dạng, chẳng hạn "trả lời bằng ba gạch đầu dòng".
Kết quả trên 547 tác vụ điện thoại
Orvena kiểm thử các mô hình trên benchmark của riêng mình: 547 tác vụ bằng 30 ngôn ngữ, không tác vụ nào được dùng trong huấn luyện. Mỗi tác vụ chạy qua vòng lặp agent của Orvena trên dữ liệu điện thoại mô phỏng và chỉ đạt khi đúng công cụ được gọi với đúng chi tiết và câu trả lời nói đúng điều cần nói, bằng ngôn ngữ của người dùng. Các kịch bản và mọi kết quả được công bố tại Orvena/orvena-bench. Qwen 3.5 4B, mô hình mà Orvena tải về trước đây, được chạy với chế độ suy nghĩ tắt, giống Orvena 4B.
| Hạng mục | Tác vụ | Orvena 4B | Qwen 3.5 4B |
|---|---|---|---|
| Tất cả tác vụ | 547 | 440 (80,4%) | 345 (63,1%) |
| Tác vụ nhiều bước | 70 | 43 | 17 |
| Kết nối MCP | 62 | 51 | 45 |
| Địa điểm | 38 | 35 | 26 |
| Lịch | 31 | 20 | 13 |
| Web | 31 | 29 | 26 |
| Báo thức và hẹn giờ | 25 | 20 | 17 |
| Không cần công cụ | 23 | 16 | 19 |
| Thời tiết | 22 | 18 | 18 |
| Lời nhắc | 21 | 18 | 14 |
| Khắc phục lỗi công cụ | 19 | 18 | 12 |
| Thời gian di chuyển | 19 | 19 | 17 |
| Câu hỏi tiếp nối | 18 | 13 | 9 |
| Tác vụ theo lịch | 16 | 12 | 9 |
| Việc không làm được | 13 | 9 | 10 |
| Nhạc | 10 | 10 | 8 |
| Sức khỏe | 7 | 7 | 6 |
| Ảnh | 7 | 6 | 6 |
| Danh bạ | 6 | 5 | 6 |
| Tệp | 5 | 4 | 3 |
| Thiết bị | 4 | 4 | 4 |
Thay đổi lớn nhất nằm ở tác vụ nhiều bước, 43 trên 70 so với 17. "Mai mình có buổi phỏng vấn xin việc đó, đặt giúp mình báo thức lúc cần đi nhé, mình đi metro" cần lịch, vị trí hiện tại, thời gian đi bằng phương tiện công cộng rồi mới đến báo thức. "Trong ghi chú lúc đi xem căn hộ có số của thợ sửa ống nước ở đâu đó, mai 10 giờ nhắc mình gọi cho anh ấy" cần tìm trong tệp trước khi có thể tạo lời nhắc.
Các kết nối cũng không làm mô hình phân tâm. Benchmark đưa ra cùng 100 yêu cầu thường ngày hai lần, một lần trên điện thoại không có kết nối nào và một lần với 2 đến 6 kết nối đã cài. Orvena 4B đạt 81 và 83, còn Qwen 3.5 4B đạt 64 và 60. Cứ năm tác vụ thì vẫn có một tác vụ hỏng ở đâu đó, và đôi khi mô hình hành động ngay trong khi lẽ ra nên hỏi bạn chi tiết còn thiếu.
Tốc độ trên iPhone
Trên iPhone 17 Pro Max với Orvena, 14 tác vụ được chạy mỗi tác vụ hai lần, có để điện thoại nguội giữa các lần chạy: chuỗi công cụ, yêu cầu thiếu một chi tiết và yêu cầu mà mô hình không làm được.
| Orvena 4B | Qwen 3.5 4B, tắt suy nghĩ | Qwen 3.5 4B, suy nghĩ tự động | |
|---|---|---|---|
| Thời gian trung vị mỗi tác vụ | 15,1 giây | 16,3 giây | 37,0 giây |
| Token viết ra mỗi lượt | 169 | 213 | 757 |
Suy nghĩ tự động là mặc định của Orvena trước khi có Orvena 4B, và phần lớn khác biệt đến từ phần suy nghĩ mà mô hình không còn cần nữa: nó viết ít token hơn cho cùng một tác vụ. Trên điện thoại này, tốc độ giải mã khoảng 21 token mỗi giây, nên viết ít hơn chính là điều giúp nó nhanh hơn.
Cách chuyển sang Orvena 4B
Khi cài mới, trang chọn mô hình trong phần thiết lập sẽ đề xuất nó: "Orvena 4B, mô hình riêng của Orvena, là lựa chọn phù hợp nhất", kèm dung lượng tải về. Nếu bạn đang dùng Orvena:
- Cập nhật Orvena từ App Store. Màn hình "Giới thiệu Orvena 4B" xuất hiện một lần.
- Chạm "Chuyển sang Orvena 4B". Màn hình cho biết dung lượng tải về và nói rõ các cuộc trò chuyện cùng cài đặt của bạn vẫn giữ nguyên.
- Cứ tiếp tục dùng Orvena trong lúc tải về. Một vòng tròn nhỏ trên thanh tiêu đề của cuộc trò chuyện hiển thị tiến độ, và khi mô hình sẵn sàng, một biểu ngữ hiện "Đang dùng Orvena 4B. Bạn có thể chuyển lại trong Mô hình."
Bạn cũng có thể chuyển bất cứ lúc nào: mở Cài đặt từ menu góc trên bên trái, rồi Mô hình, chạm Nhận ở Orvena 4B, và chạm Dùng khi tải về xong. Nếu bạn trả lời bằng Private Cloud Compute hoặc mô hình đám mây của riêng mình, màn hình chỉ có nút "Đã hiểu", và Orvena 4B chờ sẵn trong Mô hình cho lúc bạn muốn dùng mô hình trên thiết bị.
Orvena 4B khởi đầu với chế độ suy nghĩ tắt. Để mô hình suy luận trước khi trả lời, hãy đặt Suy nghĩ thành Tự động hoặc Tùy chỉnh trong Mô hình. Orvena ghi nhớ cài đặt này cho từng mô hình, nên khi quay lại Qwen 3.5 4B, cài đặt riêng của nó sẽ được khôi phục. Qwen 3.5 4B vẫn có trong Mô hình, và trên iOS 27 thì Apple Intelligence cũng vậy.
Trọng số mở
Orvena 4B được phát hành theo giấy phép Apache 2.0. Orvena/Orvena-4B chứa trọng số độ chính xác đầy đủ, một đầu dự đoán đa token để giải mã nhanh hơn trên máy chủ, và báo cáo kỹ thuật trình bày đầy đủ dữ liệu, quá trình huấn luyện và đánh giá. Orvena/Orvena-4B-MLX-4bit chính là bản build mà ứng dụng tải về. Mô hình giữ nguyên kiến trúc của mô hình gốc, Qwen3.5-4B, nên các runtime hỗ trợ mô hình đó, như vLLM, SGLang, Transformers và MLX, có thể chạy nó ngay mà không cần chỉnh sửa.
Câu hỏi thường gặp
Orvena 4B có miễn phí không?
Có. Mô hình miễn phí trong Orvena, không cần tài khoản, không giới hạn và không thuê bao. Premium Unlock, một lần mua duy nhất, bổ sung trò chuyện bằng giọng nói, kết nối và tác vụ theo lịch, và tất cả đều hoạt động với Orvena 4B.
Orvena 4B có hoạt động ngoại tuyến không?
Có. Trò chuyện, ảnh và các công cụ sẵn có của điện thoại hoạt động mà không cần kết nối. Tìm kiếm web, thời tiết, địa điểm, thời gian di chuyển và các dịch vụ đã kết nối vẫn cần internet, như hướng dẫn ngoại tuyến đã liệt kê.
Những iPhone nào chạy được Orvena 4B?
iPhone 15 Pro trở lên. Khi chạy, mô hình cần hơn 3 GB bộ nhớ một chút, và chỉ những điện thoại có 8 GB mới còn đủ chỗ cho iOS. Các iPhone cũ hơn có 6 GB trở xuống.
Tôi có thể quay lại Qwen 3.5 4B không?
Có. Qwen 3.5 4B vẫn có trong Mô hình. Chạm Dùng ở mô hình đó, và Orvena chuyển lại với cài đặt suy nghĩ riêng của nó.
Orvena 4B có phải mã nguồn mở không?
Trọng số của mô hình được mở theo giấy phép Apache 2.0, nên ai cũng có thể tải về, chạy, tinh chỉnh và phân phối. Benchmark 547 tác vụ dùng để kiểm thử mô hình cũng được công bố, theo giấy phép CC BY 4.0. Dữ liệu huấn luyện không được công khai.
Orvena miễn phí trên App Store cho iPhone 15 Pro trở lên. Orvena 4B chỉ cần tải về một lần, 3,1 GB, và chạy trên điện thoại.
Tải về trên App Store