Πώς να διακόψετε έναν φωνητικό βοηθό AI στο iPhone και τι γίνεται μετά

Από την έκδοση 2.4, το Orvena ακούει ενώ μιλά. Μπορείτε να κόψετε μια απάντηση, να αλλάξετε γνώμη στη μέση της ή να πείτε "αχά" χωρίς να το σταματήσετε, και ένα μικρό μοντέλο στο Neural Engine του iPhone καταλαβαίνει ποιο από αυτά εννοούσατε. Ακολουθεί τι κάνει σε κάθε περίπτωση, οι σύντομες απαντήσεις που δίνει χωρίς το γλωσσικό μοντέλο και πόσο καλά τα καταφέρνει.

Τι συμβαίνει όταν μιλάτε ενώ μιλά το Orvena

Σε μια φωνητική συνεδρία το μικρόφωνο μένει ανοιχτό όσο το Orvena σκέφτεται και μιλά. Η ακύρωση ηχούς του iPhone αφαιρεί τη φωνή του ίδιου του Orvena από ό,τι ακούει το μικρόφωνο, ώστε να πιάνει μόνο εσάς. Μόλις η αναγνώριση ομιλίας της Apple αναφέρει λέξεις, το Orvena χαμηλώνει τη φωνή του περίπου στο ένα τρίτο της έντασης, και το Cue, το μοντέλο του για την εναλλαγή των γύρων, διαβάζει ό,τι είπατε μαζί με την πρόταση που έλεγε εκείνη τη στιγμή το Orvena. Υπάρχουν τρεις εκβάσεις:

Για ένα αίτημα, το Cue σημειώνει επίσης τη λέξη από την οποία ξεκινά, οπότε το "οκ, κατάλαβα, τώρα δες τη Λισαβόνα" φτάνει στο μοντέλο ως "τώρα δες τη Λισαβόνα". Όταν δεν είναι σίγουρο, κρατά μία λέξη παραπάνω: ένα επιπλέον "οκ" δεν κοστίζει τίποτα στο μοντέλο, ενώ η απώλεια της "Λισαβόνας" θα κόστιζε.

Μια ξεκάθαρη εντολή διακοπής εφαρμόζεται ενώ ακόμη μιλάτε, μόλις το Cue είναι τουλάχιστον 90% σίγουρο. Όλα τα άλλα περιμένουν μια παύση: 0,7 δευτερόλεπτα χωρίς νέες λέξεις, ή 0,4 δευτερόλεπτα αφού η αναγνώριση έχει σημειώσει την πρότασή σας ως ολοκληρωμένη. Ένα "χμ", μια κουβέντα με κάποιον άλλον στο δωμάτιο ή η τηλεόραση στο βάθος πρέπει να μετρούν ως συνέχεια, ώστε η απάντηση να μην κόβεται κάθε φορά που μιλά κάποιος.

Το ίδιο ισχύει και όσο το Orvena ακόμη ετοιμάζει μια απάντηση. Αν προσθέσετε "όχι, καλύτερα στις 7:30" πριν αρχίσει να μιλά, σταματά να δουλεύει πάνω στο πρώτο αίτημα και απαντά στο νέο.

Απαντήσεις που παρακάμπτουν το γλωσσικό μοντέλο

Ορισμένα πράγματα που λέτε σε μια φωνητική συνεδρία δεν χρειάζονται καθόλου γλωσσικό μοντέλο. Όταν ξεκινά ένας νέος γύρος, το Cue ελέγχει πρώτα αν πρόκειται για μία από εννέα σύντομες φράσεις που το Orvena μπορεί να χειριστεί μόνο του, και αν ναι, το Orvena απαντά αμέσως με μία από λίγες έτοιμες απαντήσεις:

Το Cue διαβάζει το τέλος όσων είπε τελευταία το Orvena, οπότε οι ίδιες λέξεις μπορούν να σημαίνουν διαφορετικά πράγματα. Μετά το "Να το προσθέσω στο ημερολόγιό σας;", ένα "εντάξει" ή ένα "ευχαριστώ" είναι η απάντησή σας στην ερώτηση, και πηγαίνει στο μοντέλο. Ό,τι περιέχει αίτημα πηγαίνει επίσης στο μοντέλο: το "ευχαριστώ, τώρα πρόσθεσε γάλα στη λίστα για ψώνια" είναι αίτημα, όχι ευχαριστία. Το Cue απαντά το ίδιο μόνο όταν είναι τουλάχιστον 90% σίγουρο, και 97% για έναν αποχαιρετισμό, επειδή αυτός τερματίζει τη συνεδρία.

Όταν ένα αίτημα πηγαίνει τελικά στο μοντέλο και δεν έχει ειπωθεί τίποτα για 0,8 δευτερόλεπτα, το Orvena λέει κάτι σύντομο όπως "Εντάξει, για να δω." Αν η απάντηση δεν είναι ακόμη έτοιμη μετά από 10 δευτερόλεπτα, λέει "Το δουλεύω ακόμα." Καμία από τις δύο φράσεις δεν ακούγεται αφού έχει αρχίσει η απάντηση.

Πού εκτελείται η απόφαση

Το Cue είναι ένα μικρό μοντέλο του ίδιου του Orvena, με 376 εκατομμύρια παραμέτρους, εκπαιδευμένο ακριβώς για αυτές τις δύο αποφάσεις. Εκτελείται στο Neural Engine του iPhone, όπου μία απόφαση χρειάστηκε περίπου 8 χιλιοστά του δευτερολέπτου με το τηλέφωνο σε αδράνεια και περίπου 10 όσο η GPU ήταν απασχολημένη με την παραγωγή κειμένου, όπως μετρήθηκε σε iPhone 17 Pro Max. Έτσι η GPU μένει για το γλωσσικό μοντέλο που γράφει τις απαντήσεις, κάτι που μετρά περισσότερο όταν τις γράφει το μοντέλο του ίδιου του Orvena, στο ίδιο τηλέφωνο.

Το Cue διαβάζει μόνο κείμενο: τη μεταγραφή από την αναγνώριση ομιλίας της Apple στη συσκευή και τις λέξεις που έλεγε το Orvena. Τίποτα σχετικό με μια διακοπή δεν φεύγει από το τηλέφωνο. Είναι λήψη 385 MB, κατεβαίνει μαζί με τις φωνές αφού ξεκλειδώσετε τη φωνή, και η πρώτη φωνητική συνεδρία το προετοιμάζει μία φορά για το Neural Engine, πίσω από την ίδια ένδειξη προόδου με τις φωνές. Αν δεν μπόρεσε να κατέβει, για παράδειγμα επειδή ήσασταν offline, η φωνή ξεκινά κανονικά και σας λέει: "Η διακοπή είναι προς το παρόν απενεργοποιημένη. Το Orvena θα ολοκληρώσει τη ρύθμιση την επόμενη φορά που θα ξεκινήσετε τη φωνή."

Το μοντέλο και ο κώδικας αναφοράς βρίσκονται στο Hugging Face με την άδεια Apache 2.0.

Πόσο συχνά αποφασίζει σωστά

Σε σύνολα δοκιμών γραμμένα ξεχωριστά από τα δεδομένα εκπαίδευσής του, και στις 30 γλώσσες του, το Cue πήρε τη σωστή απόφαση στο 90,4% από 900 διακοπές και στο 95,2% από 1.800 νέους γύρους. Παίρνει τη σύντομη διαδρομή μόνο όταν είναι σίγουρο: από 990 αιτήματα που προορίζονταν για το γλωσσικό μοντέλο, μόνο 1 πήρε αντί γι' αυτό σύντομη απάντηση.

Καλό να ξέρετε

• Γλώσσες. Το Cue ξέρει 30 γλώσσες. Το Orvena ακούει στις γλώσσες που υποστηρίζει η αναγνώριση ομιλίας της Apple στη συσκευή, και οι σύντομες απαντήσεις λειτουργούν σε όλες εκτός από τα νορβηγικά.
• Ηχείο ή ακουστικά. Με AirPods ή άλλα ακουστικά, το Orvena ακούει συνεχώς. Στο ενσωματωμένο ηχείο του iPhone βασίζεται στην ακύρωση ηχούς, και χωρίς αυτήν ακούει μόνο ανάμεσα στις απαντήσεις.

Συχνές ερωτήσεις

Με ποια μοντέλα λειτουργεί η διακοπή;

Με το μοντέλο του ίδιου του Orvena, το Apple Intelligence, το Private Cloud Compute και τα μοντέλα cloud που προσθέτετε με δικό σας κλειδί. Το Cue εκτελείται στο τηλέφωνο, όποιο μοντέλο κι αν γράφει την απάντηση. Σε μια ζωντανή φωνητική συνεδρία με δικό σας κλειδί OpenAI, τις διακοπές τις χειρίζεται μόνο του το realtime μοντέλο της OpenAI.

Λειτουργεί offline;

Ναι, αφού το Cue και οι φωνές βρίσκονται στο τηλέφωνο και η απάντηση έρχεται από το μοντέλο του Orvena ή από το Apple Intelligence. Η αναγνώριση, η απόφαση και η φωνή εκτελούνται όλες στο iPhone.

Κρατά το Orvena όσα λέω ενώ μιλά;

Τα μεταγράφει με την αναγνώριση ομιλίας της Apple στη συσκευή, όπως κάνει όταν περιμένει τη σειρά σας, και το Cue διαβάζει αυτή τη μεταγραφή στο τηλέφωνο. Οι λέξεις που κρίνει ότι δεν απευθύνονταν σε αυτό απορρίπτονται και δεν γίνονται μέρος της συνομιλίας.

Γιατί το Orvena λέει "για να δω" πριν απαντήσει;

Όταν ένα αίτημα πηγαίνει στο γλωσσικό μοντέλο και δεν έχει ειπωθεί τίποτα για 0,8 δευτερόλεπτα, το Orvena λέει μια σύντομη φράση για να ξέρετε ότι σας άκουσε. Αν η απάντηση αργεί πάνω από 10 δευτερόλεπτα, σας λέει ότι ακόμη δουλεύει.

Είναι το Cue ανοιχτού κώδικα;

Τα βάρη, μια έκδοση Core ML για το Neural Engine και ο κώδικας αναφοράς βρίσκονται στο Hugging Face με άδεια Apache 2.0, την ίδια με το μοντέλο Qwen3 στο οποίο βασίζεται. Εκεί δημοσιεύονται και τα δεδομένα εκπαίδευσης, με άδεια CC BY 4.0.