Cum întrerupi un asistent vocal AI pe iPhone și ce se întâmplă apoi

Începând cu versiunea 2.4, Orvena ascultă în timp ce vorbește. Poți scurta un răspuns, te poți răzgândi la jumătatea lui sau poți spune "mhm" fără s-o oprești, iar un model mic care rulează pe Neural Engine din iPhone își dă seama pe care dintre ele ai avut-o în minte. Iată ce face în fiecare caz, răspunsurile scurte pe care le dă fără modelul lingvistic și cât de bine se descurcă.

Ce se întâmplă când o întrerupi pe Orvena

În timpul unei sesiuni vocale, microfonul rămâne deschis cât timp Orvena se gândește și vorbește. Anularea ecoului de pe iPhone scoate vocea Orvena din ce aude microfonul, așa că te aude doar pe tine. Imediat ce recunoașterea vocală Apple detectează cuvinte, Orvena își coboară vocea la aproximativ o treime din volum, iar Cue, modelul ei pentru schimbul de replici, citește ce ai spus alături de propoziția pe care Orvena o rostea. Există trei rezultate posibile:

La o cerere, Cue marchează și cuvântul de la care începe cererea, așa că "ok, am înțeles, acum verifică Lisabona" ajunge la model ca "acum verifică Lisabona". Când nu e sigur, preferă să păstreze un cuvânt de prisos: un "ok" în plus nu încurcă modelul, dar dacă s-ar pierde "Lisabona", l-ar încurca.

O oprire clară are efect cât încă vorbești, de îndată ce Cue este sigur în proporție de cel puțin 90%. Tot restul așteaptă o pauză: 0,7 secunde fără cuvinte noi sau 0,4 secunde după ce recunoașterea a marcat propoziția ta ca terminată. Un "hm?", o vorbă spusă altcuiva din cameră sau televizorul din fundal ar trebui s-o lase să continue, ca răspunsul să nu fie tăiat de fiecare dată când vorbește cineva.

La fel funcționează și cât timp Orvena încă pregătește un răspuns. Dacă adaugi "de fapt, pune-o la 7:30" înainte să înceapă să vorbească, renunță la prima cerere și răspunde la cea nouă.

Răspunsuri care ocolesc modelul lingvistic

Unele lucruri pe care le spui într-o sesiune vocală nu au nevoie deloc de un model lingvistic. Când începe o replică nouă, Cue verifică mai întâi dacă e una dintre cele nouă fraze scurte pe care Orvena le poate gestiona singură și, dacă da, Orvena răspunde imediat cu una dintre câteva replici fixe:

Cue citește finalul a ceea ce a spus Orvena ultima dată, așa că aceleași cuvinte pot însemna lucruri diferite. După "Să-l adaug în calendar?", un "ok" sau un "mersi" este răspunsul tău la întrebare și ajunge la model. Tot ce conține o cerere ajunge și el la model: "mersi, acum pune lapte pe lista de cumpărături" este o cerere, nu un mulțumesc. Cue răspunde singur doar când este sigur în proporție de cel puțin 90%, și de cel puțin 97% la un rămas-bun, pentru că acesta încheie sesiunea.

Când o cerere ajunge totuși la model și nu s-a spus nimic timp de 0,8 secunde, Orvena spune ceva scurt, de exemplu "Bine, verific acum." Dacă răspunsul tot nu e gata după 10 secunde, spune "Încă lucrez la asta." Niciuna nu se mai aude după ce a început răspunsul.

Unde se ia decizia

Cue este un model mic, propriu Orvena, cu 376 de milioane de parametri, antrenat exact pentru aceste două decizii. Rulează pe Neural Engine din iPhone: pe un iPhone 17 Pro Max, o decizie a durat aproximativ 8 milisecunde cu telefonul în repaus și aproximativ 10 cât timp GPU-ul era ocupat cu generarea. Astfel, GPU-ul rămâne liber pentru modelul lingvistic care scrie răspunsurile, lucru care contează mai ales când acel model este modelul propriu Orvena, care generează pe același telefon.

Cue citește doar text: transcrierea de la recunoașterea de pe dispozitiv a Apple și cuvintele pe care Orvena le rostea. Nimic legat de o întrerupere nu părăsește telefonul. Are o descărcare de 385 MB, care vine odată cu vocile după ce deblochezi vocea, iar prima sesiune vocală îl pregătește o singură dată pentru Neural Engine, cu aceeași bară de progres ca vocile. Dacă nu s-a putut descărca, de exemplu pentru că erai offline, vocea pornește oricum și te anunță: "Întreruperea este dezactivată deocamdată. Orvena va termina configurarea data viitoare când porniți vocea."

Modelul și codul de referință sunt pe Hugging Face, sub licența Apache 2.0.

Cât de des decide corect

Pe seturi de test scrise separat de datele de antrenament, în toate cele 30 de limbi ale sale, Cue a luat decizia corectă în 90,4% din 900 de întreruperi și în 95,2% din 1.800 de replici noi. Ia scurtătura doar când este sigur: din 990 de cereri destinate modelului lingvistic, 1 a primit în schimb un răspuns scurt.

Bine de știut

• Limbi. Cue cunoaște 30 de limbi. Vocea ascultă în limbile acceptate de recunoașterea de pe dispozitiv a Apple, iar răspunsurile scurte funcționează în toate, cu excepția norvegienei.
• Difuzor sau căști. Cu AirPods sau alte căști, Orvena ascultă tot timpul. Pe difuzorul iPhone-ului se bazează pe anularea ecoului, iar fără ea Orvena ascultă doar între răspunsuri.

Întrebări frecvente

Cu ce modele funcționează întreruperea?

Modelul propriu Orvena, Apple Intelligence, Private Cloud Compute și modelele din cloud pe care le adaugi cu propria cheie. Cue rulează pe telefon indiferent de modelul care scrie răspunsul. Într-o sesiune vocală live cu propria cheie OpenAI, modelul realtime al OpenAI gestionează singur întreruperile.

Funcționează offline?

Da, odată ce Cue și vocile sunt pe telefon, iar răspunsul vine de la modelul Orvena sau de la Apple Intelligence. Recunoașterea, decizia și vocea rulează toate pe iPhone.

Orvena păstrează ce spun cât timp vorbește?

Transcrie ce spui cu recunoașterea de pe dispozitiv a Apple, la fel ca atunci când îți ascultă replica, iar Cue citește transcrierea pe telefon. Cuvintele despre care decide că nu îi erau adresate sunt eliminate și nu devin parte din conversație.

De ce spune Orvena "verific acum" înainte să răspundă?

Când o cerere ajunge la modelul lingvistic și nu s-a spus nimic timp de 0,8 secunde, Orvena spune o replică scurtă, ca să știi că te-a auzit. Dacă răspunsul durează mai mult de 10 secunde, îți spune că încă lucrează la el.

Cue este open source?

Ponderile, o versiune Core ML pentru Neural Engine și codul de referință sunt pe Hugging Face, sub Apache 2.0, aceeași licență ca a modelului Qwen3 pe care este construit. Tot acolo sunt publicate și datele de antrenament, sub CC BY 4.0.