Jak přerušit hlasového AI asistenta v telefonu iPhone a co se stane potom

Od verze 2.4 Orvena poslouchá, i když mluví. Odpověď můžete utnout, v půlce si to rozmyslet nebo říct "mhm", aniž byste ji zastavili, a malý model na jednotce Neural Engine v telefonu iPhone pozná, co z toho máte na mysli. Tady je, co v každém z těch případů udělá, jaké krátké odpovědi dává bez jazykového modelu a jak spolehlivě to funguje.

Co se stane, když Orveně skočíte do řeči

Během hlasové relace zůstává mikrofon zapnutý, i když Orvena přemýšlí a mluví. Potlačení ozvěny v telefonu iPhone odstraní z toho, co mikrofon slyší, vlastní hlas Orveny, takže zachytí jen vás. Jakmile rozpoznávač řeči Apple ohlásí první slova, Orvena ztiší hlas zhruba na třetinu hlasitosti a Cue, její model pro střídání v rozhovoru, si přečte, co jste řekli, spolu s větou, kterou Orvena zrovna říkala. Výsledky jsou tři:

U požadavku Cue také označí slovo, kterým požadavek začíná, takže "dobře, jasně, teď se podívej na Lisabon" dorazí k modelu jako "teď se podívej na Lisabon". Když si není jistý, nechá raději jedno slovo navíc: "dobře" navíc modelu nijak nevadí, kdežto ztráta slova "Lisabon" by vadila.

Jasný pokyn k zastavení platí, ještě když mluvíte, jakmile si je Cue jistý alespoň na 90 %. Všechno ostatní čeká na pauzu: 0,7 sekundy bez nových slov, nebo 0,4 sekundy, jakmile rozpoznávač označí vaši větu za dokončenou. Pouhé "hm", slovo pro někoho jiného v místnosti nebo televize v pozadí by se měly počítat jako pokračování, aby se odpověď neutínala pokaždé, když někdo promluví.

Totéž funguje, i když Orvena odpověď teprve připravuje. Když dodáte "vlastně radši v 7:30" ještě předtím, než začne mluvit, přestane pracovat na prvním požadavku a odpoví na nový.

Odpovědi, které se obejdou bez jazykového modelu

Některé věci, které v hlasové relaci řeknete, jazykový model vůbec nepotřebují. Když začíná nová replika, Cue nejdřív zkontroluje, jestli nejde o jednu z devíti krátkých frází, se kterými si Orvena poradí sama, a pokud ano, Orvena hned odpoví jednou z několika pevně daných vět:

Cue čte konec toho, co Orvena naposledy řekla, takže stejná slova mohou znamenat různé věci. Po otázce "Mám to přidat do vašeho kalendáře?" je "dobře" nebo "díky" vaší odpovědí na otázku a jde k modelu. K modelu jde i cokoli, v čem je nějaký požadavek: "díky, a teď přidej mléko na nákupní seznam" je požadavek, ne poděkování. Cue odpoví sám, jen když si je jistý alespoň na 90 %, a u rozloučení na 97 %, protože to relaci ukončí.

Když jde požadavek k modelu a 0,8 sekundy je ticho, Orvena řekne něco krátkého, například "Dobře, podívám se." Pokud odpověď není hotová ani po 10 sekundách, řekne "Ještě na tom pracuji." Ani jedno nezazní, jakmile odpověď začala.

Kde rozhodování běží

Cue je malý vlastní model aplikace Orvena s 376 miliony parametrů, natrénovaný přesně na tato dvě rozhodnutí. Běží na jednotce Neural Engine v telefonu iPhone, kde jedno rozhodnutí trvalo zhruba 8 milisekund, když byl telefon v klidu, a zhruba 10, když GPU zrovna generovalo text; měřeno na iPhonu 17 Pro Max. GPU tak zůstává jazykovému modelu, který píše odpovědi, a na tom nejvíc záleží, když jde o vlastní model Orveny, který generuje na stejném telefonu.

Cue čte jen text: přepis z rozpoznávače Apple v zařízení a slova, která Orvena právě říkala. Nic z přerušení telefon neopouští. Má 385 MB a stahuje se spolu s hlasy, jakmile hlas odemknete. Při první hlasové relaci se jednorázově připraví pro jednotku Neural Engine, pod stejným ukazatelem průběhu jako hlasy. Pokud se ho nepodařilo stáhnout, třeba proto, že jste byli offline, hlas se přesto spustí a oznámí vám: "Přerušování je zatím vypnuté. Orvena ho dokončí, až příště spustíte hlas."

Model a referenční kód jsou na Hugging Face pod licencí Apache 2.0.

Jak často se trefí

Na testovacích sadách napsaných odděleně od trénovacích dat, ve všech svých 30 jazycích, rozhodl Cue správně v 90,4 % z 900 přerušení a v 95,2 % z 1 800 nových replik. Zkratku volí, jen když si je jistý: z 990 požadavků určených jazykovému modelu dostal místo toho krátkou odpověď jen 1.

Dobré vědět

• Jazyky. Cue umí 30 jazyků. Hlas poslouchá v jazycích, které podporuje rozpoznávač Apple v zařízení, a krátké odpovědi fungují ve všech z nich kromě norštiny.
• Reproduktor, nebo sluchátka. S AirPods nebo jinými sluchátky Orvena poslouchá celou dobu. Na vestavěném reproduktoru iPhonu spoléhá na potlačení ozvěny a bez něj poslouchá jen mezi odpověďmi.

Časté otázky

S jakými modely přerušování funguje?

S vlastním modelem aplikace Orvena, s Apple Intelligence, s Private Cloud Compute a s cloudovými modely, které přidáte s vlastním klíčem. Cue běží v telefonu bez ohledu na to, který model píše odpověď. V živé hlasové relaci s vlastním klíčem OpenAI zvládá přerušování sám realtime model OpenAI.

Funguje to offline?

Ano, jakmile jsou Cue a hlasy v telefonu a odpověď přichází od modelu aplikace Orvena nebo od Apple Intelligence. Rozpoznávání, rozhodnutí i hlas běží v telefonu iPhone.

Uchovává si Orvena, co říkám, zatímco mluví?

Přepisuje to rozpoznávačem Apple v zařízení, stejně jako když čeká, až promluvíte, a Cue ten přepis čte v telefonu. Slova, o kterých usoudí, že nebyla určena jí, zahodí a do konverzace se nedostanou.

Proč Orvena před odpovědí říká "podívám se"?

Když jde požadavek k jazykovému modelu a 0,8 sekundy je ticho, Orvena řekne krátkou větu, abyste věděli, že vás slyšela. Pokud odpověď trvá déle než 10 sekund, řekne vám, že na ní ještě pracuje.

Je Cue open source?

Váhy, verze Core ML pro jednotku Neural Engine a referenční kód jsou na Hugging Face pod licencí Apache 2.0, stejnou, jakou má model Qwen3, na kterém je postavený. Trénovací data jsou tam také zveřejněná, pod licencí CC BY 4.0.