Ako prerušiť AI hlasového asistenta v iPhone a čo sa stane potom

Od verzie 2.4 Orvena počúva, aj keď hovorí. Odpoveď môžete utnúť, v polovici si to rozmyslieť alebo povedať "mhm" bez toho, aby ste ju zastavili, a malý model na Neural Engine v iPhone rozpozná, čo z toho máte na mysli. Tu je, čo v každom z týchto prípadov urobí, aké krátke odpovede dáva bez jazykového modelu a ako spoľahlivo to funguje.

Čo sa stane, keď Orvene skočíte do reči

Počas hlasovej relácie zostáva mikrofón zapnutý, aj keď Orvena premýšľa a hovorí. Potlačenie ozveny v iPhone odstráni z toho, čo mikrofón počuje, vlastný hlas Orveny, takže zachytí len vás. Hneď ako rozpoznávanie reči od Apple ohlási prvé slová, Orvena stíši hlas približne na tretinu hlasitosti a Cue, jej model na striedanie v rozhovore, si prečíta, čo ste povedali, spolu s vetou, ktorú Orvena práve hovorila. Výsledky sú tri:

Pri požiadavke Cue označí aj slovo, ktorým sa požiadavka začína, takže "dobre, jasné, teraz sa pozri na Lisabon" sa k modelu dostane ako "teraz sa pozri na Lisabon". Keď si nie je istý, nechá radšej jedno slovo navyše: "dobre" navyše modelu nijako neprekáža, kým strata slova "Lisabon" by prekážala.

Jasný pokyn na zastavenie platí, ešte kým hovoríte, hneď ako si je Cue istý aspoň na 90 %. Všetko ostatné čaká na prestávku: 0,7 sekundy bez nových slov alebo 0,4 sekundy, keď rozpoznávač označí vašu vetu za dokončenú. Obyčajné "hm", poznámka pre niekoho iného v miestnosti alebo televízor v pozadí by sa mali počítať ako pokračovanie, aby sa odpoveď neutínala zakaždým, keď niekto prehovorí.

Rovnako to funguje, aj kým Orvena odpoveď ešte pripravuje. Ak dodáte "vlastne radšej o 7:30" skôr, ako začne hovoriť, prestane pracovať na prvej požiadavke a odpovie na novú.

Odpovede, ktoré sa zaobídu bez jazykového modelu

Niektoré veci, ktoré v hlasovej relácii poviete, jazykový model vôbec nepotrebujú. Keď sa začína nová replika, Cue najprv skontroluje, či nejde o jednu z deviatich krátkych fráz, ktoré Orvena zvládne sama, a ak áno, Orvena hneď odpovie jednou z niekoľkých pevne daných viet:

Cue číta koniec toho, čo Orvena naposledy povedala, takže tie isté slová môžu znamenať rôzne veci. Po otázke "Mám to pridať do vášho kalendára?" je "dobre" alebo "ďakujem" vašou odpoveďou na otázku a ide k modelu. K modelu ide aj čokoľvek, v čom je nejaká požiadavka: "ďakujem, a teraz pridaj mlieko do nákupného zoznamu" je požiadavka, nie poďakovanie. Cue odpovie sám, len keď si je istý aspoň na 90 %, a pri rozlúčke na 97 %, pretože tá reláciu ukončí.

Keď požiadavka ide k modelu a 0,8 sekundy je ticho, Orvena povie niečo krátke, napríklad "Dobre, pozriem sa." Ak odpoveď nie je hotová ani po 10 sekundách, povie "Ešte na tom pracujem." Ani jedno nezaznie, keď už odpoveď začala.

Kde rozhodovanie beží

Cue je malý vlastný model aplikácie Orvena s 376 miliónmi parametrov, natrénovaný presne na tieto dve rozhodnutia. Beží na Neural Engine v iPhone, kde jedno rozhodnutie trvalo približne 8 milisekúnd, keď bol telefón nečinný, a približne 10 počas generovania textu na GPU, merané na iPhone 17 Pro Max. GPU tak zostáva jazykovému modelu, ktorý píše odpovede, a na tom najviac záleží, keď ide o vlastný model Orveny, ktorý generuje v tom istom telefóne.

Cue číta len text: prepis z rozpoznávania reči od Apple v zariadení a slová, ktoré Orvena práve hovorila. Nič z prerušenia neopustí telefón. Má 385 MB a sťahuje sa spolu s hlasmi po odomknutí hlasu. Pri prvej hlasovej relácii sa jednorazovo pripraví pre Neural Engine, pod tým istým ukazovateľom priebehu ako hlasy. Ak sa ho nepodarilo stiahnuť, napríklad preto, že ste boli offline, hlas sa aj tak spustí a oznámi vám: "Prerušovanie je zatiaľ vypnuté. Orvena ho dokončí, keď nabudúce spustíte hlas."

Model a referenčný kód sú na Hugging Face pod licenciou Apache 2.0.

Ako často sa trafí

Na testovacích sadách napísaných oddelene od trénovacích dát, vo všetkých svojich 30 jazykoch, rozhodol Cue správne v 90,4 % z 900 prerušení a v 95,2 % z 1 800 nových replík. Skratku volí, len keď si je istý: z 990 požiadaviek určených pre jazykový model dostala namiesto toho krátku odpoveď len 1.

Dobré vedieť

• Jazyky. Cue pozná 30 jazykov. Hlas počúva v jazykoch, ktoré podporuje rozpoznávanie reči od Apple v zariadení, a krátke odpovede fungujú vo všetkých okrem nórčiny.
• Reproduktor alebo slúchadlá. S AirPods alebo inými slúchadlami Orvena počúva celý čas. Cez vstavaný reproduktor v iPhone sa spolieha na potlačenie ozveny a bez neho počúva len medzi odpoveďami.

Časté otázky

S akými modelmi prerušovanie funguje?

S vlastným modelom aplikácie Orvena, s Apple Intelligence, s Private Cloud Compute a s cloudovými modelmi, ktoré pridáte s vlastným kľúčom. Cue beží v telefóne bez ohľadu na to, ktorý model píše odpoveď. V živej hlasovej relácii s vlastným kľúčom OpenAI rieši prerušovanie sám model realtime od OpenAI.

Funguje to offline?

Áno, keď sú Cue aj hlasy v telefóne a odpoveď prichádza od modelu aplikácie Orvena alebo od Apple Intelligence. Rozpoznávanie, rozhodovanie aj hlas bežia v iPhone.

Uchováva si Orvena, čo hovorím, kým rozpráva?

Prepisuje to rozpoznávaním reči od Apple v zariadení, rovnako ako keď čaká, kým prehovoríte, a Cue ten prepis číta v telefóne. Slová, o ktorých usúdi, že neboli určené jej, zahodí a do konverzácie sa nedostanú.

Prečo Orvena pred odpoveďou povie "pozriem sa"?

Keď požiadavka ide k jazykovému modelu a 0,8 sekundy je ticho, Orvena povie krátku vetu, aby ste vedeli, že vás počula. Ak odpoveď trvá dlhšie ako 10 sekúnd, povie vám, že na nej ešte pracuje.

Je Cue open source?

Váhy, verzia Core ML pre Neural Engine a referenčný kód sú na Hugging Face pod licenciou Apache 2.0, rovnakou, akú má model Qwen3, na ktorom je postavený. Sú tam zverejnené aj trénovacie dáta, pod licenciou CC BY 4.0.