Kako prekinuti AI glasovnog asistenta na iPhoneu i što se zatim događa

Od verzije 2.4 Orvena sluša i dok govori. Odgovor možete prekinuti, usred njega se predomisliti ili reći "mhm" a da je ne zaustavite, a mali model na Neural Engineu iPhonea prepoznaje što ste od toga htjeli. Evo što radi u svakom od tih slučajeva, koje kratke odgovore daje bez jezičnog modela i koliko je pouzdan.

Što se događa kad Orveni upadnete u riječ

Tijekom glasovne sesije mikrofon ostaje uključen i dok Orvena razmišlja i govori. Poništavanje jeke na iPhoneu uklanja Orvenin vlastiti glas iz onoga što mikrofon čuje, pa hvata samo vas. Čim Appleov prepoznavač govora javi prve riječi, Orvena stiša glas na otprilike trećinu glasnoće, a Cue, njezin model za izmjenu u razgovoru, čita ono što ste rekli zajedno s rečenicom koju je Orvena upravo izgovarala. Moguća su tri ishoda:

Kod zahtjeva Cue označava i riječ kojom zahtjev počinje, pa "dobro, jasno, sad provjeri Lisabon" do modela stiže kao "sad provjeri Lisabon". Kad nije siguran, radije zadrži riječ previše: suvišni "dobro" modelu ne smeta, a izgubljeni "Lisabon" bi smetao.

Jasan zahtjev za zaustavljanje djeluje već dok još govorite, čim je Cue barem 90 % siguran. Sve ostalo čeka stanku: 0,7 sekundi bez novih riječi ili 0,4 sekunde nakon što prepoznavač vašu rečenicu označi kao završenu. "Hm", riječ upućena nekom drugom u prostoriji ili televizor u pozadini trebaju se računati kao nastavak, kako se odgovor ne bi prekidao svaki put kad netko progovori.

Isto radi i dok Orvena još priprema odgovor. Ako dodate "zapravo, neka bude u 7:30" prije nego što počne govoriti, prestaje raditi na prvom zahtjevu i odgovara na novi.

Odgovori koji zaobilaze jezični model

Za neke stvari koje kažete u glasovnoj sesiji jezični model uopće nije potreban. Kad počinje novi krug, Cue najprije provjerava je li riječ o jednoj od devet kratkih fraza koje Orvena može obraditi sama, i ako jest, Orvena odmah odgovara jednom od nekoliko unaprijed zadanih rečenica:

Cue čita kraj onoga što je Orvena posljednje rekla, pa iste riječi mogu značiti različite stvari. Nakon pitanja "Da to dodam u vaš kalendar?", "dobro" ili "hvala" vaš je odgovor na pitanje i ide modelu. Modelu ide i sve što sadrži zahtjev: "hvala, a sad dodaj mlijeko na popis za kupnju" je zahtjev, a ne zahvala. Cue sam odgovara samo kad je barem 90 % siguran, a za oproštaj 97 %, jer on završava sesiju.

Kad zahtjev ide modelu i 0,8 sekundi nitko ništa ne kaže, Orvena kaže nešto kratko, na primjer "U redu, provjeravam." Ako odgovor ni nakon 10 sekundi nije spreman, kaže "Još radim na tome." Ni jedno ni drugo se ne čuje ako je odgovor već počeo.

Gdje se donosi odluka

Cue je mali vlastiti model aplikacije Orvena s 376 milijuna parametara, istreniran upravo za te dvije odluke. Radi na Neural Engineu iPhonea, gdje je jedna odluka trajala oko 8 milisekundi dok je telefon mirovao i oko 10 dok je grafički procesor generirao tekst, izmjereno na iPhoneu 17 Pro Max. Tako grafički procesor ostaje jezičnom modelu koji piše odgovore, što je najvažnije kad je to Orvenin vlastiti model koji generira na istom telefonu.

Cue čita samo tekst: transkript iz Appleova prepoznavača na uređaju i riječi koje je Orvena upravo izgovarala. Ništa o prekidanju ne napušta telefon. Ima 385 MB i preuzima se zajedno s glasovima nakon što otključate glas, a prva glasovna sesija ga jednokratno priprema za Neural Engine, uz isti prikaz napretka kao za glasove. Ako se nije mogao preuzeti, na primjer zato što niste bili povezani s internetom, glas se svejedno pokreće i javlja vam: "Prekidanje je zasad isključeno. Orvena će ga dovršiti sljedeći put kad pokrenete glas."

Model i referentni kod nalaze se na Hugging Faceu pod licencom Apache 2.0.

Koliko često pogađa

Na testnim skupovima napisanima odvojeno od podataka za treniranje, na svih svojih 30 jezika, Cue je ispravno odlučio u 90,4 % od 900 prekida i u 95,2 % od 1.800 novih krugova. Prečac koristi samo kad je siguran: od 990 zahtjeva namijenjenih jezičnom modelu samo je 1 umjesto toga dobio kratak odgovor.

Dobro je znati

• Jezici. Cue poznaje 30 jezika. Glas sluša na jezicima koje podržava Appleov prepoznavač na uređaju, a kratki odgovori rade na svima osim na norveškom.
• Zvučnik ili slušalice. S AirPods ili drugim slušalicama Orvena sluša cijelo vrijeme. Na ugrađenom zvučniku iPhonea oslanja se na poništavanje jeke, a bez njega sluša samo između odgovora.

Česta pitanja

S kojim modelima radi prekidanje?

S vlastitim modelom aplikacije Orvena, s Apple Intelligence, s Private Cloud Compute i s modelima u oblaku koje dodate vlastitim ključem. Cue radi na telefonu bez obzira na to koji model piše odgovor. U glasovnoj sesiji uživo s vlastitim OpenAI ključem prekidanje sam obavlja OpenAI-jev model Realtime.

Radi li bez interneta?

Da, kad su Cue i glasovi na telefonu, a odgovor dolazi od modela aplikacije Orvena ili od Apple Intelligence. Prepoznavanje, odluka i glas rade na iPhoneu.

Zadržava li Orvena ono što kažem dok govori?

Pretvara to u tekst Appleovim prepoznavačem na uređaju, kao i kad čeka da dođete na red, a Cue taj transkript čita na telefonu. Riječi za koje procijeni da nisu bile namijenjene njoj odbacuje i one ne postaju dio razgovora.

Zašto Orvena prije odgovora kaže "provjeravam"?

Kad zahtjev ide jezičnom modelu i 0,8 sekundi nitko ništa ne kaže, Orvena izgovori kratku rečenicu da znate da vas je čula. Ako odgovor traje dulje od 10 sekundi, kaže vam da još radi na njemu.

Je li Cue otvorenog koda?

Težine, inačica Core ML za Neural Engine i referentni kod nalaze se na Hugging Faceu pod licencom Apache 2.0, istom kao i model Qwen3 na kojem se temelji. Ondje su objavljeni i podaci za treniranje, pod licencom CC BY 4.0.