iPhone'da yapay zekâ sesli asistanının sözü nasıl kesilir ve sonra ne olur

Orvena, 2.4 sürümünden beri konuşurken de dinliyor. Bir yanıtı yarıda kesebilir, ortasında fikrinizi değiştirebilir ya da onu durdurmadan "hı hı" diyebilirsiniz; iPhone'un Neural Engine'i üzerinde çalışan küçük bir model de bunlardan hangisini kastettiğinizi anlar. Bu yazıda her durumda ne yaptığını, dil modeli olmadan verdiği kısa yanıtları ve ne kadar başarılı olduğunu bulabilirsiniz.

Orvena konuşurken araya girdiğinizde ne olur

Sesli bir oturum sırasında Orvena düşünürken ve konuşurken mikrofon açık kalır. iPhone'un yankı engelleme özelliği, Orvena'nın kendi sesini mikrofonun duyduklarından çıkarır; böylece mikrofon yalnızca sizi duyar. Apple'ın konuşma tanıyıcısı sözcükleri bildirdiği anda Orvena sesini yaklaşık üçte bir seviyesine indirir ve sıra alma modeli Cue, söylediğinizi Orvena'nın o sırada söylemekte olduğu cümleyle birlikte okur. Üç olası sonuç vardır:

Bir istekte Cue, isteğin başladığı sözcüğü de işaretler; böylece "tamam anladım, şimdi Lizbon'a bak" modele "şimdi Lizbon'a bak" olarak ulaşır. Emin olmadığında bir sözcük fazla bırakır: fazladan bir "tamam" modele hiçbir şey kaybettirmez, "Lizbon"u kaybetmek ise kaybettirirdi.

Açık bir durdurma, siz daha konuşurken, Cue en az %90 emin olur olmaz devreye girer. Geri kalan her şey bir duraklamayı bekler: yeni sözcük gelmeden 0,7 saniye ya da tanıyıcı cümlenizi tamamlanmış olarak işaretlediyse 0,4 saniye. Bir "hıı", odadaki başka birine söylenen bir söz ya da arka planda açık olan televizyon "devam" sayılmalı ki biri her konuştuğunda yanıt kesilmesin.

Bu, Orvena henüz yanıtı hazırlarken de geçerlidir. O konuşmaya başlamadan önce "aslında 7:30 olsun" diye eklerseniz, ilk istek üzerindeki çalışmayı bırakır ve yenisini yanıtlar.

Dil modelini atlayan yanıtlar

Sesli bir oturumda söylediğiniz bazı şeyler hiç dil modeli gerektirmez. Yeni bir tur başladığında Cue önce bunun, Orvena'nın kendisinin halledebildiği dokuz kısa ifadeden biri olup olmadığına bakar; öyleyse Orvena birkaç hazır cümleden biriyle hemen yanıt verir:

Cue, Orvena'nın en son söylediğinin sonunu okur; bu yüzden aynı sözcükler farklı anlamlara gelebilir. "Takviminize ekleyeyim mi?" sorusundan sonra bir "tamam" ya da "teşekkürler", sorunun yanıtıdır ve modele gider. İçinde istek olan her şey de modele gider: "teşekkürler, şimdi alışveriş listesine süt ekle" bir teşekkür değil, bir istektir. Cue ancak en az %90 emin olduğunda kendisi yanıt verir; vedalaşmada ise oturumu bitirdiği için bu eşik %97'dir.

Bir istek modele gittiğinde ve 0,8 saniye boyunca hiçbir şey söylenmediğinde Orvena "Tamam, bakıyorum." gibi kısa bir şey söyler. Yanıt 10 saniye sonra hâlâ hazır değilse "Hâlâ üzerinde çalışıyorum." der. Yanıt başladıktan sonra ikisi de söylenmez.

Karar nerede veriliyor

Cue, Orvena'nın kendine ait, 376 milyon parametreli küçük bir modelidir ve tam olarak bu iki karar için eğitilmiştir. iPhone'un Neural Engine'i üzerinde çalışır; iPhone 17 Pro Max'te yapılan ölçümde bir karar, telefon boştayken yaklaşık 8 milisaniye, GPU üretimle meşgulken yaklaşık 10 milisaniye sürdü. Böylece GPU, yanıtları yazan dil modeline kalır; bu da en çok, yanıtları aynı telefonda Orvena'nın kendi modeli ürettiğinde önem taşır.

Cue yalnızca metin okur: Apple'ın cihaz üzerindeki tanıyıcısından gelen dökümü ve Orvena'nın söylemekte olduğu sözcükleri. Araya girmeyle ilgili hiçbir şey telefondan çıkmaz. 385 MB'lık bir indirmedir, ses özelliğinin kilidini açtıktan sonra seslerle birlikte indirilir ve ilk sesli oturum onu, seslerle aynı ilerleme göstergesinin ardında, Neural Engine için bir kez hazırlar. İndirilemediyse, örneğin çevrimdışıysanız, ses yine başlar ve size şunu söyler: "Araya girme şimdilik kapalı. Sesi bir sonraki başlatışında Orvena kurulumu tamamlayacak."

Model ve referans kodu, Apache 2.0 lisansıyla Hugging Face üzerinde yayımlanmıştır.

Ne sıklıkla doğru karar veriyor

Eğitim verisinden ayrı olarak yazılmış test setlerinde, 30 dilinin tamamında Cue, 900 araya girmenin %90,4'ünde ve 1.800 yeni turun %95,2'sinde doğru kararı verdi. Kestirmeyi yalnızca emin olduğunda kullanır: dil modeline yönelik 990 istekten yalnızca 1'i bunun yerine kısa bir yanıt aldı.

Bilmekte fayda var

• Diller. Cue 30 dil biliyor. Orvena, Apple'ın cihaz üzerindeki tanıyıcısının desteklediği dillerde dinler ve kısa yanıtlar Norveççe dışında bunların hepsinde çalışır.
• Hoparlör ya da kulaklık. AirPods ya da başka bir kulaklıkla Orvena baştan sona dinler. iPhone'un kendi hoparlöründe yankı engellemeye güvenir; bu yoksa yalnızca yanıtlar arasında dinler.

Sık sorulan sorular

Araya girme hangi modellerle çalışır?

Orvena'nın kendi modeli, Apple Intelligence, Private Cloud Compute ve kendi anahtarınızla eklediğiniz bulut modelleriyle. Yanıtı hangi model yazarsa yazsın Cue telefonda çalışır. Kendi OpenAI anahtarınızla yapılan canlı bir sesli oturumda ise araya girmeleri OpenAI'ın gerçek zamanlı modeli kendisi yönetir.

Çevrimdışı çalışır mı?

Evet; Cue ve sesler telefona indikten sonra, yanıt da Orvena'nın modelinden ya da Apple Intelligence'tan geliyorsa. Tanıma, karar ve ses iPhone'da çalışır.

Orvena konuşurken söylediklerimi saklıyor mu?

Sıranızı beklerken yaptığı gibi bunları Apple'ın cihaz üzerindeki tanıyıcısıyla yazıya döker ve Cue bu dökümü telefonda okur. Kendisine söylenmediğine karar verdiği sözcükler atılır ve sohbetin parçası olmaz.

Orvena neden yanıt vermeden önce "bakıyorum" diyor?

Bir istek dil modeline gittiğinde ve 0,8 saniye boyunca hiçbir şey söylenmediğinde Orvena, sizi duyduğunu bilmeniz için kısa bir cümle söyler. Yanıt 10 saniyeden uzun sürerse hâlâ çalıştığını söyler.

Cue açık kaynak mı?

Ağırlıklar, Neural Engine için bir Core ML sürümü ve referans kodu, üzerine kurulduğu Qwen3 modeliyle aynı lisans olan Apache 2.0 ile Hugging Face üzerinde yayımlanmıştır. Eğitim verisi de CC BY 4.0 lisansıyla orada yayımlanmıştır.