Jev Nasıl Kullanılır? TypeSafe AI Karar Modelinde İlk Örnek
Jev, sohbet metni üretmez. Tanımlı bir karar ve güven skoru döndürür. İlk örnekte rota seçilir, skor düşükse istek büyük modele veya insana gider.
Jev nasıl kullanılır sorusunun kısa cevabı şudur: ona yazı yazdırmayın. TypeSafe AI'ın Jev modeli, tanımladığınız tiplerden birini ve yanında bir güven skoru seçer. Modelin ne olduğu Jev nedir yazısında, duyurusu ise System One ve Jev yazısında. Erken erişim dışında uydurma bir kurulum komutu yoktur. Aşağıdaki örnek, dönüşün şeklidir.
Kararı daraltın
Bir destek kutusuna gelen cümleyi üç rotaya ayırın. Dördüncü bir diğer kovası bırakın. Kovayı unutursanız model, uymayan cümleyi en yakın rotaya zorlar.
type Route = 'billing' | 'outage' | 'human'
type Decision = {
route: Route
confidence: number
}confidence sıfır ile bir arasındadır. TypeSafe'in anlattığı kalibrasyonda yüksek skor, daha yüksek isabet anlamına gelir. Skoru yüzde gibi ekrana basıp geçmeyin. Eşik koyun.
Eşik altında uygulama yok
function apply(decision: Decision) {
if (decision.confidence < 0.8) return 'human'
return decision.route
}0.8 örnek bir eşiktir. Fatura rotasına yanlış düşmenin maliyeti yüksekse eşiği yükseltin. Kesinti duyurusu gibi acil rotada eşiği ayrıca ölçün. Tek eşik her işe uymaz.
Girdi, kullanıcının cümlesi ve hesabın durumu olsun. Uzun sohbet geçmişinin tamamını dökmeyin. Jev dar bağlamda hızlıdır. Geniş bağlam, bu modelin işi değildir. Açık uçlu cevap gerekiyorsa human veya bir dil modeli devreye girer. Jev o modelin önünde, ucuz bir kapı olarak durur.
İlk gün ne ölçülür
Yüz kaydı elle etiketleyin. Jev rotası ile sizin rotanız ayrışıyorsa skora bakın. Ayrışma düşük skorda toplanıyorsa eşik işe yarıyordur. Ayrışma yüksek skorda toplanıyorsa tip dar değildir veya etiketleriniz kaymıştır. Önce tipi düzeltin, eşiği sonradan oynatın.
Jev metin yazmaz, özür dilemez, politika paragrafı üretmez. Bu sınır, hatanın erken göründüğü yerdir. Karar uygulandıktan sonra kullanıcıya giden cümleyi başka bir katman yazar. O katmana Jev'in ham skorunu olduğu gibi yapıştırmayın.
Jev Nedir? TypeSafe AI'ın Hızlı Karar Verme Modeli ve Potansiyeli
OpenAI Ajanları Alman Wiki Sitesini Ele Geçirdi: Otonom Yapay Zekâda Güvenlik Alarmı
Erken erişim hesabınız yoksa bu tipi kendi kural motorunuzda da kurabilirsiniz. Jev geldiğinde aynı Decision şekline bağlarsınız. Şekil değişmeden eşik ve rota listesi yerinde kalır.
Girdi ne kadar kısa olmalı
Jev'e bütün destek geçmişini vermeyin. Son kullanıcı cümlesi, hesabın açık bir kesinti bayrağı ve ürünün adı yeter. Bayrak yoksa uydurmayın. Eksik bilgiyi unknown diye ayrı bir alanda tutun. Model, boş alanı dolu sanmasın.
type Input = {
message: string
outage: boolean
product: string
}outage doğruysa rota çoğunlukla outage olmalıdır. Bunu modelden beklemeden kural olarak da yazabilirsiniz. Kesinti sırasında fatura rotasına düşmek, hızlı modelin pahalı hatasıdır. Kural, Jev'den önce çalışır. Jev yalnız kuralın sustuğu cümlelerde seçer.
Yanlış rotayı ayıklamak
Her gün ayrışan on kaydı okuyun. Cümle fatura kelimesi içerip kesinti rotasına düşüyorsa tip değil, girdi karışıktır. İki konu aynı cümlede geçiyorsa human doğrudur. Modeli bu cümlede tek rotaya zorlamayın. Zorlamak, kalibrasyonu bozar. Yüksek skorlu yanlışlar artarsa eşikten önce etiket setine bakın.
Skoru sıralayıp en alttaki yirmiyi insana bırakmak, her kaydı okumaktan ucuzdur. Üstteki yüksek skorlu yanlışları ise tek tek okuyun. Asıl arıza orada gizlenir. Düşük skor zaten insana gidiyordur.
Nereye koyulur
Jev, kullanıcının gördüğü sohbet kutusunun içinde durmaz. İstek içeri girer girmez, yanıt yazılmadan önce çalışır. Dönen rota bir kuyruk adıdır: fatura kuyruğu, kesinti metni veya insan sırası. Metni o kuyruk yazar. Jev'in skorunu kullanıcıya göstermeyin. Skor bir işletme eşiğidir, bir özgüven cümlesi değildir.
Zaman aşımında rotayı human yapın. Kararsız kalan istek, varsayılan olarak otomatik işlem görmesin. Hız için kurulan model, suskunlukta yanlış rota basmasın. Bu tek kural, ilk haftanın hatalarının çoğunu keser.
