Searchestrablog
Ölçüm & Metodoloji

Örnek Boyutu ve Sorgu Hacmi: Ne Kadar AI Testi Yeterli?

Searchestra ekibi· · 1 dk okuma·Hızlı özet →

AI motorları belirlenimci olmadığından, tek bir yanıt, ya da bir avuç prompt, size güvenilir neredeyse hiçbir şey söylemez. Örnek boyutu (her sorgunun kaç kez çalıştırıldığı) ve sorgu hacmi (kaç farklı sorgu test ettiğiniz) birlikte, bir AI görünürlük sayısının gerçeği mi yoksa yalnızca gürültüyü mü yansıttığını belirler. İkisinden de çok az olursa, sonuç karar-nitelikli değildir.

Neden birkaç prompt yeterli değil

Aynı soruyu üç kez sorun, üç farklı marka listesi alabilirsiniz. Bir tur, zarın bir atışını yakalar. Güvenilir bir sayı, kararlı bir dağılım kurmak için sorgu başına yeterli tur ve alıcıların gerçekte nasıl sorduğunu temsil edecek kadar farklı sorgu ister, yalnızca seçtiğiniz ifadeleri değil.

Yeterliliğin iki boyutu

BoyutNeyi kontrol ederÇok azı şu demek
Örnek boyutu (sorgu başına tur)Belirlenimsizliğe karşı kararlılıkGürültü sinyal gibi görünür
Sorgu hacmi (farklı sorgular)Gerçek niyetlerin kapsamıÇarpık, kısmi bir tablo
Prompt-türü dağılımıNiyetler arası dengeTek bir soru türüne önyargı

Hacmi karara eşlemek

Yönsel izleme daha küçük bir sette çalışabilir; karar-nitelikli kararlar, açıklanmış sayılarla kararlı dağılımlar kuran bir hacim ister. Doğru miktar evrensel değildir, riske göre ölçeklenir. Bkz. yönsel vs karar-nitelikli.

Searchestra görünümü

Searchestra geniş, sürümlü bir sorgu seti genelinde çok sayıda turu toplar; böylece bir sayı tek bir oynak yanıtı değil kararlı bir dağılımı yansıtır ve arkasındaki hacim gizlenmek yerine açıklanır.

Özet çıkarım.

Bir avuç prompt belirlenimsizliğe karşı hiçbir şey kanıtlamaz; sorgu başına yeterli tur ve yeterli farklı sorgu, bir AI görünürlük sayısını karar-nitelikli kılan şeydir.

Sık sorulan sorular

AI görünürlüğünü ölçmek için kaç prompt gerekir?

Gerçek niyetleri temsil edecek kadar farklı sorgu, her biri belirlenimsizliğe karşı kararlı olacak kadar çok çalıştırılmış. Miktar kararın riskine göre ölçeklenir.

Aynı sorguyu neden birden çok kez çalıştırırım?

Çünkü AI belirlenimci değildir. Bir tur, zarın bir atışıdır; turları toplamak gerçek dağılımı ortaya çıkarır.

Daha büyük örnek her zaman daha mı iyi?

Daha büyük gürültüyü azaltır, ama niyetler arası denge de önemlidir. Bir sayıyı güvenilir kılan, salt sayı değil, hacim artı kapsamdır.