Görev Başına Maliyet

Görev başına maliyet, tamamlanmış bir iş biriminin model harcaması olarak size neye mal olduğudur: çözülen bir talep, üretilen bir rapor, incelenen bir belge. Yapay zekâ altyapısını iş modeline bağlayan paydadır ve çoğu ekibin ölçmediği sayıdır. Token sayısı iki nedenle yanlış birimdir. Yeniden denemeleri, araç çağrılarını, başarısız girişimleri ve ilkinin çıktısını değerlendiren ikinci modeli içermez; ayrıca müşterinin satın aldığı şey de değildir. Tokende 0,04 dolara mal olan ama ortalama 1,6 deneme ve bir yeniden sıralama isteyen bir görev, 0,09 dolara yakındır — fiyatlamanız gereken rakam budur. Hesabı hesap başına değil iş akışı başına tutun. Ürün genelindeki ortalamalar, görev başına maliyeti görev başına gelirini aşan tek iş akışını gizler; koltuk bazlı fiyatlanan ürünlerde yoğun bir kullanıcı tam da böyle, pano hâlâ sağlıklı brüt kâr gösterirken sessizce zarar ettirir. Bu metriği en çok oynatan kaldıraç genelde daha ucuz bir model değildir; daha az yeniden deneme, daha kısa bağlam ve tekrarlanan işi yakalayan bir önbellektir.