Maliyet Gözlemlenebilirliği

Maliyet gözlemlenebilirliği, bir faturayı yalnızca almak değil açıklayabilmektir. Harcamanın gecikme ve hatalar gibi ölçülmesi demektir: hizmete, özelliğe, müşteriye ve sürüme göre ayrışmış, olaydan sonra birinin yaptığı bir değişiklikle bağlanacak kadar erken erişilebilir ve yalnızca raporlanabilir değil sorgulanabilir. Sınavı basittir: sayı kımıldadığında nedenini bir saat içinde söyleyebiliyor musunuz. Geleneksel maliyet raporlaması bu sınavı geçemez, çünkü sizin yapınızın değil sağlayıcının yapısının çevresine kurulmuştur. Bir fatura hesapları, örnek türlerini ve jeton sayılarını bilir; artışın her istekle gönderilen bağlamı ikiye katlayan bir getirme değişikliğinden mi yoksa kullanım örüntüsü kayan tek bir müşteriden mi geldiğini bilmez. Bu boşluğu kapatmak, uygulamanın kendisinin maliyet verisini diğer telemetrisiyle birlikte yaymasını gerektirir. Yapay zekâ iş yüklerinde ölçümleme belirlidir ve adlandırmaya değer. Her model çağrısı girdi ve çıktı jeton sayılarını, kullanılan model ve sürümü, gecikmeyi, hizmet ettiği özelliği, ait olduğu kiracıyı, iş akışı adımını ve yeniden deneme olup olmadığını kaydetmelidir. Bu alanlarla maliyet, her boyut gibi dilimleyebileceğiniz bir boyut hâline gelir; hangi özelliğin harcamayı sürüklediği, hangi kiracının zarar ettirdiği ve bir prompt değişikliğinin neye mal olduğu gibi sorular soruşturma olmaktan çıkıp sorguya döner. Veriyi yararlı kılan ölçüt, iş birimi başına maliyettir. Mutlak harcamaya kullanım büyümesi hâkimdir ve bu genelde iyi haberdir; dolayısıyla gerilemeleri gizler: bağlam ekleyen bir prompt düzenlemesi, daha çok parça döndüren bir getirme ayarı, sessizce daha fazla trafiği pahalı bir modele gönderen bir yönlendirici. Konuşma, belge ya da çözülen talep başına maliyet olarak izlendiğinde bunların her biri anında ve mali değil mühendislik sorunu olarak görünür. Gecikme de burada önemlidir, çünkü ikisi sık sık birbirine takas edilir. Daha çok bağlam göndererek kaliteyi iyileştiren bir değişiklik hem maliyeti hem yanıt süresini artırır; daha küçük bir model kullanarak maliyeti düşüren bir değişiklik insana yükseltmeleri artırabilir. Kalite ve gecikmenin yanında duran maliyet gözlemlenebilirliği bu ödünleşimleri bilerek yapmayı sağlar; tek başına maliyet verisi ise genelde başka bir yerde şikâyet olarak beliren tasarruflar üretir. Pratik başlangıç noktası küçüktür. Alanları günlükleyin, maliyeti gecikme ve hata oranıyla aynı panoya koyun, iş birimi başına ifade edin ve toplama değil orana uyarı kurun. Bu genelde ilk birkaç sürprizi bulmaya yeter ve işin geri kalanını finanse eden şey o sürprizlerdir.