Model Sürümleme

Model sürümleme, belirli bir davranışı tam olarak hangi modelin ürettiğini bilme ve bu kimliği, sağlayıcının o an dost canlısı bir ad altında sunduğu her neyse onu kabul etmek yerine kod yolunda sabitleme disiplinidir. Davranışı siz değiştirdiğinizde değişen bir sistemle, davranışı kontrol etmediğiniz bir takvime göre değişen bir sistem arasındaki farktır. Bu ihtiyacı hafife almak kolaydır, çünkü görünürde hiçbir şey kırılmaz. Bir takma adla başvurduğunuz barındırılan model altınızdan güncellenebilir ve güncelleme genelde toplamda bir iyileşmedir. Ürününüz toplamları yaşamaz. Önceki davranışa göre yazdığınız promptları, ayrıştırıcınızın beklediği çıktı biçimlerini, kullanıcılarınızın öğrendiği ret sınırlarını ve belirli bir ifadeyle düzelttiğiniz uç durumları yaşar. Yukarı akıştaki bir değişiklik bir kıyaslamayı iyileştirip bağımlı olduğunuz tek iş akışını bozabilir ve kodunuz değişmediği için kimse ilk oraya bakmaz. Bu nedenle benimsenmeye değer varsayılan, açık bir sürüme sabitlemektir. Sürüm tanımlayıcısı yapılandırmada durur, saklanan her çıktıyla birlikte kaydedilir ve değerlendirme sonuçlarında görünür; böylece kalitedeki bir kayma tartışılmak yerine bir model değişikliğine kadar izlenebilir. Kendisini üreten sürüm olmadan günlüklenen bir çıktı, ne olduğunun kaydıdır ama neden olduğunun değildir; bu da bir olay incelemesinin ihtiyaç duyduğunun tam yarısıdır. Sabitleme ancak ondan çıkma planıyla birlikte işe yarar. Barındırılan sürümler emekliye ayrılır ve göç yolu olmayan sabitlenmiş bir sürüm, takviminize yazmadığınız bir son kullanma tarihidir. Rutin sıradandır ve işler: kullanımdan kaldırma duyurularını izleyin, güncel değerlendirme kümesini aday sürümde koşturun, yayımlanmış iddialara göre değil kendi verinizde karşılaştırın, bir bayrağın arkasından geçin ve eski sürümü sağlayıcının izin verdiği sürece erişilebilir tutun ki geri dönüş bir yeniden yazım değil bir yapılandırma değişikliği olsun. Sürümleme model ağırlıklarından fazlasını kapsar. Prompt, getirme yapılandırması, araç tanımları ve örnekleme parametreleri de davranışı biçimlendirir; dolayısıyla sürümlenmeye değer olan, tek bir dağıtılabilir ürün gibi ele alınan yapılandırmanın tamamıdır. Herhangi bir parçadaki değişiklik yeni bir tanımlayıcı üretmelidir; çünkü promptun model sürümünden bağımsız hareket edebildiği bir sistemde iki ekip aynı anda hiçbir şeyin değişmediğinden emin olabilir. Kendi altyapısında barındırma bir sorunu başkasıyla takas eder. Siz olmadan hiçbir şey kımıldamaz, sürpriz ortadan kalkar; ama artık ağırlık dosyaları, niceleme, sunum yığını ve çıkarım parametreleri sizindir ve bunların herhangi biri çıktıyı değiştirebilir. Kural aynıdır: sürüm, davranışı fiilen üreten bileşimin kendisidir ve onu tam olarak adlandırabilmek değerlidir.

İlgili terimler

Daha fazla MLOps Süreçleri terimi