Felaketvari Unutma (Catastrophic Forgetting)

Felaketvari unutma, bir sinir ağının yeni veriyle eğitildiğinde daha önce öğrendiği yetenekleri kaybetme eğilimidir. Yetenekli bir temel modeli yalnızca destek talepleriniz üzerinde dar biçimde ince ayarlarsanız, alanınızda harika hale gelirken sessizce genel akıl yürütmede, biçimlendirmede ya da bir zamanlar sahip olduğu güvenlik davranışında kötüleşebilir — yeni gradyanlar, eski becerileri kodlayan ağırlıkların üzerine yazar. SaaS geliştiricileri için bu, ince ayarın gizli riskidir: bir metriği optimize ederken ölçmediğiniz başka metriklerde geriye gidersiniz. Önlemler arasında ince ayar setine genel veriyi geri karıştırmak, temel ağırlıkları donuk bırakan LoRA gibi hafif adaptörler kullanmak, öğrenme oranlarını düşük tutmak ve çoğu zaman en basit cevap olan — ince ayardan tamamen vazgeçip retrieval ve iyi prompt tasarımına yönelmek yer alır. İnce ayar yapacaksanız, regresyonları kullanıcılarınız fark etmeden yakalayabilmek için yalnızca hedef görevde değil, geniş bir ayrık test setinde de her zaman değerlendirin. Alanınızda mükemmel olup biçimlendirme talimatlarını izlemeyi unutan bir model, net bir kayıptır.