Model Sızdırma (Model Exfiltration)

Model sızdırma — model çıkarımı ya da model çalma olarak da bilinir — tescilli bir modeli, ya da yeterince yakın bir kopyasını, onu sistematik biçimde sorgulayıp çıktılardan öğrenerek yeniden oluşturan bir saldırıdır. API erişimi olan bir saldırgan, özenle seçilmiş çok sayıda istem gönderir, yanıtları (ve açığa çıkardığınız güven skorları veya logit değerlerini) kaydeder ve davranışınızı taklit eden daha ucuz bir ikame model eğitir. Benzer saldırılar eğitim verisini ya da sistem istemini geri elde etmeye çalışır. SaaS geliştiricileri için asıl değerli varlık çoğu zaman kiraladığınız temel LLM değil; özelliğinizi değerli kılan ince ayar, istem mühendisliği ve tescilli verilerdir. Pratik not: anahtar başına sorgu desenlerini hız sınırlayıp izleyin, ihtiyacınız olmayan ham logit veya ayrıntılı güven verisini döndürmekten kaçının, mümkünse çıktıları filigranlayın ve gerçekten hassas mantığı tamamen istem verilebilir bir modele gömmek yerine iş kuralları arkasında sunucu tarafında tutun.