Vektör Nicemleme (Vector Quantization)

Vektör nicemleme, gömüleri küçülterek bir vektör dizininin daha az bellekte sığmasını ve daha hızlı aranmasını sağlayan bir sıkıştırma teknikleri ailesidir. Ham bir gömü 1.536 float32 sayıdan oluşabilir — her biri yaklaşık 6 KB; on milyon vektörde bu 60 GB RAM demektir. Nicemleme her vektörü çok daha küçük bir kodla yaklaşık olarak temsil eder: skaler nicemleme kesinliği düşürür (float32'den int8'e), çarpım nicemlemesi ise vektörü parçalara böler ve her birini yakın bir merkez noktanın kimliğiyle değiştirir. Ödünleşim, maliyet karşılığında doğruluktur. Sıkıştırılmış vektörler biraz daha az kesin en yakın komşu sonuçları verir, ama çoğu zaman yeterince yakın — ve kaybın çoğunu geri kazanmak için en iyi adayları tam kesinlikli vektörlere karşı yeniden sıralayabilirsiniz. Ölçekte RAG ya da anlamsal arama çalıştıran SaaS geliştiricileri için nicemleme, RAM'e sığan bir dizinle sığmayan arasındaki farktır. Pratik not: Öncesinde ve sonrasında geri çağırmayı (recall) kendi sorgularınıza karşı ölçün — kabul edilebilir ödünleşim evrensel değil, iş yüküne özgüdür.