Diferansiyel Gizlilik (Differential Privacy)

Diferansiyel gizlilik, bir analizin çıktısının — bir istatistik, bir gösterge metriği, eğitilmiş bir model — herhangi bir kişinin kaydı dahil edilse de edilmese de esasen aynı kalacağına dair matematiksel bir güvencedir. Bir gizlilik bütçesiyle (epsilon) ayarlanan, özenle kalibre edilmiş rastgele gürültü ekleyerek çalışır: daha küçük epsilon daha çok gürültü ve daha güçlü gizlilik; daha büyük epsilon daha keskin sayılar ama daha zayıf koruma demektir. Amaç, bir gözlemcinin yan bilgiyle bile sonuçlardan hiçbir bireyi geri çıkaramamasıdır. Geliştiriciler için bu; toplu analizleri paylaşmanın, kıyaslamalar yayımlamanın ya da kullanıcı verisiyle model eğitmenin, muğlak bir 'anonimleştirildi' yerine gerçek ve kanıtlanabilir bir gizlilik iddiası sunabileceğiniz bir yoludur. Pratik not: bedava değildir — gürültü doğruluğu düşürür, bu yüzden küçük kohort ya da kullanıcı başına hassasiyetten çok toplu metriklere ve büyük veri kümelerine uyar. Kendi gürültünüzü yazmak yerine denetlenmiş kütüphaneler kullanın ve epsilon bütçesini sorgular arasında harcadığınız sınırlı bir kaynak olarak görün.