Bir Yapay Zekâ Asistanının Kimsenin Açamayacağı Belgeleri Sızdırması Nasıl Önlenir

Hiç hata vermeyen arıza

Kurum içi bir asistan genellikle aynı biçimde kurulur: bir tarayıcıyı wiki'ye, sürücüye, talep sistemine ve kod deposuna salın, bulduğu her şeyi gömün ve önüne bir sohbet kutusu koyun. Tarayıcı geniş okuma yetkisi olan bir servis hesabıyla çalışır, çünkü her kaynağa bir haftalık izin uğraşı olmadan ulaşmanın başka yolu yoktur. Bu tek kolaylık, tüm sistemin güvenlik duruşunu belirler.

Tehlikeli kılan şey, kendini hiç duyurmamasıdır. Hiçbir istek başarısız olmaz, hiçbir uyarı çalmaz, asistan akıcı ve yardımcı biçimde yanıtlar. Sorun, biri ücret bantlarını, henüz duyurulmamış bir yeniden yapılanmayı ya da kendisine ait olmadığını anladığı bir hukuki konuyu içeren bir yanıtı okuduğunda yüzeye çıkar; o noktada aynı yanıt büyük olasılıkla bunu dile getirmeyen başkalarına da verilmiştir.

Dizin kimin neyi okuyabildiğini neden unutur

İzinler belgelerin üzerinde yaşar. Gömmelerin belgesi yoktur; vektörleri vardır ve vektör, hayatta kalan tek ilişkinin benzerlik olduğu bir uzaydaki konumdur. İçerik parçalanıp gömüldüğünde, kaynak sistemin sahiplik, paylaşım ve grup üyeliği hakkında bildiği her şey, siz onu bilerek taşımadıkça atılır.

Böylece getirme adımı şu soruyu yanıtlar: bu sorguya en yakın pasajlar hangileri? Yakınlığın ise soranın onları okumaya hakkı olup olmadığı konusunda bir görüşü yoktur. Model de tam olarak yapmak üzere kurulduğu şeyi yapar: kendisine verilen malzemeyle iyi bir yanıt yazar.

Etiketleri dizine taşıyın

Çözüm dizinleme anında başlar. Her parça, geldiği belgenin erişim üstverisiyle birlikte saklanmalıdır — özgün belgeyi yöneten gruplar, roller, kiracı kimliği veya belge kimliği — vektörün yanında süzülebilir alanlar olarak. Vektör deponuz üstveriye göre verimli süzemiyorsa bu, kontrolü atlamak için değil depoyu değiştirmek için bir gerekçedir.

Elinizde varsa sınıflandırmayı da iliştirin. Bir kaydı kısıtlı olarak işaretleyen bir kademe, aksi hâlde uygulanamayacak kuralları uygulanabilir kılar: en hassas malzemeyi dizinin tamamen dışında tutmak ya da getirilmesine izin verip dış bir modele asla göndermemek gibi.

Sıralamadan sonra değil sorgu anında süzün

Sorgu, soran kişinin kimliğini taşımalı ve filtre sonuçlar sıralanmadan önce uygulanmalıdır. Sonradan süzmek yaygın kestirmedir ve iki bakımdan yanlıştır: sonuç sayıları ve zamanlama üzerinden bilgi sızdırır ve sonuç kümesini sessizce daraltır, böylece dar erişimli bir kullanıcı hakkı olan en iyi pasajları değil daha az ve daha zayıf olanları alır. Sonuçta yanıt kalitesi tam da bundan şikâyet etmesi en olası kişilerde düşer.

Etiketlerin bayatlamasına izin vermeyin

Dizin bir kopyadır ve izinler sürekli değişir: geri alınan bir paylaşım, değişen bir rol, ayrılan biri. Her izin değişikliğinde yeniden dizinlemek pratik değildir; bu yüzden işleyen sistemlerin çoğu yanıt anında kaynak sistemde yetkiyi yeniden denetler, ama yalnızca gerçekten kullanılan bir avuç belge için. Bu tam da sayıları az olduğu için karşılanabilir ve bir yetkinin geri alınmasıyla sonraki tarama arasındaki pencereyi kapatır.

Çok kiracılı ürünlerde çizgi daha serttir

Bunu tek bir şirket için değil bir ürünün içine kuruyorsanız, bir filtre hatası iç bir sınırı değil müşteri sınırını aşar. Ayrı dizinler ya da sert kiracı bölmeleri ek işletme yükünü hak eder: ortak bir dizinde eksik tek bir filtre müşteriler arası bir ifşadır ve onu açığa çıkaran sorgu tamamen masum olabilir.

Bunu arama motoru gibi değil izin sistemi gibi sınayın

Kasıtlı olarak farklı erişimlere sahip küçük bir deneme hesabı kümesi ve yanıtları yalnızca bazılarının açabildiği belgelere bağlı sabit bir soru listesi oluşturun. Getirme yapılandırmasındaki her değişiklikte koşturun ve sızmış bir pasajı bir kalite meselesi değil başarısız bir test sayın.

Her yanıtın arkasındaki belge kimliklerini de günlükleyin. Kime neyin gösterildiğini sonradan belirlemenizi sağlayan şey getirme günlükleridir; bunu günlüklerden yeniden kuramıyorsanız bir olayın kapsamını çizemezsiniz, bu da mümkün olan en geniş ifşayı varsaymak zorunda kalmanız demektir.