Yapay Zekâ Sistem Envanteri

Yapay zekâ sistem envanteri, bir kuruluşta yapay zekânın kullanıldığı her yerin sürdürülen listesidir: kurum içinde geliştirilen özellikler, API üzerinden çağrılan modeller ve yapay zekâ yeteneği açılmış üçüncü taraf ürünler. Diğer bütün yönetişim denetimlerinin dayandığı belgedir; çünkü bir politika, bir risk derecelendirmesi ve bir denetim, neye uygulandıklarını bilmek zorundadır. İşe yarar bir kayıt, bir addan fazlasını tutar. Sistemin ne yaptığı, sahibinin kim olduğu, hangi modeli ve sağlayıcıyı kullandığı, hangi veriyi gördüğü, müşteriye mi yoksa yalnızca çalışana mı dokunduğu, çıktısının otomatik olarak uygulanıp uygulanmadığı ve en son ne zaman gözden geçirildiği. Envanteri dürüst tutan şey bu son alandır: gözden geçirme tarihi olmadan on sekiz ay önce yazılmış bir kayıt, geçen hafta doğrulanmış olanla aynı görünür. Bunu kurmak kulağa geldiğinden zordur; çünkü yapay zekâ kullanımının çoğu tedarik yoluyla gelmez. Şirketin zaten ödediği bir aracın içinde açılan bir düğme olarak, bir kişinin masrafa yazdığı kişisel bir hesap olarak ya da bir pull request'e eklenen bir kütüphane çağrısı olarak gelir. Masraf raporları, SSO ve kimlik kayıtları, bilinen sağlayıcı alan adlarına giden trafik ve depolar genelinde bir bağımlılık taraması, her biri farklı bir dilimi açığa çıkarır ve hiçbiri tek başına eksiksiz değildir. Yaygın hata, bunu tek seferlik bir uyum egzersizi saymaktır. Bir kez derlenip dosyalanan envanter hızla bozulur; çünkü sağlayıcılar mevcut ürünlere sürekli yapay zekâ özellikleri ekler ve değerlendirme sırasında yapay zekâsız olan bir araç, sizin tarafınızda hiçbir satın alma kararı olmadan sıradan bir sürümde model destekli bir özellik kazanabilir. Bu yüzden bakım, ilk taramanın eksiksizliğinden daha önemlidir. Envanteri, ayrı bir hesap tablosunda değil, kuruluşun kayıt sistemlerini zaten tuttuğu yerde saklayın — bir hizmet kataloğu, bir CMDB, bir varlık kütüğü — ve onu yapay zekâ kullanımı yaratan yolların bir adımı hâline getirin: tedarik, mimari inceleme ve sağlayıcı SDK'sı ekleyen pull request'ler. Kimsenin güncellemekle yükümlü olmadığı bir envanter bir anlık görüntüdür ve anlık görüntü geçmişe dair soruları yanıtlar.