Şirketinizdeki Yapay Zekânın Envanteri Nasıl Tutulur

Liste neden her şeyden önce gelir

Diğer bütün yapay zekâ denetimleri bir envanter varsayar. Bir kullanım politikası hangi araçların onaylı olduğunu söylemek zorundadır. Bir risk değerlendirmesi neyin değerlendirildiğini bilmek zorundadır. Bir müşteri güvenlik anketi verilerini hangi alt işleyenlerin gördüğünü sorar. Bir olay, aynı modeli ya da promptu çalıştıran diğer bütün sistemleri bulacak bir yol ister. Liste olmadan bunların her biri etrafa sorularak yanıtlanır ve yanıt, kime sorulduğu kadar iyidir.

Ayrıca kimsenin kapsamını çıkarmadığı sorunu açığa vuran denetimdir: yönetimin kullanımda olduğuna inandığı şeyle gerçekte çalışan şey arasındaki boşluk. Bu boşluk neredeyse her zaman beklenenden geniştir ve genelde kural ihlalinden oluşmaz. Açık gelmiş özelliklerden oluşur.

Saymaya başlamadan neyin sayılacağına karar verin

Bir tanım olmadan alıştırma ya yalnızca bariz sohbet araçlarını toplar ya da öneri motoru olan her ürünü içerecek kadar genişler. İşleyen bir kapsam şudur: bir modelin içerik ürettiği, bir kararı verdiği ya da esaslı biçimde etkilediği veya verinizi bir sağlayıcının altyapısında işlediği her şey. Bu, asistanları, bir API üzerine kurulmuş özellikleri, ajanları ve başka nedenlerle satın aldığınız ürünlerin içindeki yapay zekâ yeteneğini yakalar.

Sınırı yazın ve neyi bilerek dışarıda bıraktığınızı not edin; çünkü envantere ilk itiraz, birinin kendi sisteminin bu tanıma girmediğini savunmasıyla gelecektir. Yazılı bir kapsam bunu bir tartışma yerine beş dakikalık bir konuşmaya çevirir ve alıştırmayı gelecek çeyrek yinelediğinizde sayıyı karşılaştırılabilir kılar.

Hâlihazırda çalışanı bulun

Yapay zekâ kullanımı nadiren tedarik yoluyla geldiğinden, tedarik kayıtları onu bulmaz. Masraf raporları ve şirket kartları kişisel abonelikleri açığa çıkarır. Kimlik ve SSO kayıtları insanların hangi servislere giriş yaptığını gösterir. Bilinen sağlayıcı alan adlarına giden çıkış trafiği hem onaylı entegrasyonları hem kimsenin söz etmediklerini yakalar. Depolarınız genelinde bir bağımlılık taraması sağlayıcı SDK'larını, yapılandırmadaki API anahtarı desenlerinin aranması ise geri kalanı bulur.

Hiçbiri tek başına eksiksiz değildir ve hepsi birlikte bile en büyük kategoriyi kaçırır: zaten sahip olduğunuz araçların içindeki yapay zekâ özellikleri; bunlar tuttuğunuz herhangi bir kayıtta değil, bir sürüm notunda belirir. Bunlar için mevcut satıcı listenizi baştan sona geçmek ve her birine yapay zekâ yeteneği çıkarıp çıkarmadığını, bunun sizin kiracınızda etkin olup olmadığını sormak gerekir. Bu soruyu yenileme görüşmelerine kalıcı olarak koymaya değer.

Kaydı işe yarar kılan alanları tutun

Bir ad ve bir sahip, üzerine hareket etmeye yetmez. Her sistem için şunları kaydedin: ne yaptığı, kimin sahiplendiği, hangi modeli ve sağlayıcıyı kullandığı, hangi veriyi görebildiği, müşteriye mi yoksa yalnızca çalışana mı dönük olduğu, çıktısının otomatik uygulanıp uygulanmadığı ya da bir insanca incelenip incelenmediği, sağlayıcının veriyi nerede işlediği ve saklama koşullarının ne olduğu.

Sonra bütün yapıyı dürüst tutan alanı ekleyin: kaydın en son ne zaman doğrulandığı. Bu olmadan on sekiz ay önce yazılmış bir satır, geçen hafta doğrulanmış olandan ayırt edilemez ve okuyucunun listenin hangi bölümüne güveneceğini bilmesinin yolu yoktur. Görünür bir doğrulama tarihi ayrıca eskimeyi bir şüphe olmaktan çıkarıp bir olguya çevirir.

Diğer kayıtlarınızın durduğu yerde tutun

Tek başına bir hesap tablosundaki envanter bozulur; çünkü kuruluşta başka hiçbir şey ona işaret etmez. Kayıtları, sistem kayıtlarınızı zaten tutan yerde açın — bir hizmet kataloğu, bir CMDB, bir varlık kütüğü — ki bir yapay zekâ sistemi, er ya da geç görev değiştirecek tek bir kişinin sürdürdüğü paralel bir evrendeki kayıt değil, ek nitelikleri olan bir sistem olsun.

Yapay zekâ kullanımı yaratan yolların bir adımı yapın

Bakım, envanteri güncellemek birinin ayrı bir görevi olduğunda başarısız olur. Yapay zekâyı ilk elde getiren akışlarda zorunlu bir alan olduğunda işler: tedarik onayı, mimari ya da tasarım incelemesi ve bir sağlayıcı SDK'sı veya yeni bir getirme kaynağı ekleyen pull request. Bunların her birinde zaten bir geçit vardır ve var olan bir geçide tek bir soru eklemek, yılda iki kez keşif çalışması yürütmekten çok daha ucuza gelir.

Bozulacağını varsayın ve buna göre planlayın

En zor kısım ilk tarama değil, ikinci yıldır. Sağlayıcılar mevcut ürünlere sürekli yapay zekâ ekler; bu yüzden yapay zekâsız diye değerlendirilmiş bir araç, sizin tarafınızda hiçbir satın alma kararı ve size hiçbir sinyal olmadan sıradan bir sürümde model destekli bir özellik kazanabilir. Sistemler ayrıca envantere haber verilmeden hizmetten kaldırılır; bu daha az ürkütücü olan ama listeye duyulan güveni en hızlı aşındıran hatadır.

Her şeyi bir kerede gözden geçirmek yerine riske göre ağırlıklandırılmış bir tempo belirleyin: müşteriye dokunan, karar veren ya da düzenlemeye tabi veri gören sistemler sık, geri kalanı yılda bir doğrulanır. Geçitlerden açılan kayıtlarla keşifle bulunan kayıtların oranını izleyin; keşif, geçitlerin kaçırdığı şeyleri bulmaya devam ediyorsa geçitler yanlış yerdedir ve bunu bilmek, sayının kendisini bilmekten daha yararlıdır.