Yapay Zekâ Yönetişimi

Yapay zekâ yönetişimi, bir kuruluşun yapay zekânın nerede, hangi veri üzerinde, hangi gözetimle uygulandığını ve iş ters gittiğinde kimin hesap vereceğini denetlemek için kullandığı kararlar, roller ve kayıtlar bütünüdür. Bir belge değildir. Politika, onun içindeki tek bir belgedir; yanında kullanımdaki sistemlerin envanteri, bunları riske göre derecelendirme yöntemi, yeni bir şey yayına girmeden önceki inceleme adımı ve sonrasında bütün bunların gerçekten yapıldığına dair kanıt durur. Konunun bu ölçeğe ulaşmasının nedeni, yapay zekânın çoğu şirkete yandan girmiş olmasıdır. Yazılım tedarikinin çevresinde onlarca yıllık denetim vardır; müşteri kayıtlarını bir sohbet arayüzüne yapıştıran ekibin çevresinde hiçbir şey yoktur ve aynı ekip bir modelin üzerine kurulu bir özelliği bir öğleden sonrada yayına alabilir. Yönetişim, bu faaliyete bir veritabanı göçünün ya da ödeme entegrasyonunun hâlihazırda sahip olduğu hesap verebilirliği, onu durdurmadan kazandırma girişimidir. İşi gerçek kılan parçalar gösterişsizdir. Programın bir sahibi olur. Hem satın alınan hem kurulan yapay zekâ sistemlerinin, bir kez derlenip bırakılmayan, sürdürülen bir listesi bulunur. Kullanımlar derecelendirilir ki düşük riskli taslak yazımı, insanlar hakkında otomatik karar vermekle aynı muameleyi görmesin. Yüksek riskli kullanımların çıktısından sorumlu, adı konmuş bir insan olur. Model ve prompt değişiklikleri sürümlenir ve yanlış ya da zararlı bir sonuç üretildiğinde bunu bildirmek için bir yol vardır. Yaygın başarısızlık, yalnızca kâğıt üzerinde var olan yönetişimdir. Kimsenin bulamadığı bir politika, ilk taramadan sonra güncellenmeyi bırakmış bir envanter, ekiplerin etrafından dolaşacağı kadar yavaş bir onay süreci. Bunların her biri yönetişimi gölge yapay zekâya çevirir; çünkü süreç zahmetli olduğunda iş durmaz, yalnızca görünür olmaktan çıkar. Bir programın işleyip işlemediğinin sınavı, belirli soruları hızla yanıtlayabilmesidir. Müşteriye dönük üründe yapay zekâ nerede kullanılıyor? Hangi veri hangi sağlayıcıya ulaşıyor? Bu şikâyet geldiğinde hangi prompt sürümü canlıydı? Bu kullanım senaryosunu kim onayladı? Bunları hafızadan değil kayıtlardan yanıtlayan bir kuruluşun yönetişimi vardır; yanıtlayamayanın politikası vardır.