Sessiz Arıza (Silent Failure)

Sessiz arıza, hiçbir hata üretmeyen arızadır. Hiçbir şey çökmez, hiçbir uyarı çıkmaz, her durum kodu istediğiniz koddur ve sistem yanlış olan çıktıyı döndürmeye devam eder. Bir dil modeli üzerine kurulmuş her şeyin karakteristik arıza biçimidir ve geleneksel izlemenin yapay zekâ özellikleri hakkında neden bu kadar içi rahatlatıcı yanıtlar verdiğini açıklar. Nedeni yapısaldır. Geleneksel bir sistem devam edemeyerek arızalanır: boş bir başvuru, reddedilen bir bağlantı, bir zaman aşımı. Üretken bir sistemin ise her zaman döndürecek bir şeyi vardır; bu yüzden eksik bir belge, kırpılmış bir bağlam, sessizce boş liste döndüren bir araç ya da her yanıtın tonunu kaydıran bir istem değişikliği, hepsi zamanında teslim edilen akıcı bir yanıta dönüşür. Çalışma süresi, gecikme ve hata oranı bu boyunca mükemmel görünebilir. Aynı biçim modelin epey dışında da belirir. Yeni kayıt almayı bırakıp başarı bildirmeyi sürdüren bir eşitleme, süzmeyi bırakan bir izin süzgeci, çalışıp hiçbir şey işlemeyen zamanlanmış bir iş, bir siteyi arama sonuçlarından çıkaran bir yönerge — hiçbiri bir şey kaldırmaz. Ortak yanları, yapılan kontrolün sürecin çalışıp çalışmadığı olması, ne için var olduğunu yapıp yapmadığı olmamasıdır. Bunları saptamak, yürütmeye değil sonuçlara dair iddialar kurmayı gerektirir. Beklenen hacimler ve onların yokluğu, kararlı olması gereken dağılımlar, ölçütlere göre puanlanan örneklenmiş çıktılar, yanıtları bir takvime göre kontrol edilen küçük bir bilinen girdi kümesi ve aynı biçimde yanılması gerekecek ikinci bir kaynakla mutabakat. Bunların her biri bir hata işleyicisinden daha fazla iştir; tam da bu yüzden atlanır. Kurumsal ipucu, keşfin nereden geldiğidir. Arızalar bir müşteri tarafından, denk gelip bakan bir meslektaş tarafından ya da üç aylık bir gözden geçirmede bulunuyorsa, gösterge panoları ne kadar yeşil olursa olsun sistemin sessiz arızaları vardır; ve azaltmaya değer sayı, arızanın başlamasıyla birinin fark etmesi arasındaki süredir.